Sekalipun judulnya lebih terdengar seperti fiksi ilmiah bagi orang-orang yang tidak terlalu terhubung dengan teknologi, kecerdasan buatan akan menyebabkan kepunahan umat manusia jika tidak dikendalikan.
Setelah pada April 2023, Elon Musk dan pakar teknologi lainnya membicarakannya bahaya umum yang dapat dihasilkan oleh kecerdasan buatan di tingkat masyarakat, giliran para CEO dari perusahaan terbesar yang mengembangkan kecerdasan buatan untuk membunyikan alarm melalui surat terbuka.
Di antara 350 penandatangan surat terbuka yang diluncurkan oleh organisasi nirlaba "Center For AI Safety"(CAIS), termasuk: Sam Altman, CEO perusahaan OpenAI, pimpinan perusahaan AI DeepMind, Antrophic tetapi juga eksekutif dari perusahaan Microsoft, Google, yang juga mengembangkan bahasa kecerdasan buatan yang luas.
Mereka bergabung dengan sekelompok peneliti dan profesor di lapangan untuk mengekspresikan diri kekhawatiran bahwa kecerdasan buatan dapat menyebabkan kepunahan umat manusia jika para pembuat keputusan politik tidak menanggapi masalah ini dengan serius.
Efek kecerdasan buatan yang tidak diatur secara global dapat menghasilkan kerusakan sebanyak perang nuklir atau pandemi yang tidak terkendali, kata surat terbuka itu.
Akankah kecerdasan buatan menyebabkan kepunahan umat manusia?
Kemungkinan besar para pembuat keputusan akan bangun tepat waktu dan mencari solusi untuk mengatur langkah besar yang diambil oleh teknologi ini. Tentunya sebelum mengambil keputusan mereka harus menyadari apa saja resiko yang datang dari manfaat kecerdasan buatan.
Kecerdasan buatan tidak hanya berarti ChatGPT, Microsoft 365 Copilot atau Google Bard. Modeleles kecerdasan buatan generatif digunakan di obat, penelitian, robotika dan otomasi, pendidikan, keuangan, perdagangan, ditambah banyak bidang lain yang sangat membantu.
AI itu juga dapat digunakan untuk tujuan yang merusak, dan terkait dengan aspek ini adalah ketakutan bahwa kecerdasan buatan akan menyebabkan kepunahan umat manusia. Memanipulasi masyarakat dengan tujuan menciptakan ketegangan di antara massa, hingga pengembangan senjata cerdas yang mampu melampaui kecerdasan manusia dan membuat keputusan secara mandiri. Ini adalah teknologi yang mampu belajar dengan sendirinya, menilai situasi dan bertindak.
Masalah terbesar adalah itu modeleles bahasa yang luas dari AI (LLM) tersedia untuk siapa saja.
Fisi nuklir adalah langkah besar bagi umat manusia yang membawa manfaat dan bahaya besar. Energi yang dihasilkan oleh fisi nuklir merupakan sumber daya yang sangat besar dan manfaat yang nyata, sedangkan senjata nuklir dapat menjadi bencana besar bagi umat manusia. Di sisi lain, bahan bakar nuklir tidak dapat dijangkau oleh semua orang modeleles kecerdasan buatan. Uranium (U-235) atau plutonium-239 tidak akan ditemukan oleh siapa pun semudah menemukan komputer yang dapat menjalankan Python.
Namun, satu hal yang pasti. Kecerdasan buatan akan menyebabkan kepunahan umat manusia, hanya jika umat manusia mengizinkannya. Jika kekuatan alam tidak bisa dikendalikan oleh manusia, kecerdasan buatan masih bisa dikendalikan (saya harap).
