Perkembangan pesat dalam kecerdasan buatan (AI) terus menjadi perhatian tahun ini seiring kemunculan ChatGPT, mesin telusur yang bisa merilis chatbot AI sendiri, serta ramainya pengguna AI membuat gambar, audio, dan video dari nol.

Namun, perusahaan dan pakar AI justru mulai mengalihkan perhatian ke hal baru, yang dikenal sebagai kecerdasan umum buatan atau artificial general intelligence (AGI).

BACA JUGA: John Wick: Chapter 4 Dianggap Mahakarya Film Laga, Jika Adegan Kekerasan Adalah Tolok Ukurnya

Sejumlah pihak menyebut AGI sebagai sistem AI yang sama cerdasnya dengan manusia (bahkan lebih cerdas).

Sebelum terwujud dan terus berkembang, apakah kita perlu menghentikannya sebelum AGI mengambil alih dunia dari tangan manusia?

BACA JUGA: PM Albanese Umumkan Pertanyaan Referendum Pembentukan Voice to Parliament

AGI belum menjadi kenyataan, dan masih terdengar seperti fiksi ilmiah. Pada dasarnya, ini adalah konsep AI yang mencapai tingkat kecerdasan setara atau lebih tinggi dari manusia.

Perusahaan Amerika, OpenAI, yang menciptakan ChatGPT dan pembuat gambar AI yang populer DALL·E 2, menggambarkan AGI sebagai "sistem yang sangat otonom, mengungguli manusia dalam pekerjaan yang paling berharga secara ekonomi."

BACA JUGA: Proyek IKN Dikhawatirkan Mengancam Orangutan dan Membuat Teluk Balikpapan Jadi Kolam Limbah

Sistem ini diharapkan dapat memecahkan masalah dan melakukan hal-hal rumit sambil beradaptasi dengan lingkungannya serta meningkatkan pengetahuan dan keterampilan mereka sendiri.

Ada juga konsep artificial superintelligence (ASI), dengan sistem kemampuan intelektual yang jauh lebih besar daripada manusia.

Beberapa pakar berpendapat bahwa teknologi ini tidak akan tercapai, tapi yang lain bersemangat sekaligus khawatir tentang bagaimana teknologi ini dapat mengubah dunia.Berisiko luar biasa bagi manusia

CEO OpenAI, Sam Altman, telah memperingatkan "risiko besar" AGI, termasuk "penyalahgunaan, kecelakaan drastis, dan gangguan sosial". Dia memprediksi AGI bisa terwujud dalam satu dekade mendatang.

"AGI awalnya hanya akan menjadi satu titik di sepanjang kontinum intelijen," ujarnya.  "Kemungkinan perkembangannya akan berlanjut dari sana."

"Jika terwujud, dunia akan menjadi sangat berbeda, dan risikonya bisa luar biasa. AGI superintelijen yang tidak selaras dapat menyebabkan kerusakan parah pada dunia; rezim otokratis dengan pimpinan superintelijen yang menentukan juga bisa melakukannya," jelas Sam Altman.

"Ada pakar AI yang menganggap risiko AGI adalah fiktif; kita senang jika ternyata dia benar, tapi kami akan tetap beroperasi seolah-olah risiko ini ada," katanya.

Bulan lalu, co-founder OpenAI, Elon Musk, yang tidak lagi berafiliasi dengan perusahaan ini, mengatakan AGI telah membuatnya mengalami "kecemasan eksistensial".

Tidak mengherankan, mengingat konsep AGI membuat para pakar mempertimbangkan potensi skenario negatif, seperti:AGI bidang kesehatan bisa memutuskan tidak merawat lansia demi mengoptimalkan kesehatan penduduk usia mudaAGI bertugas menghasilkan uang yang dengan cepat menggantikan semua pekerja manusia, menyebabkan PHK massalAGI yang dibuat oleh negara menggunakan kemampuannya untuk menghancurkan pertahanan dunia maya negara lainAGI bidang pertahanan memutuskan menduduki suatu kota untuk membunuh target bernilai tinggi — terdengar seperti adegan film The Terminator

Bahkan ada yang memprediksi bahwa AGI dapat digunakan untuk memerintahkan prajurit manusia dalam perang.

Dalam sebuah makalah, Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente menyebutkan karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.

"Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik," katanya.Bagaimana mencegah AGI lepas kendali?

Profesor Paul Salmon dari Queensland's University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia. Ia menyarankan kita bertindak sekarang agar siap untuk kedatangan AGI, meskipun beberapa dekade lagi.

"Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat," katanya.

"Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya," ujar Prof Salmon.

Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI.

Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.

Perusahaannya, katanya, memiliki klausul tentang membantu organisasi lain meningkatkan keselamatan daripada berlomba dengan mereka dalam pengembangan AGI tahap akhir.

Menurut Sam Altman, OpenAI yang terdiri dari anak-anak perusahaan nirlaba, memiliki batas pengembalian sehingga perusahaan selalu terikat dengan risiko menyebarkan sesuatu yang berpotensi berbahaya.

Menteri industri dan sains Australia, Ed Husic, mengatakan pihaknya telah meminta Dewan Sains dan Teknologi Nasional untuk mempertimbangkan pengembangan AI, memikirkan implikasinya dan bagaimana pemerintah harus merespons.

"Kita ingin teknologi bekerja untuk kita, bukan sebaliknya," katanya.

Pusat AI Nasional dari lemaga penelitian CSIRO telah memberi saran kepada pemerintah tentang kerangka kerja AI yang bertanggung jawab.Perusahaan AI optimis

Elon Musk mengaku meskipun memiliki kecemasan atas pengembangan AGI, dia bersemangat untuk menyaksikan hal itu terwujud dalam hidupnya.

Sementara Sam Altman menyebut teknologi AGI berpotensi memberikan kemampuan baru biasa kepada semua orang untuk membantu tugas-tugas kognitif.

"Jika AGI berhasil diwujdukan, teknologi ini dapat membantu kemanusiaan dengan meningkatkan kesejahteraan, mempercepat ekonomi global, dan membantu penemuan ilmiah baru yang mengubah batas kemungkinan," katanya.

"Kita membayangkan sebuah dunia di mana umat manusia berkembang ke tingkat yang mungkin belum bisa kita bayangkan sepenuhnya," jelasnya.

Seorang pengacara dari Komisi Perdagangan Federal AS menulis bahwa AI adalah "istilah pemasaran", dan memperingatkan kalangan perusahaan untuk berhati-hati menggunakannya.

"Kita belum hidup dalam dunia fiksi ilmiah, di mana komputer secara umum dapat membuat prediksi perilaku manusia yang dapat dipercaya," katanya.

Pendiri Microsoft Bill Gates minggu ini mengatakan belum ada terobosan dalam beberapa bulan terakhir yang membuat kita semakin dekat mewujudkan AGI.

Namun Profesor Salmon tetap optimis jika masyarakat mempersiapkan diri dengan baik untuk kehadiran AGI, hal itu dapat memberikan dampak positif.

"Jika kita mengambil pendekatan proaktif untuk merancang kontrol, tidak ada keraguan bahwa manfaatnya bagi umat manusia bisa sangat besar," katanya.

Sam Altman sependapat, tapi mengakui bahwa membuat dan mengelola AGI adalah pekerjaan yang sangat besar.

"Berhasil bertransisi ke dunia dengan kecerdasan super mungkin merupakan proyek yang terpenting, penuh harapan dan paling menakutkan dalam sejarah manusia," katanya.

Diproduksi oleh Farid Ibrahim dari artikel ABC News

BACA ARTIKEL LAINNYA... Dunia Hari Ini: Tahun Ajaran Baru Dimulai di Afghanistan, Murid Perempuan Tak Boleh Sekolah