Para ilmuwan menyerukan penghentian perlombaan AI yang dipicu oleh ChatGPT

Apakah perusahaan teknologi bergerak terlalu cepat dalam meluncurkan teknologi kecerdasan buatan yang kuat yang suatu hari bisa mengakali manusia?

Musk, para ilmuwan menyerukan penghentian perlombaan AI yang dipicu oleh ChatGPT. (REUTERS)

Apakah perusahaan teknologi bergerak terlalu cepat dalam meluncurkan teknologi kecerdasan buatan yang kuat yang suatu hari bisa mengakali manusia?

Itulah kesimpulan dari sekelompok ilmuwan komputer terkemuka dan tokoh industri teknologi lainnya seperti Elon Musk dan salah satu pendiri Apple Steve Wozniak yang menyerukan jeda 6 bulan untuk mempertimbangkan risikonya.

Petisi mereka yang diterbitkan hari Rabu adalah tanggapan terhadap peluncuran GPT-4 baru-baru ini oleh startup San Francisco OpenAI, penerus yang lebih maju dari chatbot AI ChatGPT yang banyak digunakan yang membantu memicu perlombaan di antara raksasa teknologi Microsoft dan Google untuk mengungkap aplikasi serupa.

APA YANG MEREKA KATAKAN?

Surat itu memperingatkan bahwa sistem AI dengan "kecerdasan persaingan manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan" - mulai dari membanjiri internet dengan disinformasi dan mengotomatiskan pekerjaan hingga risiko masa depan yang lebih dahsyat dari dunia fiksi ilmiah.

Dikatakan "beberapa bulan terakhir telah melihat laboratorium AI terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menerapkan pikiran digital yang semakin kuat yang tidak seorang pun - bahkan pembuatnya - dapat memahami, memprediksi, atau mengontrol dengan andal."

“Kami meminta semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan,” kata surat itu. “Jeda ini harus bersifat publik dan dapat diverifikasi, serta mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.”

Sejumlah pemerintah sudah bekerja untuk mengatur alat AI berisiko tinggi. Inggris merilis sebuah makalah pada hari Rabu yang menguraikan pendekatannya, yang dikatakannya “akan menghindari undang-undang yang berat yang dapat menghambat inovasi.” Anggota parlemen di 27 negara Uni Eropa telah menegosiasikan pengesahan aturan AI.

SIAPA YANG MENANDATANGANINYA?

Petisi tersebut diselenggarakan oleh organisasi nirlaba Future of Life Institute, yang menyatakan bahwa penandatangan yang dikonfirmasi termasuk perintis AI pemenang Penghargaan Turing Yoshua Bengio dan peneliti AI terkemuka lainnya seperti Stuart Russell dan Gary Marcus. Orang lain yang bergabung termasuk Wozniak, mantan kandidat presiden AS Andrew Yang dan Rachel Bronson, presiden Bulletin of the Atomic Scientist, sebuah kelompok advokasi berorientasi sains yang dikenal karena peringatannya terhadap perang nuklir yang mengakhiri kemanusiaan.

Musk, yang menjalankan Tesla, Twitter, dan SpaceX dan merupakan salah satu pendiri OpenAI dan investor awal, telah lama menyatakan keprihatinan tentang risiko eksistensial AI. Inklusi yang lebih mengejutkan adalah Emad Mostaque, CEO Stability AI, pembuat generator gambar AI Stable Diffusion yang bermitra dengan Amazon dan bersaing dengan generator serupa OpenAI yang dikenal sebagai DALL-E.

APA TANGGAPANNYA?

OpenAI, Microsoft dan Google tidak segera menanggapi permintaan komentar pada hari Rabu, tetapi surat tersebut sudah memiliki banyak skeptis.

“Jeda adalah ide yang bagus, tetapi surat itu tidak jelas dan tidak menganggap serius masalah peraturan,” kata James Grimmelmann, seorang profesor hukum digital dan informasi Universitas Cornell. “Juga sangat munafik bagi Elon Musk untuk menandatangani mengingat betapa kerasnya Tesla berjuang melawan pertanggungjawaban atas AI yang rusak di mobil self-driving-nya.”