Departemen Luar Negeri AS memperingatkan tentang potensi bahaya AI bagi kehidupan manusia. Laporan yang disusun Gladstone AI itu telah mewawancarai ratusan orang selama setahun, termasuk eksekutif top perusahaan AI, pakar keamanan siber, pakar senjata pemusnah massal dan pejabat keamanan.
Laporan itu menyimpulkan bahwa skenario terburuk AI bisa memusnahkan manusia. Meskipun AI memberikan manfaat besar seperti menyembuhkan penyakit dan membuat penemuan ilmiah, AI juga menghadirkan risiko serius, termasuk risiko bencana dan kehilangan kendali atas sistem AI yang dikembangkan.
"AI sudah menjadi teknologi transformatif bagi ekonomi. Ia bisa menyembuhkan penyakit, membuat penemuan ilmiah dan menyelesaikan tantangan yang sebelumnya kita pikir tidak bisa," kata CEO Gladstone AI, Jeremie Harris.
"Tapi AI juga bisa membawa risiko serius, termasuk risiko bencana, yang perlu kita sadari. Dan bukti yang semakin bertambah mengindikasikan bahwa di atas kapabilitas tertentu, AI bisa menjadi tidak dapat dikendalikan," tambahnya seperti dilansir CNN.
Laporan itu mengungkapkan dua faktor utama AI bisa memusnahkan kehidupan manusia yaitu pengembangan senjata berbasis AI yang sangat mematikan dan merusak. Kedua, robot AI bisa kehilangan kendali dan bertindak di luar kontrol sehingga mengancam jiwa manusia.
"Kebangkitan AI dan AGI berpotensi mengacaukan keamanan global yang mirip dengan pengenalan senjata nuklir," sebut laporan itu.
Karena itu, pemerintah dan perusahaan yang bersangkutan harus sadar dan mengambil sikap tentang bahayanya AI. Diperlukan aturan dan pembatasan untuk mengendalikan penggunaan komputer dalam melatih AI. Kesimpulan ini menambah peringatan sebelumnya tentang risiko eksistensial AI, termasuk pernyataan Geoffrey Hinton bahwa AI dapat menyebabkan kepunahan manusia dalam beberapa dekade mendatang.
Hinton dan puluhan pemimpin industri AI, akademisi dan pihak lainnya menandatangani pernyataan pada bulan Juni lalu yang menyatakan "mitigasi risiko kepunahan AI harus menjadi prioritas global". Para pemimpin bisnis juga mulai menyadari bahaya ini, meskipun terus berinvestasi dalam AI. CEO di Yale CEO Summit mengungkapkan kekhawatiran bahwa AI dapat menghancurkan umat manusia dalam beberapa tahun ke depan.
