Profesor Yoshua Bengio, Salah Satu Bapak AI, Khawatir dengan Keamanan dan Regulasi AI

  • Whatsapp

Salah satu “bapak” kecerdasan buatan (AI) mengatakan bahwa jika ia menyadari kecepatan perkembangan AI, ia akan lebih memprioritaskan keselamatan daripada kegunaannya.

Profesor Yoshua Bengio mengungkapkan bahwa ia merasa “hilang” terkait pekerjaan sepanjang hidupnya.

Bacaan Lainnya

Komentar dari ilmuwan komputer ini muncul setelah para ahli AI mengatakan bahwa teknologi ini dapat menyebabkan kepunahan umat manusia.

Profesor Bengio, yang juga mendukung adanya regulasi AI, mengatakan bahwa ia tidak berpikir militer harus diberikan kekuatan AI. Ia adalah salah satu dari tiga “bapak” AI yang terkenal karena kontribusi mereka dalam bidang ini yang juga menyuarakan kekhawatiran terkait arah dan kecepatan perkembangannya.

AI menggambarkan kemampuan komputer untuk melakukan tugas yang begitu kompleks sehingga sebelumnya memerlukan kecerdasan manusia untuk menyelesaikannya.

Contoh terbaru adalah pengembangan chatbot yang ditenagai oleh AI, seperti ChatGPT, yang mampu memberikan respons mirip manusia terhadap pertanyaan.

Namun, beberapa orang khawatir bahwa kemampuan komputasi yang canggih dapat digunakan untuk tujuan yang berbahaya, seperti pengembangan senjata kimia mematikan baru.

Profesor Bengio mengatakan kepada BBC bahwa ia khawatir tentang “pelaku jahat” yang mendapatkan akses ke AI, terutama ketika AI tersebut semakin canggih dan kuat.

“Mereka bisa berasal dari pihak militer, teroris, atau seseorang yang sangat marah, psikotik. Jika mudah untuk memprogram sistem AI ini untuk melakukan hal yang sangat buruk, ini bisa sangat berbahaya.

“Jika mereka lebih cerdas daripada kita, maka sulit bagi kita untuk menghentikan sistem-sistem ini atau mencegah kerusakan,” tambahnya.

Profesor Bengio mengakui bahwa kekhawatiran tersebut memberikan beban emosional bagi dirinya, karena pekerjaan sepanjang hidupnya yang sebelumnya memberinya arah dan identitas, kini tidak lagi jelas baginya.

“Ini adalah tantangan, secara emosional, bagi orang-orang yang berada di dalamnya [bidang AI],” katanya.

“Bisa dikatakan bahwa saya merasa hilang. Namun, kita harus terus maju dan terlibat, berdiskusi, dan mendorong orang lain untuk berpikir bersama.”

Ahli AI lainnya, Dr. Geoffrey Hinton, yang juga merupakan salah satu “bapak” AI, telah menandatangani pernyataan yang sama dengan Profesor Bengio, dan baru-baru ini pensiun dari Google dengan mengaku menyesali pekerjaannya.

Sedangkan “bapak” AI ketiga, Profesor Yann LeCun, yang bersama dengan Profesor Bengio dan Dr. Hinton meraih Penghargaan Turing bergengsi atas karya pionir mereka, mengatakan bahwa peringatan-peringatan apokaliptik tersebut terlalu berlebihan.

Pemilik Twitter dan Tesla, Elon Musk, juga mengungkapkan kekhawatirannya.

“Saya tidak berpikir AI akan mencoba menghancurkan umat manusia, tetapi mungkin akan menjadikan kita di bawah kendali yang ketat,” katanya baru-baru ini dalam sebuah acara yang diselenggarakan oleh Wall Street Journal.

“Ada kemungkinan kecil bahwa AI akan memusnahkan umat manusia. Sangat dekat dengan nol, tetapi tidak tidak mungkin.”

Profesor Bengio mengatakan kepada BBC bahwa semua perusahaan yang mengembangkan produk AI yang kuat perlu terdaftar.

“Pemerintah perlu melacak apa yang mereka lakukan, mereka harus dapat mengaudit mereka, dan itu hanya hal minimum yang kita lakukan untuk sektor lain seperti pembuatan pesawat terbang, mobil, atau farmasi,” katanya.

“Kita juga membutuhkan sertifikasi bagi orang-orang yang berada dekat dengan sistem-sistem ini… kita membutuhkan pelatihan etika di sini. Ilmuwan komputer biasanya tidak mendapatkan itu, dengan cara,” tambahnya.

Namun, tidak semua orang di bidang ini percaya bahwa AI akan menjadi kehancuran manusia – yang lain berargumen bahwa ada masalah yang lebih mendesak yang perlu ditangani.

Dr. Sasha Luccioni, ilmuwan riset di perusahaan AI Huggingface, mengatakan bahwa masyarakat seharusnya fokus pada masalah seperti bias AI, polisi prediktif, dan penyebaran informasi palsu oleh chatbot yang ia sebut sebagai “kerugian yang sangat nyata”.

“Kita sebaiknya fokus pada hal itu daripada risiko hipotetis bahwa AI akan menghancurkan umat manusia,” tambahnya.

Sudah banyak contoh AI yang memberikan manfaat bagi masyarakat. Minggu lalu, alat AI menemukan antibiotik baru, dan seorang pria lumpuh dapat berjalan kembali hanya dengan berpikir tentang itu, berkat sebuah mikrochip yang dikembangkan menggunakan AI.

Namun, hal ini berbanding terbalik dengan kekhawatiran tentang dampak yang meluas dari AI terhadap ekonomi negara. Perusahaan-perusahaan sudah mulai menggantikan staf manusia dengan alat AI, dan ini menjadi faktor dalam mogok yang sedang berlangsung oleh penulis skenario di Hollywood.

“Belum terlambat untuk melakukan perbaikan,” kata Profesor Bengio tentang kondisi AI saat ini. “Ini sama persis seperti perubahan iklim.

“Kita sudah melepaskan banyak karbon ke atmosfer. Dan sebaiknya jika kita tidak melakukannya, tetapi mari kita lihat apa yang bisa kita lakukan sekarang.”

Pos terkait

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *