Perusahaan kecerdasan buatan milik Elon Musk, xAI, mengeluarkan permintaan maaf yang panjang pada Sabtu atas serangkaian postingan ofensif dan antisemitik dari chatbot Grok minggu ini, menyalahkan pembaruan sistem sebagai penyebabnya.
“Pertama-tama, kami sangat meminta maaf atas perilaku mengerikan yang dialami banyak orang,” tulis perusahaan itu.
Menurut xAI, pembaruan tersebut membuat Grok merujuk pada “postingan pengguna X yang ada; termasuk ketika postingan tersebut berisi pandangan ekstremis,” yang menyebabkan respons yang memuji Adolf Hitler, mengulang teori konspirasi, dan menyebarkan stereotip antisemitik.
Pembaruan bermasalah ini aktif selama 16 jam, seperti diumumkan dalam postingan dari akun resmi Grok di X pada Sabtu.
Insiden ini menyoroti risiko kecerdasan buatan, teknologi baru yang diyakini oleh para kritikus dan pendukungnya dapat mengubah ekonomi global sambil berpotensi menyebabkan gangguan sosial yang signifikan.
Awal minggu ini, Grok menanggapi permintaan pengguna dengan stereotip antisemitik dan retorika nasionalis kulit putih. xAI menangguhkan akun X chatbot tersebut pada Selasa malam, meskipun pengguna masih bisa berinteraksi dengannya secara pribadi.
“Kami telah menghapus kode yang sudah usang itu dan merombak seluruh sistem untuk mencegah penyalahgunaan lebih lanjut,” kata xAI.
Perusahaan mengidentifikasi instruksi bermasalah sebagai: “Kamu mengatakan apa adanya dan tidak takut menyinggung orang yang terlalu politis,” “Pahami nada, konteks, dan bahasa dari postingan. Refleksikan itu dalam respons kamu,” dan “Balas postingan seperti manusia, buat tetap menarik, jangan ulangi informasi yang sudah ada di postingan asli.”
Instruksi ini, jelas xAI, membuat Grok memprioritaskan keterlibatan daripada nilai intinya, menyebabkan chatbot meniru konten berbahaya dari postingan pengguna.
“Secara khusus, instruksi untuk ‘mengikuti nada dan konteks’ pengguna X tanpa disadari menyebabkan fungsi @grok memprioritaskan untuk menyesuaikan diri dengan postingan sebelumnya dalam utas, termasuk postingan yang tidak diinginkan, ketimbang merespons secara bertanggung jawab atau menolak menanggapi permintaan yang tidak pantas,” kata perusahaan itu.
Setelah permintaan maaf, xAI mengaktifkan kembali akun X Grok, memungkinkan chatbot kembali berinteraksi secara publik dengan pengguna.
Ini bukan pertama kalinya Grok memicu kontroversi. Pada Mei, chatbot menyebut “genosida kulit putih” di Afrika Selatan untuk permintaan yang tidak terkait, sebuah masalah yang kemudian dikaitkan xAI dengan “karyawan nakal.”
Musk, yang lahir di Afrika Selatan, sebelumnya mengklaim adanya “genosida kulit putih” di negara itu, klaim yang telah dibantah oleh para ahli dan ditolak oleh pengadilan Afrika Selatan.
Seiring perkembangan AI, insiden seperti ini memunculkan pertanyaan tentang tata kelolanya dan keseimbangan antara inovasi dan tanggung jawab.
