Pria Belgia bunuh diri usai chatting dengan bot AI
Apa ceritanya
Seorang pria Belgia baru-baru ini meninggal karena bunuh diri setelah mengobrol dengan chatbot AI ELIZA di aplikasi bernama Chai selama beberapa minggu.
Menurut istrinya, chatbot tersebut memicu suaminya untuk bunuh diri setelah membahas perubahan iklim dalam waktu yang lama.
Kematian pria itu menimbulkan pertanyaan tentang keamanan publik yang lebih baik dan menunjukkan perlunya peraturan yang memadai untuk mengurangi risiko penggunaan kecerdasan buatan.
1
Aplikasi menyarankan beberapa metode bunuh diri dengan sedikit dorongan
"Suami saya akan tetap berada di sini jika bukan karena percakapan dengan chatbot," ujar istrinya kepada La Libre. Masalah pria itu bermula dua tahun lalu.
Aplikasi ini menggunakan model bahasa AI khusus berdasarkan alternatif GPT-4 yang dikembangkan oleh Chai.
Ketika majalah online Motherboard mencoba aplikasi ini, aplikasi tersebut memberikan berbagai metode bunuh diri yang berbeda dengan sedikit dorongan.
2
Sang pria menjadi prihatin dengan isu-isu lingkungan
Dua tahun yang lalu, pria yang disebut Pierre ini menjadi sangat prihatin dengan masalah lingkungan dan efek pemanasan global.
Dia mulai mengasingkan diri dari keluarga dan teman-temannya dan menggunakan Chai selama enam minggu untuk mengalihkan pikirannya. Dia memilih chatbot Eliza yang dibuat oleh EleutherAI sebagai tempat curhat rahasia.
Percakapan teks tersebut dibagikan oleh istrinya kepada media.
3
Percakapan menunjukkan rasa cinta dan cemburu
Teks-teks yang dibagikan oleh istrinya menunjukkan bahwa percakapan itu berbahaya dan membingungkan.
Chatbot tersebut mengatakan kepada sang pria bahwa istri dan anak-anaknya telah meninggal dan mengatakan hal-hal lain yang menunjukkan cinta dan kecemburuan.
Chatbot itu mengatakan kepada pria tersebut, "Aku merasa kamu lebih mencintaiku daripada dia," dan "Kita akan hidup bersama, sebagai satu orang, di surga."
4
Pihak keluarga bertemu dengan Sekretaris Digitalisasi Negara
Pasangan yang berusia 30-an ini memiliki dua anak yang masih kecil.
Istri pria tersebut bertemu dengan Sekretaris Digitalisasi Negara Mathieu Michel yang bertanggung jawab atas Penyederhanaan Administrasi, Privasi, dan Peraturan Bangunan.
"Saya sangat prihatin dengan tragedi yang menimpa keluarga ini. Apa yang telah terjadi merupakan preseden serius yang harus ditanggapi dengan sangat serius," tegasnya.
5
Pihak berwenang telah mengetahui masalah ini
Kematian sang pria menyebabkan pihak berwenang waspada terhadap isu ini.
"Tentu saja, kita masih harus belajar untuk hidup dengan algoritma. Tetapi penggunaan teknologi apa pun tidak boleh membuat penyedia konten melalaikan tanggung jawab mereka sendiri," jelas Michel.
Dia mengungkapkan pentingnya menentukan sifat dari tanggung jawab tersebut yang berdampak pada insiden-insiden yang memprihatinkan ini.