Google memecat insinyur yang mengatakan AI LaMDA milik perusahaan itu hidup
Apa ceritanya
Blake Lemoine, insinyur Google yang menjadi berita utama karena mengklaim bahwa chatbot AI LaMDA milik perusahaan itu hidup, telah dipecat.
Dia menerima surat pemberhentiannya pada hari Jumat. Pada bulan Juni, ia dikenakan cuti administratif dengan gaji karena melanggar kebijakan kerahasiaan.
Google, yang berulang kali menyebut klaim Lemoine tidak berdasar, berharap dia baik-baik saja setelah mengakhiri pekerjaannya.
Konteks
Mengapa artikel ini penting?
Kepekaan sistem AI telah menjadi topik diskusi penting karena perusahaan seperti Google, OpenAI, dan Facebook mencoba mengembangkan model bahasa yang kompleks.
Seperti Lemoine, banyak yang akan khawatir bahwa sistem ini berada di ambang memperoleh kesadaran. Sayangnya, tidaklah seperti itu.
Kita belum mencapai kemajuan teknologi untuk membuat lompatan seperti itu.
Alasan
Apa yang menyebabkan pemecatan Lemoine?
Pada bulan Juni, Lemoine, yang bekerja untuk departemen Responsible AI Google, mengklaim bahwa LaMDA telah menjadi makhluk hidup berdasarkan percakapannya dengan chatbot AI itu.
Dia mengatakan bahwa AI itu memiliki pikiran dan perasaannya sendiri dan ingin para insinyur mendapatkan persetujuannya sebelum menjalankan eksperimen terhadap AI ini.
Lemoine juga menghubungi pemerintah dan bahkan menyewa pengacara untuk mewakili LaMDA.
informasi
Google mengklaim bahwa LaMDA adalah peniru yang hebat, bukan makhluk hidup
Setelah klaim Lemoine tentang LaMDA, Google memberinya cuti administratif dengan gaji karena melanggar kebijakan kerahasiaan perusahaan. Google, bersama dengan beberapa pakar AI dan ahli etika, bicara dan membantah klaimnya. Perusahaan itu juga mengatakan bahwa LaMDA tidak lain adalah peniru ahli.
Lemoine
Lemoine menerima surat pemberhentiannya pada hari Jumat
Lemoine dipecat pada 22 Juli melalui email. Dia mengatakan bahwa dia menerima surat pemberhentian bersama dengan permintaan untuk bergabung dengan panggilan video.
Menurutnya, permintaannya untuk menghadirkan pihak ketiga dalam pertemuan tersebut ditolak oleh Google. Insinyur itu mengatakan bahwa dia sedang berbicara dengan pengacaranya tentang tindakan di masa depan.
Pernyataan resmi
Google: Klaim Blake 'sepenuhnya tidak berdasar'
Tentang pernyataan Lemoine dan pemecatan yang diakibatkannya, juru bicara Google Brian Gabriel mengatakan, "Kami menemukan klaim Blake bahwa LaMDA itu hidup sepenuhnya tidak berdasar dan bekerja untuk mengklarifikasi hal itu dengannya selama berbulan-bulan."
"Blake masih memilih untuk terus-menerus melanggar kebijakan ketenagakerjaan dan keamanan data yang jelas yang mencakup keharusan untuk menjaga informasi produk," lanjutnya.
"Kami berharap Blake baik-baik saja," kata juru bicara itu.
informasi
Google telah memecat insinyur sebelumnya karena menyuarakan penolakan terhadap LaMDA
Google selalu menunjukkan tangan besinya ketika karyawan mempertanyakan pengembangan AI-nya. Margaret Mitchell dan Timnit Gebru dari divisi Ethical AI-nya dipecat sebelumnya karena memperingatkan tentang risiko LaMDA.
AI
Apa itu LaMDA?
LaMDA atau 'Language Model for Dialogue applications/Model Bahasa untuk aplikasi Dialog' adalah model bahasa pembelajaran mesin tingkat lanjut dari Google. AI ini dilatih dengan triliyunan teks dari internet dan dapat menanggapi petunjuk tertulis.
Karena AI ini dilatih dengan dialog, ia memiliki kemampuan untuk memprediksi kata yang paling mungkin berikutnya dalam sebuah kalimat. Hal ini dapat menyebabkan percakapan seperti manusia yang mengecoh.