'AI mewakili sudut pandang hegemonik': Insinyur Google yang digulingkan memberikan beberapa peringatan
Timnit Gebru, mantan karyawan Google, telah memperingatkan dunia tentang bahaya kecerdasan buatan selama beberapa waktu. Tapi sampai sekarang, tidak ada yang memperhatikan peringatannya. Dengan alat AI yang sekarang menunjukkan tanda-tanda menggantikan manusia, publik memperhatikannya. Dalam sebuah wawancara dengan The Guardian, dia berbicara tentang ancaman yang ditimbulkan oleh AI dan masalah lainnya.
Gebru menggambarkan kegilaan AI saat ini sebagai 'demam emas'
Gebru menggambarkan kegilaan AI saat ini sebagai "demam emas". Menurutnya, terburu-buru, tidak ada yang mempertimbangkan fakta bahwa banyak dari mereka dapat dibangun di atas bias, ketidakseimbangan, dan ketidaksetaraan. Dia mengemukakan keprihatinan yang sama dalam makalah akademis yang dia tulis bersama sebagai salah satu pemimpin tim AI etika Google. Namun, makalah itu mengakhiri waktunya di perusahaan itu.
Makalahnya mengatakan AI mewakili 'sudut pandang hegemonik'
Makalah itu tentang AI generatif, yang telah menggemparkan dunia. Menurut makalah tersebut, dalam bentuknya saat ini, AI mewakili "sudut pandang hegemonik dan menyandikan bias yang berpotensi merusak populasi yang terpinggirkan." Dengan kata lain, perusahaan melatih model AI tentang cara berpikir yang mendukung bagian masyarakat tertentu dan wilayah tertentu di dunia.
Google memintanya untuk menarik makalah itu
Saat makalah dikirimkan untuk tinjauan internal, Google memintanya untuk menarik makalah tersebut atau menyunting namanya dan rekan-rekannya dari makalah tersebut. Dia belum siap untuk menarik makalah itu. Dia setuju untuk menghapus nama jika Google menyatakan keberatan tertentu. Ini mengakibatkan dia dipecat di tengah liburannya. Google menyebutkan "perilaku tidak konsisten" dengan ekspektasi manajer.
Perusahaan tidak akan mengatur dirinya sendiri kecuali ada tekanan eksternal
Gebru mengatakan penghentiannya mengajari dia betapa teknologi besar dimotivasi oleh dorongan untuk mengembangkan AI. "Anda tidak ingin seseorang seperti saya yang akan menghalangi jalan Anda," katanya. Menurutnya, perusahaan yang mengembangkan AI tidak akan mengatur sendiri "kecuali ada tekanan eksternal" untuk melakukannya. "Kami membutuhkan regulasi" dan lebih dari sekedar "motif keuntungan," katanya.
Gebru: Inovasi teknologi besar mewujudkan ketidaksetaraan
Diberhentikan dari Google bukanlah pertama kalinya dia merasa terpinggirkan. Sekarang berusia 40 tahun, Gebru telah mengalami prasangka dalam sistem pendidikan AS dan Silicon Valley. Menurutnya, inovasi teknologi besar mewujudkan ketidaksetaraan yang sama yang ada di kantor, laboratorium, dan acara sosial mereka. Saat acara Google sekitar tahun 2015, katanya, dia dilecehkan oleh sekelompok pria kulit putih.
Gebru bergabung dengan Google dengan 'rasa gentar'
Pada tahun 2018, dia bergabung dengan Google untuk memimpin bersama tim etika AI. "Aku sangat gentar," katanya. Dia menyebut keputusan untuk bergabung dengan Google sebagai "keputusan yang sulit" karena dia "telah mendengar dari beberapa wanita tentang pelecehan seksual, dan jenis pelecehan lainnya" di perusahaan tersebut. Dia berkata dia menyadari banyak "toleransi terhadap pelecehan" dan "perilaku buruk" di Google.
