Joe Biden Bertemu Dengan Pimpinan Perusahaan AI: Poin-Poin Pentingnya
Munculnya AI generatif tidak hanya memicu harapan baru tetapi juga ketakutan baru. ChatGPT dan sejenisnya telah menjadi penyebab kekhawatiran terbaru bagi pemerintah dan anggota parlemen di seluruh dunia. Di tengah meningkatnya keinginan untuk mengatur teknologi di seluruh dunia, CEO perusahaan AI terkemuka, termasuk Google dan Microsoft, bertemu dengan Presiden Amerika Serikat Joe Biden. Mari kita simak pembahasan utama dari rapat tersebut.
Sistem AI Menimbulkan Risiko Yang Tidak Kita Sadari
Kami telah melihat kemampuan chatbot seperti ChatGPT atau Bing Chat. Terlepas dari kemampuannya, produk berteknologi tinggi ini cenderung membuat kesalahan. Produk teknologi ini juga rentan terhadap halusinasi, yang mengarah pada jawaban yang salah. Catatan ini adalah beberapa risiko AI yang diketahui. Dengan teknologi yang semakin maju, seharusnya ada lebih banyak risiko yang menunggu kita.
Pemerintah Meminta Para CEO Untuk Mengurangi Risiko Yang Ada Saat Ini Dan Di Masa Mendatang
Sederet perusahaan AI belum mengembangkan mekanisme yang kuat untuk menghadapi risiko yang ditimbulkan oleh model mereka. Joe Biden dan Sang Wakil Presiden Kamala Harris menekankan perlunya memitigasi risiko saat ini dan potensi untuk mewujudkan manfaat dari AI. Harris memberi tahu para CEO bahwa mereka harus memiliki tanggung jawab hukum untuk memastikan produk AI mereka aman digunakan dan tidak akan membahayakan.
Perusahaan AI Harus Transparan Tentang Produk Mereka
Salah satu kritik utama yang dilontarkan terhadap perusahaan AI adalah mereka tidak transparan tentang produk mereka. Dalam pertemuan tersebut, para pejabat Amerika Serikat berbicara tentang perlunya perusahaan bersikap transparan dengan pembuat kebijakan. Transparansi tentang sistem AI sejauh ini terbatas pada algoritme. Banyak yang menyerukan transparansi dalam sisi interaktif dan sosial.
Para Pejabat Berbicara Tentang Proses Validasi Keselamatan, Keamanan, Dan Efektivitas AI
Model AI telah ada dari beberapa waktu yang lalu, tetapi baru sekarang menjadi populer. Oleh karena itu, kami tidak memiliki cara untuk "mengevaluasi, memverifikasi, dan memvalidasi" keselamatan, keamanan, dan efektivitas sistem AI. Ini adalah salah satu poin pembicaraan utama dari rapat tersebut, yang oleh Gedung Putih disebut "jujur dan konstruktif". Sebuah proses untuk menentukan bahwa hal ini akan membantu membangun kepercayaan.
Para Pejabat Menginginkan Para Pimpinan Perusahaan Untuk Mempromosikan Ai Yang Bertanggung Jawab
Kami telah mendengar tentang "AI yang bertanggung jawab" sejak sistem AI menjadi populer. Selama rapat berlangsung, para pejabat administrasi menekankan peran yang harus dimainkan oleh sederet CEO dalam menumbuhkan perilaku yang bertanggung jawab. Pemerintah ingin perusahaan memastikan mereka berinovasi secara bertanggung jawab dan dengan perlindungan yang memadai.
Jajaran Pemerintahan Meminta Perusahaan Untuk Mematuhi AI Bill Of Rights
Jajaran Kabinet Biden telah menugaskan Harris untuk memerangi kejahatan yang terkait dengan AI. Pemerintah akan menghabiskan $140 juta untuk meluncurkan tujuh Institut Riset AI Nasional yang berfokus pada pengembangan AI yang etis dan bertanggung jawab. Ini akan menjadikan totalnya menjadi 25. Para pejabat juga meminta perusahaan untuk mengikuti cetak biru dari AI Bill of Rights dan AI Risk Management Framework.
Sistem AI Akan Dikenakan Evaluasi Publik
Gedung Putih juga memperoleh komitmen independen dari perusahaan AI terkemuka untuk berpartisipasi dalam evaluasi publik di Defcon 31 mendatang. Para peretas di acara tersebut akan menguji LLM yang dibangun oleh Anthropic, Google, Hugging Face, NVIDIA, OpenAI, dan Stability. Mereka akan menilai bagaimana sistem AI ini sejalan dengan AI Bill of Rights.
Sederet Perusahaan Berada Di Jalur Yang Sama: kata Sam Altman
Pertemuan dengan Biden melibatkan CEO dari perusahaan saingan yang memperebutkan posisi teratas di rantai makanan AI. Menurut laporan, para CEO tidak menunjukkan perlawanan apa pun. Bahkan, mereka tampaknya berada di jalur yang sama tentang peraturan yang disebutkan. "Kami secara mengejutkan berada di jalur yang sama tentang apa yang harus terjadi," kata CEO OpenAI, Sam Altman.
CEO Google, Microsoft, Openai, Dan Anthropic Juga Hadir
Pertemuan di Gedung Putih dihadiri oleh CEO dari empat perusahaan AI teratas, termasuk Sundar Pichai dari Google, Satya Nadella dari Microsoft, Altman dari OpenAI, dan Dario Amodei dari Anthropic. Sedangkan yang mewakili pemerintah Amerika Serikat antara lain Wakil Presiden Harris, Kepala Staf Biden Jeff Zients, Penasihat Keamanan Nasional Jake Sullivan, dan Menteri Perdagangan Gina Raimondo.
