OpenAI mengusulkan pengambilan keputusan yang demokratis, badan pusat untuk mengatur AI tingkat lanjut
AI generatif adalah salah satu topik terpanas saat ini. Kemampuan AI telah mengejutkan dunia, tetapi mereka juga menimbulkan pertanyaan tentang potensi bahaya yang dapat ditimbulkannya. Anggota parlemen di seluruh dunia terlibat dalam diskusi tentang pengaturan AI. Sekarang, pencipta ChatGPT yakni OpenAI telah mengungkapkan pandangannya tentang cara mengatur AI tingkat lanjut dalam postingan blog.
Mengapa artikel ini penting?
Keberhasilan ChatGPT dan sejenisnya telah menghasilkan penggunaan teknologi AI secara luas di seluruh dunia. Fokusnya sekarang adalah pada perusahaan AI tentang bagaimana mereka berencana untuk menghentikan AI agar tidak berperilaku buruk. CEO OpenAI Sam Altman baru-baru ini muncul di hadapan subkomite Senat AS untuk mengatasi kekhawatiran anggota parlemen tentang AI. Dalam dengar pendapat, dia setuju dengan perlunya mengatur AI.
Kecerdasan super akan jauh lebih kuat daripada sistem AI saat ini
AI saat ini menakutkan. Tapi AI hari ini tidak akan ada apa-apanya dibandingkan dengan "kecerdasan super" masa depan, sebuah entitas yang dapat melampaui kecerdasan manusia, kata OpenAI. Ini akan lebih baik dari AGI (kecerdasan umum buatan). Dalam postingan blog, Altman, Presiden OpenAI Greg Brockman, dan kepala ilmuwan OpenAI Ilya Sutskever berbicara tentang mengatur kecerdasan super, sebuah teknologi yang menurut mereka akan menjadi yang paling kuat yang pernah ada.
OpenAI menyarankan upaya bersama antara perusahaan dan pemerintah
Upaya bersama antara perusahaan AI terkemuka dan pemerintah di seluruh dunia sangat penting untuk mengatur AI seperti yang kita kenal sekarang. Hal yang sama juga diperlukan dalam kasus kecerdasan super. Koordinasi antara pemangku kepentingan utama akan membantu menjaga keamanan dan kelancaran integrasi sistem ke dalam masyarakat, kata postingan itu. Bagaimana ini bisa dipraktikkan?
OpenAI: Siapkan agensi seperti IAEA
Menurut OpenAI, upaya terkoordinasi dapat dicapai baik melalui proyek yang dibuat oleh pemerintah besar di seluruh dunia atau organisasi payung. Selama dengar pendapat Senat, Altman berbicara tentang mendirikan organisasi untuk mengatur AI. Dalam postingan blog tersebut, perusahaan mengusulkan untuk membuat sebuah badan seperti Badan Energi Atom Internasional (IAEA) untuk mengatur upaya kecerdasan super.
Badan ini akan fokus pada risiko eksistensial yang ditimbulkan oleh AI
"Sesuatu seperti IAEA untuk AI tingkat lanjut patut dipertimbangkan," kata Altman. Badan tersebut akan memiliki kekuatan untuk memeriksa sistem AI di luar batas kemampuan tertentu, "mewajibkan audit, menguji kepatuhan terhadap standar keselamatan, dan membatasi tingkat penyebaran." Menurut OpenAI, mandat agensi semacam itu harus fokus pada "risiko eksistensial" dan bukan hal-hal sepele.
Sistem AI saat ini dapat ditangani seperti teknologi lainnya
Sementara OpenAI mendukung untuk mengatur AI tingkat lanjut, mereka percaya perusahaan dan proyek sumber terbuka harus diizinkan untuk mengembangkan sistem AI "di bawah ambang batas kemampuan yang signifikan" tanpa banyak regulasi. Ini termasuk usulan perizinan sistem AI dan audit. Perusahaan menganggap risiko yang ditimbulkan oleh sistem AI saat ini tidak lebih dari "teknologi internet" lainnya.
Publik harus memutuskan 'batas dan default' sistem AI
Dalam postingan blog, OpenAI mengatakan "pengawasan publik" sangat penting dalam mengatur AI tingkat lanjut. "Tata kelola sistem yang paling kuat, serta keputusan terkait penerapannya, harus memiliki pengawasan publik yang kuat," kata perusahaan itu. Menurut OpenAI, publik harus "memutuskan secara demokratis" pada "batasan dan default" sistem AI. Namun, perusahaan ini tidak mengatakan bagaimana melakukan itu.
Brockman mengusulkan sistem mirip Wikipedia untuk mengatur AI
Brockman mengungkapkan pandangan serupa selama acara 'AI Forward' yang diselenggarakan oleh Goldman Sachs Group dan SV Angel. Dia mengusulkan sistem seperti Wikipedia di mana orang dapat secara demokratis memutuskan seperti apa AI seharusnya. Dalam sistem ini, orang-orang dengan pandangan yang beragam akan memiliki kesempatan untuk menyatakan pendapatnya. Brockman tidak mengatakan lebih banyak tentang sistem demokrasi baru ini.
