Teknologi iklan AI baru dari Meta ditujukan untuk mengurangi diskriminasi
Dalam upaya untuk mengatasi kekhawatiran tentang iklannya yang diskriminatif, Meta telah meluncurkan beberapa perubahan untuk memastikan bahwa audiens yang sebenarnya untuk sebuah iklan sangat cocok dengan target audiens. Dijuluki Variance Reduction System (VRS), teknologi ini dimaksudkan untuk memastikan bahwa iklan tidak bias terhadap kelompok budaya tertentu. Pembaruan tersebut merupakan bagian dari penyelesaian dengan Departemen Kehakiman (DOJ).
Mengapa artikel ini penting?
Terlepas dari hari dan usia kita hidup, iklan diskriminatif atau iklan yang menargetkan satu kelompok demografis masih merajalela. Teknologi AI baru Meta mengirimkan pesan yang kuat terhadap iklan semacam itu. Ini juga akan menginspirasi perusahaan lain untuk bertindak melawan iklan diskriminatif. Meskipun teknologinya sendiri menarik, kita harus melihat seberapa suksesnya untuk membuat klaim yang tinggi.
Pengiklan menggunakan alat iklan untuk mendiskriminasi kelompok tertentu
Meta memungkinkan pengiklan menargetkan orang berdasarkan minat, demografi, dan perilaku. Melalui 'lelang iklan', diputuskan iklan apa yang akan ditampilkan kepada pengguna pada waktu tertentu. Meskipun memiliki aturan terhadap iklan diskriminatif, perusahaan ini menerima keluhan tentang pengiklan yang berpotensi menggunakan alat iklan untuk mengecualikan orang dari layanan tertentu, termasuk perumahan, peluang kerja, dan banyak lagi.
VRS membandingkan audiens yang sebenarnya dengan audiens yang ditargetkan
Dengan VRS, Meta bertujuan untuk memastikan bahwa pengguna yang melihat iklan perumahan, kredit, atau pekerjaan sangat mencerminkan audiens yang ditargetkan. Perusahaan ini akan mencapainya dengan mengukur pemirsa untuk iklan tertentu dan kemudian membandingkannya dengan distribusi demografis (usia, jenis kelamin, atau perkiraan ras) pemirsa yang dipilih pengiklan. Sistem baru ini didasarkan pada data agregat.
Sistem ini akan menyesuaikan nilai lelang iklan
Setelah sistem VRS memiliki datanya, sistem itu akan menyesuaikan nilai lelang iklan untuk menampilkannya lebih atau kurang ke grup tertentu. Awalnya, Meta menerapkan sistem baru ini untuk menampung iklan. Perusahaan itu berencana untuk memperluas sistem ini ke iklan pekerjaan dan kredit selama tahun depan. Menurut Meta, sistem ini tidak akan membahayakan privasi karena didasarkan pada data agregat.
DOJ menarik Meta pada 2019 karena memungkinkan diskriminasi perumahan
Implementasi VRS datang enam bulan setelah Meta setuju untuk menyelesaikan tuntutan oleh DOJ. Pada 2019, departemen tersebut menuduh Meta memungkinkan diskriminasi perumahan melalui penargetan iklan. Ini adalah pertama kalinya DOJ bergerak melawan bias algoritmik. Sebagai bagian dari penyelesaian, Meta setuju untuk mengesampingkan alat 'Pemirsa Iklan Khusus' yang diduga menggunakan algoritme yang bias.
