Ketegangan dalam grup AI etis Google meningkat saat mengirimkan permintaan ke CEO


Ketegangan antara grup AI Etis Google dan eksekutif di perusahaan meningkat pada hari Rabu, karena karyawan mengirim daftar tuntutan terkait kepergian salah satu pemimpin tim baru-baru ini – seorang wanita kulit hitam terkemuka di bidang yang sebagian besar berkulit putih dan laki-laki.

Surat yang dikirim ke CEO Sundar Pichai, berjudul “Masa depan AI yang Beretika di Google.” Ini menjabarkan langkah-langkah yang para peneliti ingin perusahaan lakukan untuk “membangun kembali kepercayaan” dengan tim dan menciptakan lingkungan di mana mereka dapat melanjutkan pekerjaan mereka. Tim tersebut meneliti dampak etis dari kecerdasan buatan dan memberi saran kepada perusahaan tentang kebijakan dan produk AI.

Itu terjadi setelah Timnit Gebru keluar secara tiba-tiba, yang hingga awal Desember adalah salah satu pemimpin tim AI Etis Google. Dia juga salah satu dari sedikit karyawan Kulit Hitam di perusahaan secara keseluruhan (3,7% karyawan Google berkulit hitam, menurut laporan keragaman tahunan perusahaan tahun 2020) – apalagi di divisi AI-nya. Ilmuwan riset juga salah satu pendiri grup Black in AI, yang bertujuan untuk meningkatkan representasi orang kulit hitam di lapangan.

Tuntutan dalam surat tersebut termasuk penghapusan wakil presiden Google, Megan Kacholia, dari rantai manajemen tim; untuk transparansi seputar kepergian Gebru; dan untuk kepala AI Google, Jeff Dean, dan Kacholia untuk meminta maaf atas perlakuan Gebru. Ini juga menghimbau perusahaan untuk menawarkan Gebru posisi baru yang lebih tinggi, untuk berkomitmen secara terbuka terhadap integritas penelitian yang dilakukan di Google, dan untuk menjamin tidak akan merugikan pekerja yang mendukung Gebru.

Dalam pesan yang dikirim ke Pichai dan orang lain yang terkait dengan surat itu, Alex Hanna, seorang ilmuwan peneliti senior di tim AI Etis, mengatakan bahwa itu dikirim atas nama timnya. Sebuah sumber yang akrab dengan tim tersebut mengatakan bahwa tim tersebut terdiri dari sekitar selusin anggota.

Dilaporkan pertama kali oleh Bloomberg, CNN Business juga memperoleh salinan surat tersebut dan mengkonfirmasi keasliannya. Google tidak segera menanggapi permintaan komentar.

Pada hari Rabu, 2 Desember, Gebru tweeted bahwa dia telah “segera dipecat” karena email yang baru-baru ini dia kirim ke milis internal Google Brain Women and Allies. Dalam email tersebut dia menyatakan kekecewaan atas kurangnya keberagaman yang sedang berlangsung di perusahaan dan rasa frustrasi atas proses internal terkait dengan peninjauan makalah penelitian yang belum diterbitkan yang dia tulis bersama.

Di tweet kemudian, Gebru mengklarifikasi bahwa tidak ada seorang pun di Google yang secara eksplisit memberitahunya bahwa dia dipecat. Sebaliknya, dia mengatakan Google tidak akan memenuhi sejumlah syaratnya untuk kembali dan menerima pengunduran dirinya segera karena merasa bahwa emailnya mencerminkan “perilaku yang tidak sesuai dengan ekspektasi manajer Google.”

Keluarnya Gebru yang tiba-tiba dengan cepat membuat marah ribuan karyawan perusahaan dan lainnya di komunitas teknologi dan akademis.

Google mengatakan pada Rabu, 9 Desember bahwa mereka akan memeriksa kepergian Gebru. Dalam memo yang dikirim ke karyawan Google, Pichai menulis bahwa perusahaan perlu “menilai keadaan” yang menyebabkan Gebru meninggalkan Google minggu lalu, dan memeriksa “di mana kami dapat meningkatkan dan memimpin proses yang lebih terhormat.”

“Kami akan memulai tinjauan tentang apa yang terjadi untuk mengidentifikasi semua poin di mana kami dapat belajar – mempertimbangkan segala sesuatu mulai dari strategi de-eskalasi hingga proses baru yang dapat kami terapkan,” tulisnya dalam memo yang telah dikonfirmasi sebagai otentik oleh CNN Business .

Gebru dikenal karena penelitiannya tentang bias dan ketidaksetaraan dalam AI, dan khususnya untuk makalah tahun 2018 yang dia tulis bersama yang menyoroti betapa buruknya kinerja perangkat lunak pengenalan wajah komersial saat mencoba mengklasifikasikan wanita dan orang kulit berwarna. Pekerjaan mereka memicu kesadaran luas tentang masalah yang umum terjadi di AI saat ini, terutama ketika teknologi tersebut bertugas mengidentifikasi apa pun tentang manusia.


Source : Totobet SGP