Kontroversi Gemini Peringatan akan Kekuasaan Raksasa Teknologi atas Kecerdasan Buatan

SKANDAL yang meletus setelah chatbot Gemini milik Google menghasilkan gambar tentara Nazi keturunan Hitam dan Asia dipandang sebagai peringatan, tentang kekuatan yang dapat diberikan kecerdasan buatan kepada raksasa teknologi.

CEO Google Sundar Pichai bulan lalu mengecam kesalahan aplikasi AI Gemini perusahaannya sebagai "tidak dapat diterima sama sekali," setelah gambar-gambar yang tidak akurat secara historis memaksa aplikasi tersebut untuk sementara waktu menghentikan penggunaan pembuatan gambar orang.

Pengguna media sosial mengejek dan mengkritik Google untuk gambar-gambar yang tidak akurat secara historis, seperti gambar seorang senator Amerika keturunan hitam pada abad ke-19 -- saat senator pertama yang sejenis itu tidak terpilih hingga tahun 1992.

"Kami pasti salah dalam generasi gambar," kata salah satu pendiri band terkenal, Sergey Brin, di acara "hackathon" AI baru-baru ini, menambahkan bahwa perusahaan seharusnya menguji Gemini secara lebih menyeluruh.

Mereka yang diwawancara di festival seni dan teknologi South by Southwest di Austin mengatakan kegagalan Gemini menyoroti kekuatan yang tidak seimbang dari sejumlah perusahaan atas platform kecerdasan buatan yang siap mengubah cara orang hidup dan bekerja.

"Pada dasarnya, itu terlalu 'woke,'" kata Joshua Weaver, seorang pengacara dan pengusaha teknologi, yang berarti Google terlalu berlebihan dalam upayanya untuk menunjukkan inklusi dan keragaman.

Google segera memperbaiki kesalahannya, tetapi masalah mendasarnya tetap ada, kata Charlie Burgoyne, CEO laboratorium ilmu terapan Valkyrie di Texas.

Dia menyamakan perbaikan Google terhadap Gemini dengan menempelkan perban pada luka tembak.

Sementara Google sebelumnya memiliki waktu untuk menyempurnakan produknya, sekarang mereka sedang berlomba dalam perlombaan AI dengan Microsoft, OpenAI, Anthropic, dan lainnya, Weaver mencatat, menambahkan, "Mereka bergerak lebih cepat daripada yang mereka ketahui."

Kesalahan yang terjadi dalam upaya sensitivitas budaya adalah titik fokus, terutama mengingat perpecahan politik yang tegang di Amerika Serikat, situasi yang diperburuk oleh platform X milik Elon Musk, mantan Twitter.

"Orang-orang di Twitter sangat senang merayakan hal memalukan apa pun yang terjadi dalam teknologi," kata Weaver, menambahkan bahwa reaksi terhadap kelalaian Nazi itu "diperbesar."

Kegagalan tersebut, bagaimanapun, mempertanyakan tingkat kontrol mereka yang menggunakan alat AI atas informasi, katanya.

Dalam dekade mendatang, jumlah informasi -- atau disinformasi -- yang dihasilkan oleh AI dapat melampaui yang dihasilkan oleh manusia, artinya mereka yang mengendalikan perlindungan AI akan memiliki pengaruh besar pada dunia, kata Weaver.

Bias-masuk, Bias-keluar

Karen Palmer, seorang pembuat realitas campuran pemenang penghargaan dengan Interactive Films Ltd., mengatakan dia bisa membayangkan masa depan di mana seseorang naik taksi robo dan, "jika AI memindai Anda dan berpikir bahwa ada pelanggaran yang tertunda terhadap Anda... Anda akan dibawa ke kantor polisi setempat," bukan tujuan Anda yang dimaksudkan.

AI dilatih pada tumpukan data dan dapat digunakan untuk berbagai tugas yang semakin meningkat, mulai dari pembuatan gambar atau audio hingga menentukan siapa yang mendapat pinjaman atau apakah pemindaian medis mendeteksi kanker.

Namun, data tersebut berasal dari dunia yang dipenuhi dengan bias budaya, disinformasi, dan ketidakadilan sosial -- tanpa melupakan konten online yang dapat mencakup obrolan santai antara teman atau postingan yang sengaja dibesar-besarkan dan provokatif -- dan model AI dapat menggema cacat tersebut.

Dengan Gemini, insinyur Google mencoba untuk menyeimbangkan algoritma untuk memberikan hasil yang lebih mencerminkan keragaman manusia.

Upaya itu gagal.

"Memang sangat sulit, rumit, dan halus untuk menentukan di mana biasanya dan bagaimana itu disertakan," kata pengacara teknologi Alex Shahrestani, mitra manajemen di firma hukum Promise Legal untuk perusahaan teknologi.

Bahkan insinyur yang bermaksud baik yang terlibat dalam pelatihan AI tidak bisa membantu tetapi membawa pengalaman hidup dan bias bawah sadar mereka sendiri ke dalam proses tersebut, katanya dan yang lainnya percaya.

Burgoyne dari Valkyrie juga menghujat big tech karena menyimpan inner workings dari AI generatif di dalam "kotak hitam," sehingga pengguna tidak dapat mendeteksi bias yang tersembunyi.

"Kemampuan keluaran jauh melampaui pemahaman kita tentang metodologi," katanya.

Para ahli dan aktivis menyerukan adanya lebih banyak keberagaman di tim yang membuat AI dan alat terkait, serta transparansi yang lebih besar tentang bagaimana mereka bekerja -- terutama ketika algoritma menulis ulang permintaan pengguna untuk "memperbaiki" hasil.

Tantangannya adalah bagaimana membangun perspektif yang sesuai dari komunitas-komunitas yang beragam di dunia, kata Jason Lewis dari Indigenous Futures Resource Center dan kelompok terkait di sini.

Di Indigenous AI, Jason bekerja dengan komunitas-komunitas asli yang terpencar-pencar untuk merancang algoritma yang menggunakan data mereka secara etis sambil mencerminkan perspektif mereka tentang dunia, sesuatu yang tidak selalu dia lihat dalam "kesombongan" pemimpin big tech.

Pekerjaannya sendiri, kata dia kepada sebuah kelompok, berdiri dalam "kontras yang sangat besar dari retorika Silicon Valley, di mana ada 'Oh, kita melakukan ini karena kita akan memberikan manfaat bagi semua umat manusia' omong kosong, benar?"

Para hadirinnya tertawa. (AFP/Z-3)

Cek berita dan artikel yg lain di Google News dan dan ikuti WhatsApp channel mediaindonesia.com

Editor : Thalatie Yani

visitaaponce.com