visitaaponce.com

PARA peneliti di Microsoft telah mengungkapkan alat buatan baru yang dapat menciptakan avatar manusia yang sangat realistis. Namun tidak memberikan jadwal untuk membuatnya tersedia untuk publik, dengan alasan kekhawatiran tentang memfasilitasi konten palsu yang dalam.

Model AI yang dikenal sebagai VASA-1, untuk "keterampilan afektif visual," dapat membuat video animasi seseorang berbicara, dengan gerakan bibir yang disinkronkan, hanya dengan menggunakan satu gambar dan klip audio pidato.

Para peneliti disinformasi khawatir akan penyalahgunaan luas aplikasi yang didukung AI untuk membuat gambar, video, dan klip audio "deep fake" dalam tahun pemilihan yang krusial.

Baca juga : Akankah AI Selamatkan Manusia? Festival Teknologi AS Menjawab

"Kami menentang segala perilaku untuk membuat konten yang menyesatkan atau berbahaya tentang orang nyata," tulis para penulis laporan VASA-1, yang dirilis pekan ini oleh Microsoft Research Asia.

"Kami berkomitmen untuk mengembangkan AI secara bertanggung jawab, dengan tujuan untuk memajukan kesejahteraan manusia," kata mereka.

"Kami tidak memiliki rencana untuk merilis demo online, API, produk, detail implementasi tambahan, atau penawaran terkait lainnya sampai kami yakin bahwa teknologi ini akan digunakan secara bertanggung jawab dan sesuai dengan peraturan yang tepat."

Baca juga : UE Tanyai TikTok, X, Aplikasi Lain terkait Risiko AI terhadap Pemilu

Para peneliti Microsoft mengatakan teknologi tersebut dapat menangkap berbagai nuansa wajah dan gerakan kepala yang alami.

"Ini membuka jalan bagi keterlibatan real-time dengan avatar yang realistis yang meniru perilaku percakapan manusia," kata para peneliti dalam posting.

VASA dapat bekerja dengan foto-foto artistik, lagu, dan pidato non-Inggris, menurut Microsoft.

Baca juga : Microsoft Indonesia Tegaskan AI tetap Butuh Kreativitas Pengguna 

Para peneliti memamerkan manfaat potensial dari teknologi tersebut seperti memberikan guru virtual kepada siswa atau dukungan terapi kepada orang yang membutuhkan.

"Ia tidak dimaksudkan untuk menciptakan konten yang digunakan untuk menyesatkan atau menipu," kata mereka.

Video VASA masih memiliki "artifak" yang mengungkapkan mereka dihasilkan AI, menurut posting tersebut.

Baca juga : Bekerja Sama Dengan Microsoft, Mitra Integrasi Informatika Meluncurkan MIAI untuk Membantu Pekerjaan Karyawan

Pemimpin teknologi ProPublica Ben Werdmuller mengatakan dia akan "senang mendengar seseorang menggunakannya untuk mewakili mereka dalam pertemuan Zoom untuk pertama kalinya."

"Seperti, bagaimana hasilnya? Apakah ada yang menyadari?" katanya di jaringan sosial Threads.

OpenAI pembuat ChatGPT pada Maret mengungkapkan alat kloning suara bernama "Voice Engine" yang pada dasarnya dapat menduplikasi pidato seseorang berdasarkan sampel audio selama 15 detik.

Tetapi perusahaan tersebut mengatakan bahwa mereka "mengambil pendekatan yang hati-hati dan terinformasi untuk rilis yang lebih luas karena potensi penyalahgunaan suara sintetis."

Pada awal tahun ini, seorang konsultan yang bekerja untuk kandidat presiden Demokrat yang tidak mungkin menang mengakui bahwa dia ada di balik panggilan robocall yang meniru suara Joe Biden yang dikirim ke pemilih di New Hampshire, mengatakan bahwa dia mencoba untuk menyoroti bahaya AI.

Panggilan tersebut menampilkan suara yang mirip dengan suara Biden yang mendorong orang untuk tidak memilih dalam pemilihan utama Januari negara bagian tersebut, memicu kekhawatiran di kalangan ahli yang khawatir tentang banjirnya disinformasi deep fake yang didukung oleh AI dalam pemilihan presiden 2024 di Gedung Putih. (AFP/Z-3)