Jakarta (DMS) – Google mengungkapkan bahwa perangkat AI-nya telah digunakan untuk membuat konten terorisme palsu.
Di Australia, perusahaan teknologi besar diwajibkan untuk menyerahkan laporan secara berkala tentang upaya meminimalkan bahaya terkait penggunaan perkembangan mereka kepada pihak berwenang.
Komisi Keamanan Elektronik Australia bertanggung jawab untuk menerima dan menganalisis laporan-laporan ini. Pelanggaran hukum yang berulang dapat membuat perusahaan terancam denda atau sanksi potensial.
Laporan keamanan terbaru Google mencakup periode April 2023 hingga Februari 2024. Menurut lembaga Australia tersebut, teknologi raksasa Mountain View itu bertanggung jawab dalam penyalahgunaan konten deepfake AI untuk menghasilkan konten terorisme.
Selain itu, laporan Google juga menyebutkan penggunaan Gemini untuk menghasilkan materi pelecehan anak.
“Hal ini menggarisbawahi betapa pentingnya bagi perusahaan yang mengembangkan produk AI untuk membangun dan menguji keampuhan perlindungan untuk mencegah jenis materi seperti ini,” kata Julie Inman Grant, eSafety Commissioner yang dikutip detikINET dari Android Headline, Kamis (6/3/2025).
Google mengatakan bahwa mereka menerima 258 laporan kasus konten deepfake AI yang terkait dengan terorisme atau ekstremisme kekerasan. Ada juga 86 laporan kasus pelaku kejahatan yang menghasilkan materi eksploitasi atau pelecehan anak dengan Gemini.
Google lebih ketat dalam menghapus materi eksploitasi anak. Perusahaan ini menggunakan sistem pencocokan untuk mendeteksi gambar-gambar seperti itu dan menghapusnya secepat mungkin. Namun, Google tidak menerapkan teknologi ini pada konten yang berhubungan dengan ekstremisme.
Salah satu tujuan utama regulator terkait kecerdasan buatan adalah agar perusahaan membuat perisai yang lebih ketat untuk mencegah pembuatan materi jenis ini.
Kedatangan ChatGPT pada tahun 2022 menimbulkan kekhawatiran pertama dalam hal ini. Namun, bertahun-tahun kemudian, tampaknya masalah ini masih ada, meskipun mungkin pada tingkat yang lebih rendah.
Komisi eSafety memuji Google atas transparansi dalam mengungkapkan penggunaan jahat yang dilakukan oleh beberapa pelaku kriminal terhadap alat AI-nya.
Komisi eSafety Australia menyebut laporan Google sebagai wawasan pertama di dunia. Perusahaan-perusahaan lain tidak mendapatkan pujian dari badan tersebut. Telegram dan X menerima denda karena kekurangan dalam laporan mereka.DMS/DC
