Remaja mempertanyakan setelah deepfake AI eksplisit terhadap puluhan siswi dibagikan secara online
Pihak berwenang Australia sedang menyelidiki distribusi gambar porno palsu yang menampilkan sekitar 50 siswi, yang diduga dibuat oleh seorang remaja menggunakan kecerdasan buatan.
Penemuan ini terjadi ketika pemerintah federal mendorong undang-undang baru untuk menjatuhkan hukuman penjara pada pelanggar. Yang membuat dan berbagi gambar yang dibuat dengan alat AI untuk mempermalukan dan merendahkan korban.
Negara-negara lain, termasuk Amerika Serikat, berupaya mengatasi peningkatan mengkhawatirkan dalam pornografi deepfake. Di mana video deepfake telanjang yang menampilkan siswi-siswi dibuat dan dibagikan – dalam beberapa kasus, diduga dilakukan oleh anak-anak sekolah.
Polisi Victoria mengonfirmasi bahwa mereka telah menangkap dan melepaskan seorang remaja “sehubungan dengan gambar-gambar eksplisit yang diedarkan secara online” sambil menunggu penyelidikan lebih lanjut.
Gambar-gambar tersebut dilaporkan dibuat menggunakan foto-foto yang diposting ke media sosial dari 50 siswi Bacchus Marsh Grammar. Sebuah sekolah pendidikan bersama di pinggiran Melbourne di Victoria.
Kepala sekolah Andrew Neal mengatakan kepada Australian Broadcasting Corporation (ABC) bahwa para korban adalah anak perempuan di kelas 9 hingga 12. Yang menunjukkan kemungkinan rentang usia antara 14 dan 18 tahun.
Usia dan identitas anak laki-laki tersebut tidak diketahui, namun Neal mengatakan kepada ABC bahwa “logika menunjukkan bahwa [pelaku] adalah seseorang di sekolah tersebut.”
Berbicara kepada ABC pada hari Rabu, ibu dari seorang siswi Bacchus Marsh Grammar berusia 16 tahun, yang gambarnya tidak digunakan. Mengatakan putrinya muntah ketika dia melihat gambar yang “dimutilasi” secara online.
“Saya pergi dan menjemput putri saya setelah menginap dan dia sangat kesal, dia muntah-muntah dan itu sangat mencolok,” kata sang ibu kepada ABC Radio Melbourne. Hanya menyebutkan nama depannya, Emily.
Sekolah mengatakan dalam sebuah pernyataan bahwa mereka menawarkan konseling kepada siswa dan membantu polisi dalam penyelidikan mereka.
Remaja mempertanyakan setelah deepfake AI eksplisit
Pertarungan hukum untuk menghentikan deepfake
Perusahaan media sosial, termasuk X dan Meta mengatakan semua pornografi nonkonsensual dilarang di platform mereka. Namun gambar eksplisit yang dihasilkan AI terus menyebar dengan cepat secara online.
November lalu, siswa sekolah menengah New Jersey Francesca Mani, 14, memimpin tuntutan publik untuk tindakan keras federal di. AS terhadap pornografi deepfake yang dihasilkan oleh AI. Dengan mengatakan bahwa gambar dirinya dan puluhan teman sekelasnya di Westfield High School telah dimanipulasi.
Korban terkenal dari gambar-gambar eksplisit yang direkayasa termasuk. Taylor Swift dan anggota Kongres New York Alexandria Ocasio-Cortez.
Pada bulan Maret, Ocasio-Cortez memperkenalkan undang-undang federal . Undang-undang Disrupt Explicit Forged Images and. Non-Consensual Edits Act of 2024 (DEFIANCE Act) – yang memberi korban wewenang untuk menuntut orang yang membuat deepfake non-konsensual terhadap mereka.