BACAAJA, SEMARANG — Sebuah kasus yang bikin warganet speechless sekaligus emosi pecah datang dari Kota Semarang.
Seorang mahasiswa Fakultas Hukum Universitas Diponegoro (Undip) yang juga alumni SMAN 11 Semarang, Chiko, bkin deepfake ‘Skandal Smanse’.
Ia membuat dan menyebarkan ratusan video deepfake asusila menggunakan teknologi Artificial Intelligence (AI) atau akal imitai.
Iya, kamu nggak salah baca —mahasiswa hukum, yang harusnya ngerti UU ITE, malah ikut main api sama teknologi.
Korban yang wajahnya diganti di video bukan orang sembarangan, mulai dari teman seangkatan, adik kelas, sampai guru-guru sendiri.
Totalnya lebih dari 300 video tersebar di X (Twitter) dan 1.100 video di Google Drive. Netizen pun ramai teriak “Ini bukan kreatif, ini kriminal!”
Sejumlah korban pun mengalami trauma mendalam. Karena itu, klarifikasi atau permintaan maaf aja nggak cukup, harus ada tindakan hukum.
Wajah korban udah tersebar, reputasi rusak, dan trauma pasti kebawa lama.
Yang makin bikin gregetan, belum ada langkah tegas dari pihak kampus maupun sekolah asal pelaku.
Banyak yang menduga pelaku lagi “nyari celah hukum” biar bisa lolos.
Padahal, kasus kayak gini jelas bisa dijerat pasal UU ITE dan UU Pornografi.
Peringatan bos AI
Kasus ini ternyata sejalan sama peringatan dari Sam Altman, CEO OpenAI (alias “Bapak ChatGPT”). Altman bilang, dunia lagi di ambang krisis penipuan massal karena AI.
Teknologi deepfake sekarang bisa nyamarin wajah dan suara siapa aja —dari anak orang biasa sampai pejabat tinggi. FBI bahkan udah ngeluarin peringatan soal penipuan lewat kloning suara yang bikin banyak orang tertipu.
“Kita sekarang hidup di era di mana mata dan telinga udah nggak bisa dipercaya,” kata Altman.
Buat ngatasin ini, Altman dorong proyek bernama The Orb, alat yang bisa membuktikan kalau kamu manusia beneran, bukan AI.
Kasus deepfake di Semarang ini bukan cuma soal satu mahasiswa nakal. Ini alarm keras buat semua pengguna teknologi.
AI itu netral — tapi kalau dipakai sama orang yang pikirannya “bug”, hasilnya bisa jadi bencana digital.
Mau teknologi secanggih apa pun, kalau moralnya rusak, ya hasilnya tetep rusak.
Kita udah masuk era di mana etika digital sama pentingnya kayak etika ngomong di dunia nyata.
Jangan sampai kita jadi “manusia deepfake”: kelihatan hidup, tapi hati dan moralnya palsu.
Menurut kamu, apa hukuman yang pantas buat pelaku kasus deepfake ini?
Dan gimana caranya biar kita bisa lebih aman di dunia AI yang makin realistis ini? (*)
