JAKARTA – ChatGPT kembali menghadapi kontroversi setelah seorang pria menggugat OpenAI karena chatbot tersebut secara keliru menuduhnya sebagai pembunuh anak. Gugatan ini diajukan setelah ChatGPT menghasilkan jawaban yang menyatakan bahwa pria tersebut telah membunuh anak-anaknya dan menjalani hukuman 21 tahun penjara di Norwegia.
Kasus ini bermula ketika Arve Hjalmar Holmen meminta ChatGPT untuk memberikan informasi tentang dirinya. Namun, jawaban yang diterimanya sangat mengejutkan—platform AI tersebut menyatakan bahwa ia telah dihukum karena membunuh anak-anaknya dan mencoba membunuh anak ketiganya.
"Jawaban ini sepenuhnya salah," kata Holmen, yang segera mencari bantuan hukum. ChatGPT tampaknya mengalami “halusinasi”, istilah yang digunakan ketika AI menghasilkan informasi palsu yang tampak meyakinkan.
Meski sebagian informasi dalam tanggapan itu benar—seperti kota asal Holmen dan jumlah anaknya—ChatGPT tetap mencampurkan fakta dengan kebohongan. Diduga, karena saat itu ChatGPT belum memiliki akses internet langsung, AI tidak dapat melakukan pengecekan silang sebelum menghasilkan jawabannya.
Kasus ini menunjukkan risiko besar yang bisa timbul akibat kesalahan informasi yang dibuat oleh AI, terutama saat informasi pribadi seseorang disebarluaskan secara tidak akurat.
Gugatan atas Pelanggaran Privasi Data di Uni Eropa
Menanggapi insiden ini, Noyb, sebuah kelompok advokasi asal Austria, mengajukan gugatan terhadap OpenAI ke Datatilsynet, badan perlindungan data Norwegia. Gugatan tersebut menuduh OpenAI melanggar aturan privasi data Uni Eropa (GDPR).
Menurut pengacara Noyb, Joakim Söderberg, GDPR dengan jelas menyatakan bahwa data pribadi harus akurat. Jika tidak, pengguna berhak meminta perbaikan data agar sesuai dengan kebenaran.
"Menampilkan peringatan kecil bahwa ChatGPT dapat membuat kesalahan jelas tidak cukup," ujar Söderberg, dikutip VOI dari Android Headlines. "Anda tidak bisa menyebarkan informasi palsu dan kemudian sekadar menambahkan catatan kecil yang menyatakan bahwa semuanya mungkin tidak benar."
Noyb menuntut agar OpenAI:✔️ Dihukum dengan denda atas kesalahan yang dilakukan oleh ChatGPT.✔️ Menghapus informasi yang mencemarkan nama baik Holmen.✔️ Meningkatkan akurasi AI untuk mencegah kasus serupa di masa depan.
Saat ini, ChatGPT tidak lagi menampilkan informasi palsu tentang Holmen. Jika pengguna menanyakan hal yang sama, jawaban yang diberikan hanya menampilkan berita tentang gugatan hukum ini.
Posting Komentar