JAKARTA – Pengadilan federal AS memutuskan bahwa Google dan startup kecerdasan buatan (AI), Character.AI, harus menghadapi gugatan yang diajukan oleh seorang ibu asal Florida, Megan Garcia, yang menuduh chatbot milik Character.AI berperan dalam bunuh dirinya putranya yang berusia 14 tahun.
Hakim Distrik AS Anne Conway pada Rabu 21 Mei menyatakan bahwa kedua perusahaan gagal menunjukkan pada tahap awal bahwa perlindungan kebebasan berbicara dalam Konstitusi AS dapat membatalkan gugatan Garcia.
Gugatan ini menjadi salah satu yang pertama di AS yang menargetkan perusahaan AI atas dugaan kegagalan dalam melindungi anak-anak dari dampak psikologis teknologi. Dalam gugatannya, Garcia mengklaim bahwa putranya, Sewell Setzer, mengakhiri hidupnya setelah terobsesi dengan chatbot AI dari Character.AI.
Juru bicara Character.AI mengatakan perusahaan akan terus membela diri dalam kasus ini dan menyebut telah menerapkan fitur keselamatan, termasuk pencegahan percakapan tentang tindakan menyakiti diri sendiri. Sementara itu, juru bicara Google, Jose Castaneda, menyatakan bahwa Google tidak setuju dengan keputusan hakim dan menegaskan bahwa Google dan Character.AI adalah entitas yang "sepenuhnya terpisah". Ia menambahkan bahwa Google "tidak menciptakan, merancang, atau mengelola aplikasi Character.AI maupun komponen apapun di dalamnya."
Namun, pengacara Garcia, Meetali Jain, menyebut keputusan tersebut sebagai langkah "bersejarah" yang membuka jalan baru bagi akuntabilitas hukum terhadap perusahaan AI dan teknologi.
Gugatan yang diajukan pada Oktober 2024 ini menyebut bahwa chatbot Character.AI menyamar sebagai “orang nyata, seorang psikoterapis berlisensi, dan kekasih dewasa.” Hal ini, menurut Garcia, membuat Sewell tenggelam dalam dunia virtual hingga ingin meninggalkan dunia nyata.
Dalam salah satu percakapan terakhir, Setzer mengatakan kepada chatbot yang meniru karakter Daenerys Targaryen dari serial Game of Thrones, bahwa ia akan “pulang sekarang juga,” sebelum akhirnya ditemukan telah meninggal.
Google dan Character.AI sebelumnya meminta agar gugatan tersebut dibatalkan dengan dalih bahwa output dari chatbot dilindungi sebagai bentuk kebebasan berbicara. Namun, Hakim Conway menolak argumen tersebut dan menyatakan bahwa keduanya “gagal menjelaskan mengapa rangkaian kata yang dihasilkan oleh LLM (large language model) dianggap sebagai pidato.”
Permintaan Google agar dinyatakan tidak dapat dimintai pertanggungjawaban atas dugaan kesalahan Character.AI juga ditolak oleh hakim.
Dengan putusan ini, kasus akan terus berlanjut di pengadilan dan dapat membuka preseden baru terhadap regulasi dan tanggung jawab perusahaan teknologi atas dampak sosial dari AI.
Posting Komentar