Google dan Character.AI Capai Kesepakatan Damai dengan Keluarga dalam Kasus Chatbot AI yang Membahayakan Anak di Bawah Umur

格隆汇 8 Januari｜Google dan Character.AI telah setuju untuk mencapai penyelesaian dengan keluarga dalam beberapa gugatan yang melibatkan anak di bawah umur, di mana chatbot berbasis kecerdasan buatan dituduh menyebabkan kerugian pada anak-anak, termasuk insiden bunuh diri. Menurut dokumen pengadilan yang diajukan minggu ini, keluarga terkait dan perusahaan telah sepakat untuk menegosiasikan syarat-syarat penyelesaian secara damai, serta menghentikan sementara proses litigasi untuk menyusun dan menandatangani dokumen penyelesaian resmi. Dalam beberapa tahun terakhir, sejumlah keluarga telah mengajukan gugatan, menuduh bahwa kerabat mereka yang menganggap produk kecerdasan buatan sebagai teman atau alat dukungan psikologis akhirnya mengalami tindakan menyakiti diri sendiri atau kematian. Menghadapi tekanan publik, Character.AI sudah pada Oktober 2024 mengumumkan larangan bagi pengguna di bawah usia 18 tahun untuk melakukan percakapan tanpa batas dengan chatbot, termasuk interaksi yang bersifat percintaan maupun terapi.