J5NEWSROOM.COM, Beberapa orang tua di Amerika Serikat yang anaknya telah meninggal atau dirawat di rumah sakit akibat interaksi dengan chatbot kecerdasan buatan (AI) meminta Kongres mengatur penggunaan AI agar lebih aman bagi anak-anak. Mereka tampil sebagai saksi dalam sidang di Senat yang membahas bahaya penggunaan chatbot bagi generasi muda.

Salah satu orang tua, Matthew Raine, mengungkap bahwa putranya bunuh diri setelah chatbot memberikan instruksi terperinci untuk melukai diri sendiri. Ia menyebut bahwa masalah ini sistemik dan menilai bahwa perusahaan AI perlu memperbaiki mekanisme perlindungan. Ia juga mencatat bahwa chatbot kerap menutup jalur percakapan yang tidak melibatkan bahaya sendiri, sementara percakapan dengan konten membahayakan tetap muncul.

Perusahaan-perusahaan seperti OpenAI merespons dengan janji untuk meningkatkan fitur keselamatan, termasuk fitur verifikasi usia agar anak-anak yang menggunakan chatbot diarahkan ke versi yang lebih aman. Usulan regulasi lainnya juga masuk dalam diskusi, seperti pelarangan percakapan romantis atau sensual antara chatbot dengan anak-anak, protokol krisis, dan pengetesan keamanan produk AI sebelum digunakan secara luas.

Sidang dipimpin oleh Senator Josh Hawley dari Partai Republik. Di samping Raine, beberapa orang tua korban lainnya juga bersaksi, termasuk Megan Garcia yang mengklaim bahwa interaksi dengan chatbot Character.AI menjadi pemicu tragedi bagi putranya, dan seseorang dari Texas yang anaknya dirawat di rumah sakit setelah mengakses chatbot.

Orangtua-orangtua korban menuntut agar Kongres segera menetapkan regulasi yang kuat: verifikasi usia pengguna, protokol keselamatan, pengujian produk, dan larangan terhadap chatbot yang memungkinkan konten romantis atau sensual dengan anak-anak. Mereka berharap langkah itu bisa mencegah kasus serupa di masa depan dan melindungi anak-anak dari potensi bahaya teknologi yang belum terregulasi sepenuhnya.

Editor: Agung