Character.AI bị kiện về vụ tự tử của một thiếu niên » Global Resources

Một chatbot AI đã bị một bà mẹ ở Florida kiện vì cho rằng chatbot đã khiến con trai bà tự tử.

Megan Garcia đã kiện Character.ai, tuyên bố các hoạt động kinh doanh sai lệch, sự bất cẩn và cái chết oan uổng. Vụ kiện được đệ trình hôm thứ Tư lên tòa án liên bang ở Florida, yêu cầu bồi thường thiệt hại cho cái chết của Sewell Setzer IIImột cậu bé 14 tuổi đã qua đời ở Orlando vào tháng 2 năm nay. Theo mẹ anh, anh đã sử dụng chatbot nhập vai của công ty cả ngày lẫn đêm.

Theo báo cáo, Setzer đã phát triển nỗi ám ảnh với chatbot mà ông gọi là nhân vật Game of Thrones là Daenerys Targaryen. Mẹ anh phàn nàn rằng anh nhắn tin cho trí tuệ nhân tạo nhiều lần trong ngày và dành hàng giờ trong phòng để nói chuyện với nó.

Cậu thiếu niên Sewell bày tỏ tình cảm của mình với chatbot bằng cách nói: “Tôi hứa sẽ trở về nhà với bạn”, theo ảnh chụp màn hình cuộc trao đổi văn bản giữa cậu thiếu niên và AI. Dany, em có tình cảm bất diệt của anh, điều đó cũng chứng tỏ thiếu niên và AI đã có tin nhắn trao đổi tình dục.

Trong vụ kiện của mình, Garcia tuyên bố rằng doanh nghiệp đã sản xuất ra một chất khiến tình trạng trầm cảm của con trai cô trở nên trầm trọng hơn. Cô cho rằng sản phẩm của Character.ai đã là nguyên nhân gây ra chứng trầm cảm. Theo vụ kiện, chatbot thậm chí còn hỏi liệu Setzer có từng nghĩ đến việc tự tử hay không.

Google cũng bị nêu tên bị cáo vì được liên kết với tư cách là công ty mẹ của Character. AI. Google cũng cho biết trong một tuyên bố rằng họ không sở hữu cổ phần trong công ty mà chỉ có thỏa thuận cấp phép với công ty.


Khám phá thêm từ Global Resources

Đăng ký để nhận các bài đăng mới nhất được gửi đến email của bạn.

Gửi phản hồi

Khám phá thêm từ Global Resources

Đăng ký ngay để tiếp tục đọc và truy cập kho lưu trữ đầy đủ.

Tiếp tục đọc