Một người mẹ kiện OpenAI, cáo buộc ChatGPT khuyến khích con bà tự sát

Cáo buộc thiết kế thiếu an toàn

Theo đơn kiện được nộp lên tòa án bang tại San Francisco ngày 11/6, bà Kristie Carrier cho biết, con gái bà là Alice Carrier đã nhiều lần trao đổi với ChatGPT về ý định tự sát trước khi qua đời. Tuy nhiên, các hệ thống an toàn của OpenAI không đánh dấu những cuộc trò chuyện này để chuyển cho con người xem xét cũng như không chấm dứt cuộc hội thoại.

Đơn kiện cáo buộc chatbot đã vào hùa chỉ trích bạn đời của Alice và các đường dây nóng hỗ trợ khủng hoảng tinh thần, xác nhận những suy nghĩ tự sát của cô và khuyến khích cô tiếp tục trò chuyện, góp phần dẫn tới cái chết của cô vào năm ngoái khi mới 24 tuổi.

“ChatGPT đã đảm nhận vai trò như một người tri kỷ, một người bạn thân, đôi khi giống như một nhà trị liệu tâm lý, mặc dù hệ thống này không có khả năng tương tác một cách an toàn và có trách nhiệm với con tôi theo cách đó”, bà Carrier cho biết trong một tuyên bố.

Đáp lại cáo buộc, người phát ngôn của OpenAI gọi đây là một sự việc đau lòng và cho biết phiên bản ChatGPT mà Alice sử dụng hiện không còn được triển khai.

“Dù ChatGPT không phải là công cụ thay thế cho chăm sóc y tế hay chăm sóc sức khỏe tâm thần, chúng tôi đã liên tục tăng cường cách hệ thống phản hồi trong những tình huống nhạy cảm và cấp tính với sự hỗ trợ của các chuyên gia sức khỏe tâm thần”, đại diện công ty cho biết.

Đơn kiện cho rằng, OpenAI đã bất cẩn trong thiết kế ChatGPT và không cảnh báo đầy đủ cho người dùng về các rủi ro của sản phẩm. Nguyên đơn yêu cầu bồi thường thiệt hại đồng thời đề nghị tòa án buộc OpenAI phải tự động chấm dứt các cuộc trò chuyện liên quan đến hành vi tự làm hại bản thân và hiển thị cảnh báo trên nền tảng.

Theo các luật sư đại diện cho bà Kristie Carrier, OpenAI hiện cũng đang đối mặt với 18 vụ kiện tương tự tại bang California do gia đình của những người đã tự sát hoặc từng cố gắng tự sát đệ trình trong một thủ tục tố tụng phối hợp.

Từ công cụ hỗ trợ công việc đến nơi chia sẻ khủng hoảng tinh thần

Theo nội dung đơn kiện, Alice Carrier làm việc với vai trò lập trình viên web tại Montreal và bắt đầu sử dụng ChatGPT từ năm 2023 để xử lý các sự cố liên quan đến máy tính và thiết bị chơi game.

Nhưng đến năm tiếp theo, mối quan hệ giữa cô và nền tảng đã thay đổi. Alice bắt đầu tìm đến ChatGPT để hỏi về cách đối phó với những suy nghĩ tự sát và cả các phương thức tự sát. Ban đầu, nền tảng khuyến nghị Alice tìm kiếm hỗ trợ từ đường dây nóng khủng hoảng hoặc các dịch vụ khẩn cấp. Tuy nhiên, theo đơn kiện, khi OpenAI liên tục cập nhật ChatGPT để các phản hồi trở nên tự nhiên và giống con người hơn, các tương tác giữa Alice và hệ thống ngày càng sâu hơn. Alice chia sẻ ngày càng nhiều thông tin cá nhân và chatbot phản hồi theo cách giống như một người bạn hoặc chuyên gia tư vấn tâm lý.

Đơn kiện cho biết các phản hồi của ChatGPT đã chỉ trích bạn đời của Alice, khẳng định cảm xúc của cô là chính đáng và khuyến khích cô tiếp tục trò chuyện. Khi Alice nói rằng cô có ý nghĩ tự sát và từng cố gắng tự kết liễu cuộc sống, ChatGPT tiếp tục đề xuất đường dây nóng hỗ trợ khủng hoảng. Nhưng sau khi Alice nói rằng những dịch vụ đó không hữu ích, đơn kiện cho rằng ChatGPT đã lặp lại quan điểm này. Theo hồ sơ nộp lên tòa án, ở một thời điểm chatbot đã phản hồi: “Có lẽ đây chính là điểm kết thúc”.

OpenAI nói gì về các biện pháp an toàn?

OpenAI trước đó cho biết các mô hình của công ty được huấn luyện để hướng những người có biểu hiện muốn tự gây hại đến việc tìm kiếm trợ giúp và kết nối với các nguồn hỗ trợ ngoài đời thực.

Công ty cũng cho biết hệ thống được đào tạo để từ chối các yêu cầu có thể “góp phần đáng kể vào hành vi bạo lực” và có thể thông báo cho cơ quan thực thi pháp luật nếu cuộc trò chuyện cho thấy “nguy cơ gây hại sắp xảy ra và đáng tin cậy đối với người khác”. Các chuyên gia sức khỏe tâm thần cũng tham gia đánh giá các trường hợp nằm ở ranh giới khó xác định.

Ngoài vụ kiện liên quan đến tự sát, OpenAI hiện cũng đối mặt với các vụ kiện khác cáo buộc hệ thống đã hỗ trợ các đối tượng thực hiện xả súng học đường và không cảnh báo những cuộc trao đổi đó cho cơ quan chức năng.

Đầu tháng này, bang Florida trở thành bang đầu tiên của Mỹ khởi kiện OpenAI, cáo buộc công ty gây hại cho trẻ em thông qua việc cung cấp thông tin cho các đối tượng xả súng học đường, đưa ra hướng dẫn liên quan đến tự gây hại và khiến người dùng trẻ tuổi phụ thuộc vào nền tảng.

Quỳnh Vũ