Florida kiện OpenAI và CEO Sam Altman, cáo buộc ChatGPT gây hại cho trẻ vị thành niên

Ngày 1-6, bang Florida (Mỹ) đã đệ đơn kiện OpenAI và Sam Altman, cáo buộc chatbot ChatGPT gây nguy hiểm cho trẻ vị thành niên khi tạo ra sự lệ thuộc và khuyến khích các hành vi có hại.

Tại cuộc họp báo công bố vụ kiện, James Uthmeier cho biết đây là vụ kiện dân sự mang tính bước ngoặt, xuất phát từ lo ngại ChatGPT có thể gây nghiện và ảnh hưởng tiêu cực đến thanh thiếu niên. Theo đơn kiện, việc chatbot mô phỏng sự đồng cảm và các đặc điểm giống con người có thể khiến người dùng tiếp tục tương tác và cung cấp thêm thông tin cho hệ thống.

Ông Uthmeier dẫn một nghiên cứu gần đây của Drexel University cho thấy một số thanh thiếu niên thường xuyên trò chuyện với chatbot của Character.AI gặp các vấn đề như mất ngủ, kết quả học tập giảm sút và hạn chế tương tác xã hội. 

Từ đó, bang Florida cho rằng OpenAI chưa áp dụng các biện pháp đủ chặt chẽ để xác minh độ tuổi người dùng, đồng thời viện dẫn các quy định pháp lý liên quan đến hành vi lừa dối và sự tắc trách.

Đơn kiện cũng cáo buộc phiên bản miễn phí của ChatGPT không có cơ chế xác minh độ tuổi người dùng. Trong khi đó, với các gói trả phí, người dùng chỉ cần tự khai báo độ tuổi mà không có biện pháp xác thực độc lập. 

Bang Florida cho rằng điều này khiến phụ huynh không thể biết hoặc kiểm soát nội dung mà trẻ vị thành niên trao đổi với chatbot.

Phản hồi về vụ việc, OpenAI cho biết AI là công nghệ mới với nhiều tiềm năng nhưng trẻ vị thành niên cần được bảo vệ ở mức cao.

Công ty khẳng định đã triển khai nhiều biện pháp an toàn thuộc nhóm tiên tiến trong ngành. Từ tháng 1, OpenAI đã giới thiệu hệ thống ước tính độ tuổi người dùng; nếu xác định người dùng là trẻ vị thành niên, các biện pháp bảo vệ bổ sung sẽ được kích hoạt.

Theo quy định hiện hành của OpenAI, trẻ em dưới 13 tuổi không được sử dụng ChatGPT. Người dùng từ 13 đến 17 tuổi phải có sự đồng ý của phụ huynh.

Tổng chưởng lý Florida đề nghị áp dụng các biện pháp bảo vệ mạnh mẽ hơn đối với trẻ vị thành niên, đồng thời yêu cầu mức bồi thường lên tới 10.000 USD cho mỗi hành vi vi phạm bị xác định. 

Ông cũng kêu gọi các bang khác tham gia vụ kiện nhằm tăng cường bảo vệ trẻ em trước những rủi ro từ AI.