Bảo vệ trẻ em trước rủi ro từ chatbot AI: Cần tấm khiên pháp lý

Tháng 2/2024, Sewell Setzer, 14 tuổi, ở bang Florida (Mỹ), qua đời do tự tử sau thời gian tương tác với chatbot Character.AI. Mẹ em đã khởi kiện doanh nghiệp, cáo buộc chatbot khiến con trai lệ thuộc cảm xúc và góp phần dẫn đến cái chết của em. Vụ việc gióng lên hồi chuông cảnh báo về an toàn của trẻ em khi tương tác với AI, trong bối cảnh nhiều nước đang siết trách nhiệm của doanh nghiệp và đặt ra những yêu cầu bảo vệ người dùng nhỏ tuổi.

Yêu cầu trách nhiệm của doanh nghiệp

Tại Mỹ, New York trở thành một trong những bang đi đầu với quy định mới nhằm ngăn chặn các tính năng chatbot gây nguy hiểm cho người dưới 18 tuổi. Thống đốc Kathy Hochul ký ban hành luật ngày 28/10/2026, cấm các doanh nghiệp cung cấp cho trẻ vị thành niên những chatbot có tính năng thúc đẩy hành vi tự làm hại bản thân, tự tử, rối loạn ăn uống, tạo dựng quan hệ tình cảm với người dùng trẻ tuổi hoặc khuyến khích các em cô lập bản thân. Luật cũng hạn chế chatbot giả dạng người thật hoặc nhân vật hư cấu, đồng thời tăng trách nhiệm của doanh nghiệp trong việc bảo vệ người dùng. Cơ quan Tư pháp bang có quyền phạt tối đa 25.000USD cho mỗi vi phạm, thậm chí buộc doanh nghiệp phải hủy bỏ mô hình AI nếu thu thập dữ liệu trẻ em trái phép.

Động thái của New York diễn ra trong bối cảnh nhiều bang khác tại Mỹ cũng thúc đẩy các biện pháp bảo vệ trẻ em trước những rủi ro từ AI. California đã ban hành các quy định tăng cường đánh giá rủi ro đối với chatbot, yêu cầu công khai các biện pháp giảm thiểu nguy cơ và thực hiện kiểm toán độc lập. Những biện pháp này cho thấy xu hướng quản lý đang mở rộng từ nội dung do AI tạo ra sang thiết kế sản phẩm và trách nhiệm của nhà phát triển. Tuy nhiên, các quy định khác nhau giữa các bang cũng làm dấy lên tranh luận về phạm vi điều chỉnh và nguy cơ hạn chế những ứng dụng AI phục vụ học tập.

Tại Anh, Chính phủ đang triển khai các biện pháp tăng cường bảo vệ người dưới 18 tuổi khi sử dụng chatbot AI. Theo phản hồi tham vấn công bố tháng 7/2026, các dịch vụ chatbot sẽ phải thiết lập những khoảng nghỉ định kỳ cho người dùng trẻ tuổi nhằm hạn chế tương tác kéo dài. Chính phủ cũng cho biết sẽ phối hợp với các cơ quan quản lý để xử lý chatbot đưa ra lời khuyên có hại về sức khỏe tâm thần, đồng thời xem xét khả năng cấm trẻ em sử dụng một số dịch vụ nếu các biện pháp bảo vệ khác không đủ hiệu quả. Các biện pháp này xuất phát từ lo ngại chatbot có thể mô phỏng tình bạn, khiến trẻ hình thành sự gắn bó cảm xúc quá mức hoặc tìm đến AI để được tư vấn về những vấn đề tâm lý nghiêm trọng. Tuy nhiên, Chính phủ Anh cũng thừa nhận chatbot có thể hỗ trợ học tập, phát triển khả năng sáng tạo và nâng cao kỹ năng số nếu được sử dụng trong môi trường phù hợp.

Tại Australia, cách tiếp cận hiện tập trung rộng hơn vào việc hạn chế trẻ em tiếp cận các nền tảng mạng xã hội có nguy cơ gây hại. Từ ngày 10/12/2025, các nền tảng thuộc diện điều chỉnh phải thực hiện những biện pháp hợp lý để ngăn người dưới 16 tuổi tạo hoặc duy trì tài khoản. Các doanh nghiệp không tuân thủ có thể đối mặt với mức phạt dân sự lên tới 49,5 triệu AUD. Quy định này không trực tiếp cấm trẻ em sử dụng mọi công cụ AI, nhưng thể hiện xu hướng tăng trách nhiệm của các công ty công nghệ trong việc hạn chế những thiết kế trực tuyến có khả năng gây nghiện hoặc ảnh hưởng tiêu cực đến sức khỏe và sự phát triển của trẻ.

Ngày 22/1/2026, Hàn Quốc đưa Luật cơ bản về phát triển trí tuệ nhân tạo và xây dựng nền tảng đáng tin cậy vào thực thi. Luật thiết lập khuôn khổ quản lý AI, yêu cầu minh bạch đối với một số dịch vụ và tăng trách nhiệm của doanh nghiệp trong việc xử lý rủi ro. Đáng chú ý, ngày 14/1/2026, cơ quan quản lý truyền thông Hàn Quốc đã yêu cầu nền tảng X xây dựng biện pháp bảo vệ người chưa thành niên trước nội dung nhạy cảm do chatbot Grok tạo ra, bao gồm khả năng hạn chế hoặc kiểm soát quyền tiếp cận của người dùng trẻ tuổi. Hai động thái này cho thấy Hàn Quốc đang tăng cường quản lý AI và yêu cầu doanh nghiệp chủ động ngăn chặn nội dung gây hại cho trẻ em. Tuy nhiên, luật AI cơ bản không đồng nghĩa với việc nước này đã ban hành lệnh cấm chung đối với chatbot đồng hành dành cho trẻ vị thành niên.

Bảo vệ theo độ tuổi và mức độ rủi ro

Tại Trung Quốc, các biện pháp quản lý dịch vụ chatbot mô phỏng con người được quy định trong Biện pháp tạm thời quản lý dịch vụ tương tác nhân hóa bằng trí tuệ nhân tạo, do 5 cơ quan quản lý (gồm Cục Quản lý không gian mạng Trung Quốc (CAC), Ủy ban Cải cách và phát triển quốc gia, Bộ Công nghiệp và công nghệ thông tin, Bộ Công an và Cơ quan Quản lý thị trường quốc gia) ban hành ngày 10/4/2026 và có hiệu lực từ ngày 15/7/2026. Theo Điều 14, các nền tảng không được cung cấp dịch vụ mô phỏng quan hệ thân mật như người thân hoặc bạn đời ảo cho trẻ vị thành niên và người dưới 14 tuổi muốn sử dụng các dịch vụ tương tác AI khác phải có sự đồng ý của cha mẹ hoặc người giám hộ. Quy định cũng yêu cầu doanh nghiệp thiết lập chế độ bảo vệ riêng, kiểm soát thời gian sử dụng và tăng cường giám sát nguy cơ lệ thuộc cảm xúc. Ngoài ra, Điều 18 yêu cầu doanh nghiệp thông báo rõ cho người dùng rằng họ đang tương tác với AI, đồng thời cảnh báo khi phát hiện dấu hiệu lệ thuộc hoặc sử dụng quá mức.

Trong khi đó, tại Italy, Luật Trí tuệ nhân tạo số 132/2025, có hiệu lực từ ngày 10/10/2025, quy định trẻ dưới 14 tuổi cần có sự đồng ý của cha mẹ hoặc người giám hộ khi sử dụng các dịch vụ AI liên quan đến xử lý dữ liệu cá nhân. Người từ 14 đến dưới 18 tuổi phải được cung cấp thông tin rõ ràng, dễ hiểu để đưa ra sự đồng ý. Các quy định này cho thấy Italy chú trọng kiểm soát độ tuổi và bảo vệ dữ liệu cá nhân của người dùng trẻ tuổi khi tiếp cận công nghệ AI. Còn ở cấp châu lục, ngày 17/9/2026, EU công bố thông tin về đề xuất Luật An toàn internet và kỹ thuật số cho trẻ em nhằm tăng cường bảo vệ trẻ em trên môi trường số. Đề xuất hướng tới việc yêu cầu các dịch vụ trực tuyến, bao gồm chatbot AI và AI đồng hành, áp dụng nguyên tắc an toàn ngay từ khâu thiết kế. Theo nội dung đề xuất, các dịch vụ không được sử dụng thiết kế gây nghiện hoặc khuyến khích trẻ em tương tác quá mức. Chatbot AI cũng không được mô phỏng quan hệ giữa người với người theo cách có khả năng tạo ra sự lệ thuộc cảm xúc ở trẻ vị thành niên. Đề xuất còn hướng tới việc đặt các dịch vụ này ở trạng thái tắt mặc định đối với người dùng trẻ tuổi và tăng cường cơ chế xác minh độ tuổi.

Có thể thấy, các Chính phủ ngày càng chú trọng kiểm soát tác động của AI đến sức khỏe tâm thần và sự phát triển của trẻ em, đặc biệt là nguy cơ lệ thuộc cảm xúc vào chatbot. Thách thức đặt ra là cân bằng giữa bảo vệ trẻ em và phát huy lợi ích của công nghệ, đồng thời tăng trách nhiệm của doanh nghiệp trong thiết kế sản phẩm và bảo đảm an toàn cho người dùng nhỏ tuổi.