 |
| Chatbot AI có sức hút rất lớn với trẻ em. |
Sự xuất hiện và phát triển nhanh chóng của các chatbot AI với khả năng trò chuyện tự nhiên, chân thực đã tạo nên làn sóng quan tâm toàn cầu. Tuy nhiên, cùng với đó là những lo ngại ngày càng tăng về rủi ro mà công nghệ này có thể gây ra, đặc biệt với người dùng trẻ tuổi - nhóm dễ bị tổn thương khi không có đủ cơ chế kiểm soát nội dung thích hợp.
Theo Ủy viên An toàn Điện tử Úc (eSafety), cơ quan này đã gửi yêu cầu chính thức đến Character Technologies - đơn vị vận hành nền tảng chatbot mô phỏng người nổi tiếng Character.ai – cùng ba công ty khác là Glimpse.AI, Chai Research và Chai AI. Tất cả phải báo cáo chi tiết về cách họ ngăn chặn việc lan truyền các nội dung liên quan đến bóc lột tình dục trẻ em, khiêu dâm hoặc các tài liệu khuyến khích tự sát, rối loạn ăn uống.
Theo quy định của Úc, Ủy viên eSafety có quyền yêu cầu các công ty công nghệ phải nộp báo cáo về quy trình bảo đảm an toàn nội bộ. Doanh nghiệp không thực hiện đúng cam kết có thể bị phạt tới 536.000 USD mỗi ngày.
Giới chức Úc cho biết, các trường học đã ghi nhận tình trạng nhiều học sinh - có em mới 13 tuổi - dành tới 5 tiếng mỗi ngày để trò chuyện với chatbot, trong đó không ít cuộc trò chuyện có chủ đề nhạy cảm về tình dục. Một số chuyên gia cảnh báo tình trạng này có thể dẫn đến sự phụ thuộc cảm xúc hoặc tình dục vào chatbot, thậm chí kích động hành vi tự hại ở trẻ vị thành niên.
Úc vốn là một trong những quốc gia có hệ thống quản lý internet nghiêm ngặt nhất thế giới. Bắt đầu từ tháng 12 tới, các nền tảng mạng xã hội tại đây sẽ bắt buộc phải từ chối hoặc vô hiệu hóa tài khoản của người dùng dưới 16 tuổi, nếu không tuân thủ có thể bị xử phạt với mức tiền lớn.
Bình luận