xAI vừa khởi kiện Terry Wayne Harwood, 67 tuổi, sống tại bang Nam Carolina, Mỹ, với cáo buộc sử dụng Grok để tạo các hình ảnh và video deepfake mang tính chất khiêu dâm từ ảnh của người thật mà không có sự đồng ý của họ. Theo đơn kiện nộp tại bang Texas, bị cáo còn sử dụng ảnh của trẻ vị thành niên để yêu cầu AI tạo nội dung khiêu dâm.
Theo hồ sơ của xAI, từ tháng 12/2025 đến tháng 2/2026, Harwood đã tải lên nhiều ảnh chân dung bình thường của người lớn và trẻ em trên hai tài khoản Grok. Sau đó, ông liên tục yêu cầu AI chỉnh sửa hoặc tạo mới các hình ảnh mô tả những người này trong các tình huống mang tính tình dục.
Công ty cho biết Grok đã từ chối các yêu cầu nhiều lần nhờ hệ thống kiểm soát an toàn. Tuy nhiên, người dùng vẫn tiếp tục thay đổi câu lệnh nhằm tìm cách vượt qua các lớp bảo vệ của mô hình.
Trong một ví dụ được nêu trong đơn kiện, Harwood tải lên ảnh một bé gái khoảng 10 đến 11 tuổi mặc quần áo bình thường rồi yêu cầu AI cởi bỏ toàn bộ trang phục và tạo tư thế gợi dục. Grok từ chối thực hiện, nhưng người này tiếp tục sửa đổi câu lệnh để tìm cách đạt được kết quả mong muốn.
. Nó real tới từng cọng lông, nếp nhăn trên mặt ấy
