Các công ty công nghệ lớn đang đầu tư tài chính và nhân lực để chạy đua phát triển trí tuệ nhân tạo (AI), một trong những tính năng được ứng dụng phổ biến là tạo hình ảnh theo yêu cầu. Tuy nhiên, những công cụ này chưa được kiểm soát đúng mức nên dễ bị kẻ xấu lợi dụng để lan truyền những chủ đề độc hại trên không gian mạng.

Mới đây, sau khi Meta ra mắt tính năng tạo Sticker (nhãn dán) bằng AI, công cụ này bị người dùng lên tiếng phản ánh khi tạo ra những nhãn dán khỏa thân, bạo lực và phản cảm. Người dùng có thể sử dụng những nhãn dán này để gửi tới các tài khoản khác.

Đại diện Meta xác nhận ứng dụng Messenger tích hợp AI có thể cho kết quả đầu ra không phù hợp trong giai đoạn đầu thử nghiệm. Sau khi nhận phản hồi từ người dùng, công ty sẽ cập nhật để cải thiện tính năng.

Tương tự, Microsoft thừa nhận sự cố khiến AI tạo nội dung phản cảm. "AI tạo ảnh là công nghệ mới và đang bị một số cá nhân dùng theo cách không đúng. Vì vậy, chúng tôi sẽ triển khai bộ lọc để biến Bing Image Creator thành ứng dụng hữu ích hơn", đại diện Microsoft nói.

Hiện Microsoft có khoảng 350 nhân viên thuộc Văn phòng AI có trách nhiệm (ORA) nhưng chỉ một phần ba làm toàn thời gian. Hồi tháng 3, công ty cũng sa thải toàn bộ đội ngũ phụ trách đạo đức và xã hội dành cho AI.