Trong bối cảnh công nghệ AI phát triển mạnh mẽ, việc tạo ra các video giả mạo trở nên dễ dàng hơn bao giờ hết. Những video này có thể gây hại lớn đến danh dự và quyền riêng tư của cá nhân. Chính vì vậy, YouTube đã quyết định trao thêm quyền cho người dùng để tự bảo vệ mình trước những nội dung không mong muốn này. Người dùng bị giả mạo có thể trực tiếp yêu cầu xóa bỏ video, hoặc trong trường hợp họ là trẻ vị thành niên, đã qua đời hoặc không thể truy cập máy tính, người đại diện của họ cũng có thể thực hiện việc này.

YouTube cho phép người dùng yêu cầu xóa video AI giả mạo. Ảnh minh họa

Mặc dù người dùng có quyền yêu cầu, nhưng YouTube vẫn giữ quyền quyết định cuối cùng về việc một video có bị coi là giả mạo và bị xóa hay không. Quy trình này bao gồm việc xem xét liệu nội dung có được tạo bằng AI, tổng hợp từ các video có sẵn, và liệu nội dung đó có mang ý nghĩa châm biếm, nhại lại hay có giá trị đối với công chúng hay không. Người tải video lên sẽ có 48 giờ để giải quyết khiếu nại trước khi video bị xóa khỏi nền tảng.

Năm 2024 chứng kiến sự bùng nổ của các mô hình AI tạo video từ nội dung văn bản, với các công cụ như Sora của OpenAI, Lumiere của Google, và Emu Video của Meta. Những công cụ này có khả năng tạo ra các video giống thật đến mức khó phân biệt. Tuy nhiên, điều này cũng mang lại mối lo ngại lớn về việc lạm dụng công nghệ để tạo ra các video giả mạo nhằm mục đích xấu, như tung tin giả hoặc làm mất uy tín cá nhân.

Theo các chuyên gia, một trong những lý do khiến YouTube mạnh tay với các video giả mạo bằng AI trong năm nay là do cuộc bầu cử Tổng thống Mỹ đang đến gần. Các thống kê cho thấy số lượng video giả mạo giọng nói và hình ảnh của cựu Tổng thống Donald Trump gia tăng nhanh chóng trên các nền tảng mạng xã hội. Trong trường hợp này, ông Trump có thể yêu cầu trực tiếp YouTube xóa các video giả mạo. Người tải lên sẽ có 48 giờ để giải quyết khiếu nại trước khi video thực sự bị xóa.

Chính sách mới này là một phần trong nỗ lực toàn diện của YouTube nhằm đối phó với sự gia tăng của nội dung được tạo bằng AI, đồng thời bảo vệ quyền riêng tư của người dùng và duy trì tính minh bạch trên nền tảng.

Đầu năm 2024 là quãng thời gian bùng nổ của các mô hình AI tạo video chỉ từ nội dung văn bản. Sora của OpenAI, Lumier của Google, Emu Video của Meta gây kinh ngạc với các đoạn video như thật được tạo ra bởi hệ thống máy tính. Tuy nhiên, điều này cũng gây lo ngại khi chúng có thể được sử dụng để tạo ra các video giả mạo để tung tin giả cho các mục đích, ý đồ xấu.