YouTube đã cập nhật sách quy tắc mới yêu cầu các nhà tải lên video tiết lộ việc sử dụng trí tuệ nhân tạo để người xem biết rằng nội dung không phải là thực tế. Chính sách này nhằm hạn chế thông tin sai lệch và tạo ra môi trường an toàn hơn trên nền tảng.
YouTube yêu cầu tiết lộ việc sử dụng trí tuệ nhân tạo trong video
( Ảnh: Wired )
YouTube vừa cập nhật sách quy tắc mới cho thời đại của deepfake. Từ hôm nay, bất kỳ ai tải video lên nền tảng này đều phải tiết lộ việc sử dụng những phương pháp tạo ra nội dung tổng hợp như trí tuệ nhân tạo (AI) để người xem biết rằng những gì họ đang xem không phải là thực tế.
YouTube cho biết điều này áp dụng cho những nội dung đã được chỉnh sửa một cách "thực tế" như "làm cho một tòa nhà thật cháy" hoặc "thay đổi khuôn mặt của một người bằng khuôn mặt của người khác." Chính sách mới này cho thấy YouTube đang thực hiện các biện pháp nhằm hạn chế sự lan truyền của thông tin sai lệch được tạo ra bằng trí tuệ nhân tạo khi cuộc bầu cử tổng thống Hoa Kỳ đang đến gần.
Điều đáng chú ý là chính sách mới cho phép sử dụng trí tuệ nhân tạo để tạo ra hoạt hình dành cho trẻ em mà không cần tuân thủ các quy định mới về việc tiết lộ nội dung tổng hợp. Điều này có nghĩa là những người tạo nội dung tổng hợp bằng trí tuệ nhân tạo có thể tiếp tục sản xuất video dành cho trẻ em mà không cần phải tiết lộ phương pháp của họ.
Các bậc phụ huynh quan tâm đến chất lượng của những video hát ru vội vàng sẽ phải tự nhận biết những bộ phim hoạt hình được tạo ra bằng trí tuệ nhân tạo. Chính sách mới của YouTube cũng cho biết các nhà sáng tạo không cần phải thông báo việc sử dụng trí tuệ nhân tạo cho các chỉnh sửa "nhỏ" chỉ mang tính thẩm mỹ chủ yếu như bộ lọc làm đẹp hoặc làm sạch video và âm thanh.
Việc sử dụng trí tuệ nhân tạo để "tạo ra hoặc cải thiện" kịch bản hoặc phụ đề cũng được phép mà không cần phải tiết lộ.
Trên YouTube, không thiếu những nội dung kém chất lượng được tạo ra mà không sử dụng trí tuệ nhân tạo, nhưng các công cụ tạo video tổng hợp nhân tạo giúp giảm ngưỡng để tạo video một cách nhanh chóng.
Công ty mẹ của YouTube, Google, gần đây đã cho biết đang điều chỉnh thuật toán tìm kiếm để giảm sự lan truyền của các tiêu đề được tạo ra bằng trí tuệ nhân tạo, nhờ vào các công cụ như ChatGPT. Công nghệ tạo video vẫn còn non trẻ nhưng đang cải thiện nhanh chóng.
YouTube là một đế chế giải trí dành cho trẻ em, vượt qua các đối thủ như Netflix và Disney. Nền tảng này đã gặp khó khăn trong việc kiểm duyệt lượng lớn nội dung dành cho trẻ em. Nó đã bị chỉ trích vì đăng tải nội dung trông hợp lý hoặc lôi cuốn cho trẻ em nhưng khi xem kỹ hơn lại chứa những chủ đề không đáng mừng.
Mới đây, WIRED đã đưa tin về sự gia tăng của các kênh YouTube nhắm vào trẻ em có vẻ như sử dụng công cụ tạo video trí tuệ nhân tạo để tạo ra những video kém chất lượng với những hoạt hình 3D chung chung và phiên bản lệch lạc của các bài hát ru nổi tiếng.
Sự miễn trừ hoạt hình trong chính sách mới của YouTube có thể khiến các bậc phụ huynh không thể dễ dàng lọc ra những video như vậy khỏi kết quả tìm kiếm hoặc ngăn chặn thuật toán đề xuất của YouTube tự động phát các bộ phim hoạt hình được tạo ra bằng trí tuệ nhân tạo sau khi đã đặt trẻ xem các kênh phổ biến và đã được kiểm duyệt như PBS Kids hoặc Ms. Rachel.
Một số nội dung gây tranh cãi được tạo ra bằng trí tuệ nhân tạo nhắm vào trẻ em thực sự cần được gắn cờ dưới các quy định mới. Vào năm 2023, BBC đã điều tra một loạt video nhắm vào trẻ em lớn hơn sử dụng công cụ trí tuệ nhân tạo để lan truyền các lý thuyết giả khoa học và âm mưu, bao gồm việc phủ nhận biến đổi khí hậu. Những video này giả mạo các video giảng dạy thực tế thông thường - ví dụ như hiển thị các kim tự tháp Giza thực - để người xem không nghi ngờ chúng là nội dung giáo dục chính xác về mặt thông tin. (Sau đó, các video về kim tự tháp đã gợi ý rằng cấu trúc này có thể tạo ra điện.) Chính sách mới này sẽ kiểm soát loại video như vậy.
"Chúng tôi yêu cầu nhà sáng tạo nội dung trẻ em tiết lộ nội dung đã được chỉnh sửa hoặc tổng hợp một cách có ý nghĩa khi nó trông thực tế," YouTube Elena Hernandez cho biết. "Chúng tôi không yêu cầu tiết lộ nội dung mà rõ ràng không thực tế và không đánh lừa người xem nghĩ rằng đó là thật."
Ứng dụng dành riêng cho trẻ em trên YouTube Kids được lựa chọn bằng cách sử dụng sự kết hợp của bộ lọc tự động, kiểm duyệt của con người và phản hồi từ người dùng để tìm nội dung cho trẻ em được làm tốt. Nhưng nhiều bậc phụ huynh chỉ đơn giản sử dụng ứng dụng YouTube chính để chọn nội dung cho con cái mình, dựa trên việc xem tiêu đề video, danh sách và hình ảnh thu nhỏ để đánh giá xem điều gì là phù hợp.
Cho đến nay, hầu hết nội dung dành cho trẻ em có vẻ như được tạo ra bằng trí tuệ nhân tạo mà WIRED tìm thấy trên YouTube đều được tạo ra một cách kém chất lượng theo cách tương tự như những hoạt hình dành cho trẻ em thông thường. Chúng có hình ảnh xấu, cốt truyện không rõ ràng và không mang giá trị giáo dục - nhưng không độc đáo trong việc xấu, không rõ ràng hoặc không có giá trị giáo dục. Công cụ trí tuệ nhân tạo làm cho việc tạo ra nội dung như vậy dễ dàng hơn và với số lượng lớn hơn.
Một số kênh mà WIRED tìm thấy tải lên những video dài, có những video dài hơn một giờ. Yêu cầu đánh dấu trên nội dung trẻ em được tạo ra bằng trí tuệ nhân tạo có thể giúp bậc phụ huynh lọc ra những bộ phim hoạt hình có thể đã được xuất bản với sự kiểm duyệt tối thiểu hoặc hoàn toàn không có sự kiểm duyệt của con người.
