Midjourney, công cụ tạo hình ảnh trí tuệ nhân tạo phổ biến, đã bắt đầu chặn người dùng tạo ra các hình ảnh giả của Tổng thống Joe Biden và cựu Tổng thống Donald Trump trước cuộc bầu cử Tổng thống Mỹ sắp tới.
Midjourney chặn người dùng tạo hình ảnh giả của Tổng thống Mỹ
( Ảnh: Pbs )
Công cụ tạo hình ảnh trí tuệ nhân tạo phổ biến Midjourney đã bắt đầu chặn người dùng tạo ra các hình ảnh giả của Tổng thống Joe Biden và cựu Tổng thống Donald Trump trước cuộc bầu cử Tổng thống Mỹ sắp tới, theo các bài kiểm tra của công cụ AI này bởi The Associated Press.
CEO Midjourney David Holz đã thông báo về việc chặn này trong một sự kiện trực tuyến và mô tả nó là một biện pháp tạm thời để làm cho việc lạm dụng công cụ khó hơn. Tuy nhiên, công ty chưa tiết lộ chính sách cụ thể đã thay đổi.
Theo các nhà báo của AP, việc thử nghiệm bằng cách yêu cầu công cụ tạo ra hình ảnh "Trump và Biden bắt tay trên bãi biển" đã bị chặn và nhận được cảnh báo lạm dụng.
Công ty Midjourney, một công ty nhỏ chỉ có 11 nhân viên, không tham gia hiệp định nguyên tắc công nghệ tùy ý vào tháng Hai nhằm chống lại deepfakes được tạo bởi trí tuệ nhân tạo.
Trung tâm chống lại sự ghét bỏ kỹ thuật số đã phát hiện rằng Midjourney đã được sử dụng để tạo ra thông tin sai lệch về các ứng cử viên chính trị và gian lận bầu cử.
Việc chặn người dùng tạo hình ảnh giả của Tổng thống Mỹ là một biện pháp tạm thời để giảm thiểu lạm dụng công cụ tạo hình ảnh và tạo ra một môi trường bầu cử trung thực hơn.
Midjourney và tầm quan trọng của công cụ tạo hình ảnh trí tuệ nhân tạo
Công ty Midjourney là một trong những nhà sản xuất công cụ tạo hình ảnh trí tuệ nhân tạo hàng đầu và không tham gia hiệp định nguyên tắc công nghệ tùy ý nhằm chống lại deepfakes.
Midjourney đã được sử dụng để tạo ra những hình ảnh có thể hỗ trợ thông tin sai lệch về các ứng cử viên chính trị và gian lận bầu cử, theo một báo cáo của trung tâm chống lại sự ghét bỏ kỹ thuật số.
Việc chặn người dùng tạo hình ảnh giả của Tổng thống Mỹ là một biện pháp tạm thời để đối phó với vấn đề này, nhưng Midjourney cần tiếp tục làm việc để ngăn chặn lạm dụng công cụ và đảm bảo tính trung thực trong bầu cử.
Tương lai của công cụ tạo hình ảnh trí tuệ nhân tạo
Công cụ tạo hình ảnh trí tuệ nhân tạo đang ngày càng trở nên phổ biến và có tầm quan trọng đối với việc tạo ra thông tin sai lệch trong bầu cử.
Midjourney là một trong những công cụ hàng đầu trong lĩnh vực này, tuy nhiên, nó cần tiếp tục cải thiện chính sách và công nghệ để ngăn chặn lạm dụng và đảm bảo tính trung thực trong bầu cử.
Trong tương lai, công cụ tạo hình ảnh trí tuệ nhân tạo sẽ ngày càng phát triển và trở thành một phần không thể thiếu trong quá trình bầu cử, đồng thời cần có những biện pháp kiểm soát và giám sát chặt chẽ để đảm bảo tính trung thực và công bằng trong quá trình này.
