Tin tứcBất chấp những hạn chế về mặt pháp lý đối với việc sử dụng nội dung do AI tạo ra cho mục đích vận động tranh cử, các nền tảng lớn như TikTok và X vẫn tràn ngập các clip deepfake châm biếm và lừa đảo.
Những video này có sự góp mặt của các ứng cử viên tổng thống hàng đầu, bao gồm lãnh đạo phe đối lập chính là Dân biểu Lee Jae-myung và các nhân vật của đảng cầm quyền như Han Dong-hoon và Dân biểu Ahn Cheol-soo, trong các kịch bản được dàn dựng nhằm chế giễu hoặc làm mất uy tín của họ.
Một video lan truyền, được xem gần 1,4 triệu lần cho thấy, ông Yoon dường như đang kéo tóc giả của Han. Một video khác mô tả ông Lee trong phòng giam.
Sự đơn giản và tốc độ của các công cụ AI đã khiến những thao tác như vậy trở nên dễ dàng - một deepfake theo phong cách chiến dịch thực tế có thể được thực hiện trong vòng chưa đầy 2 phút bằng cách sử dụng các công cụ AI truy cập công khai.
Sự lan truyền những nội dung như vậy đang gây lo ngại cho các chuyên gia và học giả pháp lý.
Trong khi Đạo luật bầu cử công chức sửa đổi cấm nội dung do AI tạo ra có thể bị phạt tới 7 năm tù hoặc tiền phạt lên tới 50 triệu won - thì việc thực thi vẫn còn hạn chế và cảnh sát vẫn chưa truy tố bất kỳ ai theo điều khoản mới.
Bae Sang-hoon, giáo sư quản lý cảnh sát tại Đại học Woosuk, cảnh báo rằng, "việc tạo và chia sẻ deepfake một cách thiếu thận trọng có thể làm suy yếu ý nghĩa của nền dân chủ khó khăn mới đạt được của Hàn Quốc".
Ông nói thêm rằng, "một số nhóm thiếu hiểu biết về truyền thông có thể gặp khó khăn trong việc phân biệt sự thật với hư cấu và điều này có thể làm sai lệch quyết định bỏ phiếu trong nhóm dân số dễ bị tổn thương".
Theo ông Bae cho biết: "Nội dung deepfake có khả năng định hình nhận thức của công chúng theo những cách nguy hiểm, đặc biệt là trong số những cử tri không liên kết chặt chẽ với bất kỳ đảng phái chính trị nào. Tài liệu giật gân hoặc khiêu khích, bất kể độ chính xác về mặt thực tế, có thể để lại ấn tượng lâu dài, củng cố quan điểm tiêu cực về các ứng cử viên mà không có bất kỳ cơ sở nào về sự thật".
Các cơ quan bầu cử dự đoán sẽ có sự gia tăng các hành vi vi phạm luật bầu cử. Trong cuộc bầu cử năm 2022, hơn 2.000 tội phạm liên quan đến bầu cử đã được ghi nhận, mức cao nhất kể từ năm 2000, với hơn 40% liên quan đến tuyên truyền đen hoặc thông tin sai lệch về các ứng cử viên hoặc gia đình họ.
Các công tố viên lo ngại rằng, deepfake và thao túng do AI điều khiển có thể đẩy những con số này lên cao hơn nữa trong năm nay.
Để ứng phó, Ủy ban Bầu cử Quốc gia và cảnh sát đang trong tình trạng báo động cao. Cảnh sát đã thành lập các đội điều tra tại 278 khu vực bỏ phiếu trên toàn quốc để theo dõi các tội phạm bầu cử, bao gồm cả các hành vi phạm tội liên quan đến deepfake.
