Dùng AI mạo danh khiến hiệu trưởng bị đình chỉ chức vụ

Darien bị bắt tại sân bay quốc tế Baltimore-Washington Thurgood Marshall lúc chuẩn bị lên chuyến bay đến Houston. Đối tượng bị giữ lại do mang súng, sau đó cảnh sát phát hiện có lệnh bắt giữ người này.

Theo Văn phòng Tư pháp Baltimore, Darien bị truy tố với tội danh làm gián đoạn hoạt động của trường, trộm cắp, trả thù nhân chứng. Cơ quan điều tra xác định người này mạo danh hiệu trưởng rồi tung đoạn ghi âm giả đầy lời lẽ xúc phạm học sinh da đen cùng cộng đồng Do Thái địa phương lên mạng vào tháng 1.

Cảnh sát viết trong cáo trạng: “Đoạn ghi âm gây ra hậu quả rất nghiêm trọng, không chỉ khiến Eiswert bị đình chỉ chức vụ tạm thời mà còn làm dấy lên làn sóng bình luận căm phẫn trên mạng xã hội cũng như hàng loạt cuộc gọi đến trường. Đoạn ghi âm cũng gây gián đoạn đáng kể cho học sinh cùng nhân viên trường”.

Darien mạo danh hiệu trưởng nhằm mục đích trả thù sau khi ông Eiswert điều tra các khoản thanh toán bất hợp lý mà anh ta đã thực hiện cho một giáo viên thể dục trong trường (cũng là bạn cùng phòng của anh ta). Do chấp nhận đóng tiền bảo lãnh 5.000 USD nên Darien tạm thời được trả tự do.

Giúp sức cảnh sát điều tra, hai giáo sư Catalin Grigoras (Đại học Colorado) và Hany Farid (Đại học California) kết luận đoạn ghi âm lan truyền trên mạng có dấu hiệu bị can thiệp bởi AI, do nhiều đoạn ghép lại với nhau. Công cụ mà đối tượng sử dụng là OpenAI và Microsoft Bing Chat.

Vụ việc trên một lần nữa gióng lên hồi chuông cảnh báo về nội dung giả mạo do AI tạo ra. Cùng với sự phát triển của công nghệ, âm thanh hay hình ảnh làm giả không còn thô thiển, cứng ngắc dễ nhận biết mà ngày càng tinh vi, giống thật, đặt ra thách thức lớn cho nỗ lực chống thông tin xấu cũng như hành vi lừa đảo. Tháng 2 vừa qua tổ chức Nieman Journalism Lab cho biết công cụ tạo giọng nói bằng AI hiện vô cùng phổ biến, chỉ cần một đoạn ghi âm giọng nói thực dài 1 phút là đủ để tạo nội dung giả mạo.

Thời gian qua xuất hiện không ít nội dung giả mạo Tổng thống Mỹ Joe Biden kêu gọi người dân không tham gia cuộc bỏ phiếu sơ bộ tại bang New Hamshire, hay một đoạn phim chỉnh sửa cho thấy ông sàm sỡ phụ nữ.

Tại Pakistan, đảng của cựu Thủ tướng Imran Khan sử dụng AI tạo ra nhiều bài phát biểu mặc dù chính trị gia này đang ngồi tù.

Trước thềm tổng tuyển cử Ấn Độ, nhiều chính đảng không ngần ngại dùng nội dung AI vận động tranh cử.