Bộ Công an Trung Quốc triệu tập Alibaba, Tencent, ByteDance bàn về công nghệ deepfake tạo clip sex giả danh

Cơ quan Quản lý không gian mạng Trung Quốc (CAC) cho biết hôm 18.3 rằng họ và Bộ Công an đã gặp 11 công ty để thảo luận đánh giá an ninh và các vấn đề tiềm ẩn với các ứng dụng xã hội âm thanh, deepfake.

Kuaishou Technology và Xiaomi Corp cũng tham dự cuộc họp.

Deepfake sử dụng trí thông minh nhân tạo để tạo video hoặc âm thanh siêu thực nhưng giả tạo, trong đó một người có vẻ nói hoặc làm điều gì đó mà mình không làm.

Thuật ngữ Deepfake là sự kết hợp giữa deep learning và fake. Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google. Deepfake sẽ quét video và ảnh chân dung của một người, sau đó hợp nhất với video riêng biệt nhờ trí tuệ nhân tạo (AI) và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học.

Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngạc, từng được sử dụng để thao túng các cuộc bầu cử, tạo nội dung khiêu dâm và quảng bá thông tin sai lệch.

Nhiều kẻ xấu dùng deepfake tạo ra các clip sex mạo danh người nổi tiếng để trục lợi.

Trung Quốc đã tăng cường giám sát các gã khổng lồ internet nước này những tháng gần đây, với lý do lo ngại về hành vi độc quyền và khả năng xâm phạm quyền của người tiêu dùng.

Cơ quan quản lý Trung Quốc cũng yêu cầu các công ty “tự mình tiến hành đánh giá an ninh” và trình báo cáo lên chính phủ khi họ có kế hoạch bổ sung các chức năng mới hoặc dịch vụ thông tin mới “có khả năng huy động xã hội”.

Đã có một sự gia tăng ở Trung Quốc trong việc bắt chước ứng dụng âm thanh Clubhouse kể từ khi dịch vụ trò chuyện của Mỹ bị chặn ở nước này vào đầu tháng 2.2021.

Được tiếp cận trong thời gian ngắn ở Trung Quốc, Clubhouse thu hút nhiều người dùng tham gia thảo luận về các chủ đề nhạy cảm như trại giam Tân Cương, nền độc lập của Hồng Kông, căng thẳng với Đài Loan... trước khi bị chính quyền đóng cửa đêm 8.2.

ByteDance, chủ sở hữu TikTok, là một trong nhiều công ty đang làm việc trên các ứng dụng giống Clubhouse cho thị trường Trung Quốc.

Dịch vụ mới khác là ứng dụng Feichuan sử dụng dựa trên lời mời từ Kuaishou Technology. Xiaomi cũng làm lại ứng dụng Mi Talk thành dịch vụ âm thanh chỉ dành cho lời mời cho các chuyên gia.

Ít nhất 10 ứng dụng tương tự Clubhouse đã được tung ra trong nước tháng 2.2021, với đà tăng sau khi Clubhouse bị chặn.

Sự thành công của Clubhouse, nơi có thể chứa tới 8.000 người trong mỗi phòng trò chuyện và chứng kiến ​​cuộc thảo luận của Giám đốc điều hành Tesla - Elon Musk và Giám đốc điều hành Robinhood - Vlad Tenev, đã tạo ra tiềm năng cho dịch vụ trò chuyện âm thanh.

Các ứng dụng tương tự Clubhouse ở Trung Quốc dự kiến ​​sẽ mang các đặc điểm của nước này để phù hợp với sự kiểm duyệt và giám sát từ chính phủ.

Một ví dụ như vậy là ứng dụng Zhiya của Lizhi được niêm yết trên Nasdaq, ra mắt vào năm 2018 với người dùng thường nói về trò chơi điện tử hoặc hát các ca khúc.

Zhiya yêu cầu đăng ký bằng tên thật, một đặc điểm mà Marco Lai (Giám đốc điều hành Lizhi) cho biết là chìa khóa quan trọng ở Trung Quốc. Ông nói các công ty phát trực tiếp âm thanh ở Trung Quốc thuê nhân viên lắng nghe các cuộc trò chuyện trong mọi phòng và triển khai các công cụ trí tuệ nhân tạo (AI) để loại bỏ nội dung “không phù hợp”, chẳng hạn khiêu dâm hoặc các vấn đề nhạy cảm về chính trị.

Một phát ngôn viên của Lizhi cho biết Zhiya sử dụng con người cũng như các công cụ AI để điều chỉnh các cuộc trò chuyện công khai trên nền tảng này.

Zhiya đã bị các cơ quan quản lý Trung Quốc gỡ xuống một thời gian ngắn vào năm 2019, nhưng đã được khôi phục sau khi Lizhi thực hiện các biện pháp khắc phục.

Marco Lai nói rằng ngoài chính trị, có rất nhiều chỗ cho các ứng dụng trò chuyện âm thanh ở Trung Quốc.

“Người lớn ở Trung Quốc không thích bày tỏ quan điểm của mình trước đám đông. Chúng tôi được dạy phải giữ thái độ khiêm tốn từ khi còn nhỏ. Tuy nhiên, một cách tiếp cận tốt ở Trung Quốc là giải trí, bạn mời mọi người đến vui chơi”, Marco Lai chia sẻ.

Một số công ty mới tham gia thị trường đã gặp nhiều khó khăn với ứng dụng nhái Clubhouse.

Nổi tiếng với nền tảng phát trực tiếp, Inke đã tung ra một ứng dụng tương tự Clubhouse là Duihuaba trong tháng này, tuyển dụng các nhà đầu tư mạo hiểm, nhà phê bình thời trang và những người nổi tiếng khác để tổ chức các cuộc trò chuyện. Tuy nhiên, Inke đã đột ngột rút ứng dụng Duihuaba chỉ 2 tuần sau khi ra mắt, nói rằng cần cải tiến thêm mà không đưa ra lời giải thích.