Cảnh sát Trung Quốc lần đầu bắt giữ công khai người dùng ChatGPT tạo tin giả: Có thể đi tù 10 năm

Theo trang Insider, người đàn ông họ Hong bị buộc tội sử dụng ChatGPT để tạo ra tin tức giả về “vụ tai nạn tàu hỏa nghiêm trọng khiến 9 người thiệt mạng ở tỉnh Cam Túc, phía tây bắc Trung Quốc”. Cảnh sát quận Không Đồng (tỉnh Cam Túc) vừa cho biết thông tin này trên tài khoản WeChat chính thức.

Cảnh sát cho thấy vụ bắt giữ Hong thông qua một loạt ảnh trong bài đăng trên WeChat.

Đây là vụ bắt giữ đầu tiên kể từ khi quy định mới về deepfake của Trung Quốc có hiệu lực vào tháng 1. Luật này nhằm ngăn chặn việc lạm dụng công nghệ có thể thay đổi dữ liệu khuôn mặt và giọng nói.

Trong khi ChatGPT bị chặn ở Trung Quốc, vẫn có cách để để truy cập chatbot này như sử dụng mạng riêng ảo (VPN).

Đơn vị cảnh sát an ninh mạng địa phương đã được thông báo về bài viết “vụ tai nạn tàu hỏa nghiêm trọng” (xuất bản vào ngày 25.4), sau đó thực hiện cuộc điều tra về vấn đề này.

Cảnh sát đã phát hiện ra 21 tài khoản dạng blog trên công cụ tìm kiếm Baidu đã xuất bản tin giả đó đồng thời với nội dung tương tự tại các địa điểm khác nhau. Khi đó, những bài đăng này đã được xem hơn 15.000 lần, theo cảnh sát tỉnh Cam Túc.

Cảnh sát an ninh mạng Cam Túc tìm ra các bài đăng giả mạo liên kết với một công ty do Hong điều hành, đăng ký tại thành phố Thâm Quyến - trung tâm công nghệ phía nam Trung Quốc.

Hong sau đó thừa nhận anh đã sử dụng ChatGPT để tạo tin giả về "vụ tai nạn tàu hỏa nghiêm trọng" trước khi đăng chúng lên mạng, theo cảnh sát Cam Túc.

Anh ta đang bị giam giữ vì bi nghi có hành vi "chống đối và gây rối", tội danh có mức án tù tối đa là 10 năm. Theo bài đăng trên WeChat của cảnh sát Tân Cương, cuộc điều tra đang tiếp tục diễn ra.

Hồi tháng 2, cảnh sát Bắc Kinh (thủ đô Trung Quốc) đã khuyên người dân cảnh giác với tin đồn do ChatGPT tạo ra. Đó là một trong những bình luận đầu tiên mà bộ máy an ninh Trung Quốc đưa ra về chatbot AI của OpenAI.

“ChatGPT thú vị và đã lan truyền gần đây, nhưng hãy cẩn thận rằng những kẻ xấu có thể sử dụng điều này để phạm tội và lan truyền tin đồn. Các viện nghiên cứu đã thử nghiệm và phát hiện ra rằng khi được hỏi những câu hỏi liên quan đến âm mưu và gây hiểu lầm, ChatGPT có thể nhanh chóng tạo ra thông tin hấp dẫn mà không trích dẫn nguồn”, theo bài đăng trên tài khoản WeChat chính thức của Cục Công an thành phố Bắc Kinh. Bài đăng không đưa ra bất kỳ ví dụ cụ thể nào về những tin đồn mà cảnh sát lo ngại.

Tại thành phố Hàng Châu (tỉnh Chiết Giang, Trung Quốc), ChatGPT đã bị đổ lỗi cho việc truyền bá thông tin sai lệch.

Hôm 17.2, cơ quan truyền thông có trụ sở tại Chiết Giang công bố trường hợp liên quan đến một cư dân Hàng Châu đã sử dụng ChatGPT để tạo bài đăng giống như thông báo từ chính quyền thành phố, nói rằng họ sẽ dỡ bỏ các hạn chế lái xe dựa trên biển số chẵn và lẽ, biện pháp mà nhiều thành phố ở Trung Quốc đã thực hiện để giảm tắc nghẽn giao thông.

Bài viết cho biết người dân thấy thông báo của ChatGPT rất thú vị và sau đó chia sẻ nó trong nhiều nhóm mạng xã hội.

Người đăng tin giả đã xin lỗi các thành viên khác trong nhóm WeChat: “Tôi nhận ra hành động của mình đã gây bất tiện cho chính quyền”, theo một ảnh chụp màn hình được công bố cùng với bài viết.

Theo The Paper (hãng tin có trụ sở tại thành phố Thượng Hải), cảnh sát ở Hàng Châu đã điều tra vụ việc sau đó.

Cảnh sát Bắc Kinh cảnh báo rằng OpenAI không cung cấp bất kỳ dịch vụ nào hoặc ủy quyền cho bất kỳ công ty nào vận hành ChatGPT ở Trung Quốc. Họ cảnh báo công chúng nên hết sức thận trọng vì chatbot này có thể mang thông tin sai lệch và gây mối lo ngại về an ninh quốc gia.

Cảnh sát Bắc Kinh cho biết ngày càng có nhiều sản phẩm kỹ thuật số ở Trung Quốc bắt chước ChatGPT, dụ người dùng sử dụng dịch vụ rồi tính phí cao, trong khi các vụ lừa đảo khác liên quan đến tội phạm nước ngoài sử dụng AI để tạo email lừa đảo nhằm gây hại cho người dùng Trung Quốc.

ChatGPT đã gây bão trên toàn thế giới, châm ngòi cho một cuộc đua AI toàn cầu khi các hãng công nghệ Trung Quốc đổ xô xây dựng và tung ra các dịch vụ tương tự ChatGPT.

Giống như hầu hết sản phẩm internet không thuộc Trung Quốc, ChatGPT không điều chỉnh các cuộc thảo luận chính trị theo quan điểm của Bắc Kinh.

Hãng thông tấn Tân Hoa Xã đưa tin Trung Quốc sẽ tiếp tục chiến dịch “làm sạch” nội dung trực tuyến và thông tin không được phép. Chiến dịch bắt đầu vào năm 2022 và các mục tiêu của nó bao gồm cả các phương tiện truyền thông nước ngoài và báo chí công dân.

Theo Tân Hoa Xã, trong cuộc họp riêng vào ngày 28.4 tổng kết cuộc họp hàng quý của Bộ Chính trị Trung Quốc về phát triển kinh tế và xã hội, Bộ Chính trị nước này đã kết luận rằng phải “chú ý đến sự phát triển của generative AI, tạo ra một hệ sinh thái cho sự đổi mới, nhưng đồng thời phải tính đến việc phòng ngừa rủi ro”.

Đây là lần đầu tiên chính phủ Trung Quốc đưa generative AI vào một tuyên bố của Bộ Chính trị, phản ánh tín hiệu khác nhau của quốc gia này với dịch vụ tương tự ChatGPT.

Dường như việc thúc đẩy tiến bộ của AI được khuyến khích, nhưng đồng thời cũng có những lo ngại về hậu quả từ việc làm này.

Generative AI là một loại trí tuệ nhân tạo mà máy tính được lập trình để tự động tạo ra nội dung mới, như văn bản, hình ảnh, âm thanh và video. Nó khác với các hệ thống AI khác như máy học sâu hoặc học máy trong việc dự đoán kết quả từ dữ liệu đã có sẵn. Thay vì dựa trên dữ liệu huấn luyện, hệ thống generative AI có khả năng tự tạo ra dữ liệu mới và phong phú hơn.

Ở Trung Quốc, các dịch vụ tương tự ChatGPT được nhắc đến nhiều trong giới doanh nhân, công ty khởi nghiệp và các hãng công nghệ lớn.

Hãng tìm kiếm khổng lồ Baidu, gã khổng lồ thương mại điện tử Alibaba, hãng game NetEase và công ty AI SenseTime đều đã ra mắt các dịch vụ tương tự ChatGPT của riêng họ.

Bất chấp sự phấn khích về AI, việc phát triển công nghệ này ở Trung Quốc vẫn đối mặt với nhiều trở ngại do sự kiểm soát chặt chẽ của chính quyền với tự do ngôn luận, cũng như lệnh cấm Trung Quốc mua chip tiên tiến từ Mỹ.

Hồi tháng 4, Cục Quản lý không gian mạng Trung Quốc (CAC), cơ quan giám sát internet nước này, đã tiết lộ một bộ quy tắc dự thảo mới nhắm mục tiêu vào các dịch vụ tương tự ChatGPT.

Các công ty cung cấp dịch vụ generative AI ở Trung Quốc phải thực hiện các biện pháp ngăn chặn nội dung phân biệt đối xử, thông tin sai lệch và nội dung gây hại cho quyền riêng tư cá nhân hoặc sở hữu trí tuệ, theo quy định đề xuất do CAC công bố.

CAC cho biết các doanh nghiệp cũng nên đảm bảo rằng các sản phẩm của họ tôn trọng giá trị xã hội chủ nghĩa của Trung Quốc và không tạo ra nội dung gợi ý lật đổ chế độ, bạo lực, nội dung khiêu dâm hoặc phá vỡ trật tự kinh tế và xã hội.

Tất cả sản phẩm generative AI phải vượt qua đánh giá bảo mật của CAC trước khi phục vụ công chúng, theo yêu cầu từ quy định năm 2018 về các dịch vụ thông tin trực tuyến có khả năng gây ảnh hưởng đến dư luận.