Gửi bình luận
Instagram sẽ thử nghiệm tính năng làm mờ tin nhắn có chứa ảnh khoả thân để bảo vệ thanh thiếu niên và ngăn những kẻ lừa đảo sextortion tiếp cận các em, Meta Platforms cho biết hôm 11.4 khi cố gắng xoa dịu lo ngại về nội dung có hại trên ứng dụng của mình.
Gã khổng lồ công nghệ đang chịu áp lực ngày càng tăng ở Mỹ lẫn châu Âu vì những cáo buộc rằng ứng dụng của họ gây nghiện và tạo ra các vấn đề về sức khỏe tâm thần trong giới trẻ.
Meta Platfortms cho biết tính năng bảo vệ tin nhắn trực tiếp của Instagram sẽ sử dụng công nghệ học máy trên thiết bị để phân tích xem hình ảnh được gửi qua dịch vụ có chứa nội dung khoả thân hay không.
Tính năng này sẽ được bật theo mặc định cho người dùng dưới 18 tuổi và Meta Platforms sẽ thông báo đến người lớn để khuyến khích họ bật tính năng này.
Công ty mẹ Facebook và Insgram cho biết: “Vì hình ảnh được phân tích trên chính thiết bị nên tính năng bảo vệ khỏi ảnh khoả thân cũng sẽ hoạt động trong các cuộc trò chuyện được mã hóa đầu cuối, nơi Meta sẽ không có quyền truy cập vào những hình ảnh này, trừ khi ai đó chọn báo cáo chúng cho chúng tôi”.
Học máy là một lĩnh vực trong trí tuệ nhân tạo (AI) tập trung vào việc phát triển các thuật toán và mô hình máy tính có khả năng học hỏi từ dữ liệu và cải thiện hiệu suất của chúng theo thời gian mà không cần lập trình cụ thể. Các hệ thống học máy có khả năng tự động tìm hiểu và áp dụng kiến thức từ dữ liệu để thực hiện các nhiệm vụ cụ thể như phân loại, dự đoán, nhận dạng mẫu và tối ưu hóa quyết định.
Những ứng dụng của học máy rất đa dạng như xử lý ngôn ngữ tự nhiên, thị giác máy tính, xe tự hành, dự đoán thời tiết, quản lý dữ liệu lớn...
Học máy đã có sự tiến bộ đáng kể trong thập kỷ gần đây, nhờ sự phát triển của các mô hình học sâu và khả năng xử lý dữ liệu lớn (big data), mang lại nhiều cơ hội và tiềm năng giải quyết các vấn đề phức tạp và cải thiện hiệu suất trong nhiều lĩnh vực khác nhau.
Không giống ứng dụng Messenger và WhatsApp của Meta Platforms, tin nhắn trực tiếp trên Instagram không được mã hóa nhưng công ty có kế hoạch triển khai mã hóa cho dịch vụ.
Meta Platforms cho biết đang phát triển công nghệ để giúp xác định các tài khoản có khả năng thực hiện trò lừa đảo sextortion và đang thử nghiệm tin nhắn dạng pop-up (bật lên) với người dùng có thể đã tương tác với các tài khoản đó.
Sextortion là hình thức tống tiền bằng việc đe dọa công khai thông tin, hình ảnh hoặc video sex của một người nào đó. Ngoài tống tiền, nạn nhân có thể bị tống tình hoặc bị ép làm điều gì đó trái ý muốn.
Lừa đảo sextortion là một loại lừa đảo qua email, trong đó hacker cho biết đang có các video, hình ảnh nhạy cảm của người dùng. Hacker yêu cầu nạn nhân gửi một lượng tiền xác định bằng Bitcoin hoặc tiền điện tử khác, nếu không sẽ phát tán ảnh, video sex của nạn nhân đến mọi liên hệ có trong danh bạ của họ trong 24 hoặc 48 giờ. Các email lừa đảo còn chứa cả mật khẩu, số điện thoại của bạn bè, người thân mà nạn nhân lưu trong máy, mục tiêu là làm cho họ lo sợ máy tính của mình thực sự bị tấn công.
Vào tháng 1, Meta Platforms cho biết sẽ ẩn nhiều nội dung hơn với thanh thiếu niên trên Facebook và Instagram, điều này sẽ giúp các em khó bắt gặp nội dung nhạy cảm như tự tử, tự hại và rối loạn ăn uống.
Hồi tháng 10.2023, 33 bang của Mỹ đã kiện Meta Platforms, cáo buộc sản phẩm của họ gây ra các vấn đề về sức khỏe tâm thần ở trẻ nhỏ và thanh thiếu niên.
Trong đơn khiếu nại gửi lên tòa án liên bang ở thành phố Oakland (bang California, Mỹ), 33 bang cho biết Meta Platforms đã nhiều lần đánh lừa người dùng về những mối nguy hiểm đáng kể của các nền tảng mà họ sở hữu, đồng thời cố tình khiến trẻ nhỏ và thanh thiếu niên rơi vào tình trạng nghiện, buộc phải sử dụng mạng xã hội.
Theo đơn kiện, Meta Platforms đã khai thác các công nghệ mạnh mẽ và chưa từng có để lôi kéo, thu hút và cuối cùng là gài bẫy giới trẻ và thanh thiếu niên với động cơ lợi nhuận.
Đơn kiện cáo buộc Meta Platforms cố gắng khiến những người trẻ tuổi dành nhiều thời gian nhất có thể trên mạng xã hội, dù biết rằng não của thanh thiếu niên rất nhạy cảm với nhu cầu bấm like từ những người dùng khác với nội dung của họ.
Theo đơn kiện, Meta Platforms đã công khai phủ nhận phương tiện truyền thông xã hội của họ gây hại.
Đơn kiện có đoạn: “Meta khai thác các công nghệ mạnh mẽ, chưa từng có để lôi kéo, thu hút và cuối cùng gài bẫy thanh thiếu niên. Động cơ của họ là lợi nhuận và để tối đa hóa lợi ích tài chính, Meta liên tục đánh lừa công chúng về nguy cơ khủng khiếp của các nền tảng mạng xã hội của mình. Nó che giấu cách thức mà nền tảng này khai thác, thao túng những người dùng dễ bị tổn thương nhất là thanh thiếu niên, trẻ em”.
Vụ kiện trên yêu cầu bồi thường thiệt hại tài chính và chấm dứt các hoạt động vi phạm pháp luật của Meta Platforms.
Letitia James, Tổng chưởng lý bang New York, tuyên bố trẻ em và trẻ vị thành niên đang phải chịu mức độ sức khỏe tinh thần kém kỷ lục và các công ty mạng xã hội như Meta Platforms có lỗi.
“Meta thu lợi từ nỗi đau của trẻ khi cố tình thiết kế các nền tảng với những tính năng thao túng, khiến trẻ em nghiện nền tảng trong khi hạ thấp lòng tự trọng”, bà nói.
Rob Bonta, Tổng chưởng lý bang California, tố cáo: “Meta đã và đang làm hại trẻ em, trẻ vị thành niên của chúng ta, nuôi dưỡng sự nghiện ngập để kích thích lợi nhuận của công ty”.
Vụ kiện liên bang này là kết quả của cuộc điều tra do liên minh các tổng chưởng lý lưỡng đảng từ bang California, Florida, Kentucky, Massachusetts, Nebraska, New Jersey, Tennessee và Vermont dẫn đầu.
Trước đó, báo chí Mỹ đưa tin từ nghiên cứu riêng của Meta Platforms cho thấy bản thân công ty biết rõ về tác hại mà Instagram gây ra cho thanh thiếu niên, đặc biệt các bé gái, với sức khỏe tinh thần và hình ảnh cơ thể. Trong đó, 13,5% cô gái tuổi teen nói Instagram làm cho suy nghĩ tự tử tồi tệ hơn và 17% nói mạng xã hội này làm cho rối loạn ăn uống xấu đi.
Về phía mình, Meta Platforms tuyên bố tìm cách giúp thanh thiếu niên trực tuyến an toàn. Meta Platforms tỏ sự thất vọng rằng các bang đã chọn con đường kiện tụng thay vì hợp tác với các công ty trong toàn ngành để tạo ra các tiêu chuẩn rõ ràng, phù hợp với lứa tuổi cho nhiều ứng dụng mà thanh thiếu niên lựa chọn.
Mới đây, Ủy ban châu Âu đã tìm kiếm thông tin về cách Meta Platforms bảo vệ trẻ em khỏi nội dung bất hợp pháp và có hại.
