Microsoft cảnh báo nhân viên không chia sẻ dữ liệu nhạy cảm với ChatGPT

Đáp lại, một kỹ sư cấp cao từ văn phòng giám đốc công nghệ (CTO) của Microsoft trả lời rằng họ được phép, miễn là nhân viên không chia sẻ thông tin bí mật với ChatGPT.

"Vui lòng không gửi dữ liệu nhạy cảm đến điểm cuối OpenAI, vì họ có thể sử dụng dữ liệu đó để đào tạo các mô hình trong tương lai", kỹ sư cấp cao viết trong một bài đăng nội bộ, mà trang Insider nhìn thấy.

Nỗi ám ảnh của thế giới với ChatGPT khiến một số hãng công nghệ cảnh báo nhân viên về việc tự do tương tác với chatbot đó. Điều nổi bật về tình huống này: Microsoft là hãng ủng hộ và đối tác chính của công ty khởi nghiệp OpenAI.

Tuần trước, Microsoft đã công bố vòng tài trợ mới cho OpenAI. Gã khổng lồ phần mềm cũng đang có kế hoạch tích hợp ChatGPT vào một số sản phẩm khác của mình, như công cụ tìm kiếm Bing và các ứng dụng Office, trang The Information đưa tin trước đây.

Theo Vincent Conitzer, giáo sư khoa học máy tính và giám đốc phòng thí nghiệm trí tuệ nhân tạo (AI) tại Đại học Carnegie Mellon (Mỹ), mối quan hệ thân thiết giữa hai công ty có thể dẫn đến xung đột lợi ích tiềm ẩn với Microsoft. Lý do vì Microsoft có thể hưởng lợi từ việc OpenAI thu được nhiều dữ liệu đào tạo hơn. Điều đó không có nghĩa là Microsoft sẽ hành xử một cách vô trách nhiệm, nhưng "việc nhận thức được các ưu đãi luôn là điều tốt".

Mối quan tâm chung là nhân viên có thể vô tình chia sẻ thông tin bí mật về Microsoft với ChatGPT để hỏi mẹo hoặc nhận lời khuyên về cách cải thiện công việc của họ. Đổi lại, ChatGPT có thể xử lý dữ liệu để tự đào tạo và có khả năng chia sẻ các phiên bản thông tin bí mật nhận được trong các cuộc trao đổi trong tương lai với những người dùng khác.

Vincent Conitzer nói với trang Insider: "Con người ký NDA (thỏa thuận bảo mật thông tin) và do đó có động cơ phải cẩn thận trong cách họ chia sẻ thông tin. Thế nhưng, các mô hình ngôn ngữ lớn như ChatGPT không có khả năng suy luận về những vấn đề như vậy, ít nhất là theo mặc định".

Người phát ngôn Microsoft từ chối bình luận. Đại diện OpenAI đã chỉ vào trang FAQ (câu hỏi thường gặp) của ChatGPT nếu có bất kỳ câu hỏi nào liên quan đến dữ liệu và chính sách quyền riêng tư của công ty.

Amazon đang vật lộn với vấn đề tương tự. Vào tháng 12.2022, vài tuần sau khi ChatGPT ra mắt, nhóm nhân viên Amazon đã hỏi trong một kênh Slack nội bộ rằng liệu họ có thể sử dụng chatbot cho công việc hay không. Một luật sư của Amazon đã cảnh báo các nhân viên không được chia sẻ "bất kỳ thông tin bí mật nào từ Amazon (gồm cả mã Amazon mà bạn đang làm việc) với ChatGPT”, như trang Insider báo cáo trước đây.

"Điều này rất quan trọng vì đầu vào của bạn có thể được sử dụng làm dữ liệu huấn luyện cho một lần lặp lại ChatGPT tiếp theo và chúng tôi không muốn đầu ra của nó bao gồm hoặc giống với thông tin bí mật từ chúng tôi. Tôi đã thấy các trường hợp thông tin rò rỉ của Amazon khớp với tài liệu hiện có", luật sư của Amazon viết.

Ai chịu trách nhiệm?

Dù các nhân viên đang cố gắng bảo vệ dữ liệu bí mật, không rõ chính xác Microsoft hoặc OpenAI đang làm gì để giải quyết vấn đề.

"Tất cả chúng ta cùng nhau sẽ phải tìm ra những gì nên được mong đợi ở mọi người trong những tình huống này. Nhân viên có trách nhiệm không chia sẻ thông tin nhạy cảm hay OpenAI có trách nhiệm sử dụng thông tin một cách cẩn thận? Là một trong những công ty hàng đầu lâu đời nhất trong ngành công nghệ, Microsoft có thể sẽ có ảnh hưởng đáng kể đến cuộc trò chuyện đó", Vincent Conitzer cho hay.

Điều khoản dịch vụ của OpenAI cho phép công ty sử dụng tất cả đầu vào và đầu ra do người dùng cùng ChatGPT tạo ra. Điều khoản dịch vụ cũng cho biết xóa tất cả thông tin nhận dạng cá nhân (PII) khỏi dữ liệu mà nó sử dụng.

Tuy nhiên, OpenAI gần như không thể xác định và xóa triệt để thông tin cá nhân khỏi dữ liệu đó do sự phát triển nhanh chóng của ChatGPT, theo Emily Bender, giảng viên ngôn ngữ học máy tính tại Đại học Washington. Emily Bender cho biết tài sản trí tuệ của công ty có thể không phải là một phần những gì được định nghĩa theo PII.

"OpenAI còn lâu mới minh bạch về cách sử dụng dữ liệu, nhưng nếu nó được đưa vào dữ liệu đào tạo, tôi cho rằng các tập đoàn sẽ tự hỏi: Sau một vài tháng ChatGPT được sử dụng rộng rãi, liệu có thể trích xuất thông tin cá nhân của công ty bằng các lời nhắc được tạo khéo léo không?", Emily Bender nói thêm.

Hôm 23.1, Microsoft cho biết đã đầu tư hàng tỉ USD vào OpenAI trong một thỏa thuận kéo dài nhiều năm sẽ chứng kiến gã khổng lồ phần mềm trở thành nhà cung cấp dịch vụ đám mây độc quyền cho OpenAI.

Microsoft đang mở rộng quan hệ đối tác lâu dài với OpenAI thông qua một “khoản đầu tư mới nhiều năm, nhiều tỉ USD”. Khoản đầu tư này được thực hiện chỉ vài tuần sau khi có tin đồn Microsoft sẽ đầu tư 10 tỉ USD vào OpenAI, công ty tạo ra các công cụ AI phổ biến như chatbot ChatGPT và DALL-E 2.

Satya Nadella, Giám đốc điều hành Microsoft, nói: “Chúng tôi đã thiết lập quan hệ đối tác với OpenAI xung quanh tham vọng chung nhằm thúc đẩy nghiên cứu AI tiên tiến một cách có trách nhiệm và dân chủ hóa AI như một nền tảng công nghệ mới. Ở giai đoạn hợp tác tiếp theo của chúng tôi, các nhà phát triển và tổ chức trong các ngành sẽ có quyền truy cập vào cơ sở hạ tầng, mô hình và chuỗi công cụ AI tốt nhất với Azure để xây dựng và chạy các ứng dụng của họ”.

Thỏa thuận này sẽ chứng kiến ​​Microsoft tăng cường đầu tư vào việc phát triển và triển khai các hệ thống siêu máy tính để hỗ trợ nghiên cứu của OpenAI. Phần quan trọng của thỏa thuận: Microsoft là đối tác đám mây độc quyền cho OpenAI. Các dịch vụ đám mây của Microsoft sẽ hỗ trợ tất cả khối lượng công việc của OpenAI trên các sản phẩm, dịch vụ API và nghiên cứu.

Microsoft cũng đang có kế hoạch triển khai các mô hình của OpenAI trên nhiều sản phẩm dành cho người tiêu dùng và doanh nghiệp.

Ngoài ra, Microsoft cũng được cho đang chuẩn bị thách thức Google với việc tích hợp ChatGPT vào kết quả tìm kiếm Bing. Nhà sản xuất hệ điều hành Windows được cho đang xem xét tích hợp một số công nghệ AI ngôn ngữ vào các ứng dụng Word, PowerPoint và Outlook của mình.

Microsoft không tiết lộ chính xác số tiền họ đã đầu tư vào OpenAI nhưng đang tìm cách sử dụng mối quan hệ thân thiết này để tiếp tục thương mại hóa dịch vụ Azure OpenAI của mình. Công ty đã bắt đầu triển khai dịch vụ này vào tuần trước. Nó bao gồm một số mô hình AI do OpenAI tạo ra như GPT-3.5, Codex và DALL-E.

Microsoft được thiết kế cho các doanh nghiệp để sử dụng các mô hình của OpenAI về cơ bản bằng cách đóng gói GPT-3.5 với khả năng mở rộng quy mô mà người dùng mong đợi từ Azure cũng như các bổ sung về quản lý và xử lý dữ liệu.

Tin đồn về thỏa thuận này cho thấy Microsoft có thể nhận được 75% lợi nhuận của OpenAI cho đến khi đảm bảo hoàn vốn đầu tư và 49% cổ phần trong công ty. OpenAI cho biết vẫn là một công ty có giới hạn lợi nhuận sau thỏa thuận này, cho phép họ tiếp tục huy động vốn.

Sam Altman, Giám đốc điều hành OpenAI, nói: “Ba năm hợp tác vừa qua của chúng tôi thật tuyệt vời. Microsoft chia sẻ các giá trị của chúng tôi. Chúng tôi rất vui mừng được tiếp tục nghiên cứu độc lập của mình và hướng tới việc tạo ra AI tiên tiến mang lại lợi ích cho mọi người”.

Microsoft đã mua giấy phép độc quyền cho công nghệ cơ bản đằng sau GPT-3 vào năm 2020 sau khi đầu tư 1 tỉ USD vào OpenAI hồi năm 2019. Hãng đã xây dựng mối quan hệ chặt chẽ với OpenAI và cũng đang lên kế hoạch thêm mô hình chuyển văn bản thành hình ảnh AI vào Bing được cung cấp bởi DALL-E 2 của OpenAI.