Nhà nghiên cứu AI kỳ cựu nói lý do rời Google, chê bai OpenAI

Generative AI là một loại trí tuệ nhân tạo được lập trình để tự động tạo ra nội dung mới, như văn bản, hình ảnh, âm thanh và video. Nó khác với các hệ thống AI khác như máy học sâu (deep learning) hoặc học máy (machine learning) trong việc dự đoán kết quả từ dữ liệu đã có sẵn. Thay vì dựa trên dữ liệu huấn luyện, hệ thống generative AI có khả năng tự tạo ra dữ liệu mới và phong phú hơn.

Llion Jones là 1 trong 8 tác giả của bài viết nghiên cứu quan trọng về Transformers - trung tâm của generative AI ngày nay. Tuy nhiên, giống như tất cả đồng tác giả bài viết này, Llion Jones đã rời Google. Ông đang cùng với David Ha, cựu nhà nghiên cứu của Google, thành lập công ty khởi nghiệp nghiên cứu generative AI có tên Sakana AI ở Tokyo (thủ đô Nhật Bản).

Llion Jones nói rằng dù không có ác ý với Google, nhưng ông nhận ra rằng quy mô của công ty đã ngăn cản ông làm công việc mà mình muốn theo đuổi.

“Đó chỉ là một vấn đề khó khăn mà người làm việc trong các tập đoàn lớn thường phải đối mặt. Tôi nghĩ hệ thống thủ tục hành chính phức tạp đã được hình thành đến mức khiến tôi cảm thấy mình không thể hoàn thành được việc gì”, Llion Jones nói với trang CNBC trong một cuộc phỏng vấn.

Llion Jones học AI ở trường đại học và có bằng thạc sĩ về khoa học máy tính tiên tiến của Đại học Birmingham. Ông đóng góp vào bài viết về Transformers của Google vào năm 2017, giúp OpenAI sau này tạo ra chatbot ChatGPT gây bão mạng. Chữ T trong ChatGPT đại diện cho Transformers, một kiến trúc nằm sau phần lớn hoạt động nhộn nhịp của genarative AI ngày nay.

“Chúng tôi hơi điên rồ. Chúng tôi đang xem xét các phương pháp lấy cảm hứng từ tự nhiên để xem liệu có thể tìm ra một cách thực hiện khác hay không, thay vì xây dựng một mô hình khổng lồ”, Llion Jones nói.

Sakana AI không công bố bất kỳ nhà đầu tư nào.

Llion Jones trở thành kỹ sư phần mềm tại YouTube của Google vào năm 2012. Theo hồ sơ LinkedIn cá nhân, Llion Jones bắt đầu “nghiên cứu trí tuệ nhân tạo và hiểu ngôn ngữ tự nhiên” tại Google vào năm 2015.

Google là một trong số các hãng công nghệ lớn đã thuê rất nhiều nhà nghiên cứu những năm gần đây, một số đến từ các trường đại học, để xây dựng các mô hình AI nhằm làm phong phú sản phẩm của họ.

Theo thời gian, Llion Jones cho biết ông đối mặt với những câu hỏi về lý do tại sao phần mềm bị trục trặc và lỗi do ai. Ông thấy tất cả đều là sự xao lãng khỏi việc nghiên cứu.

Llion Jones nói: “Mỗi ngày, tôi sẽ dành thời gian của mình để cố gắng truy cập vào các tài nguyên và dữ liệu”.

Giờ đây, sau nhiều năm xây dựng sản phẩm trong phòng thí nghiệm, Google đang gấp rút tích hợp generative AI, gồm cả các mô hình ngôn ngữ lớn, vào công cụ tìm kiếm, YouTube và các sản phẩm khác của mình. Những mô hình AI này có thể tóm tắt thông tin và đưa ra câu trả lời giống như con người với các câu hỏi được viết ra.

Theo quan điểm của Llion Jones, Google đang tập trung “toàn bộ công ty xung quanh công nghệ này (generative AI)” và sự đổi mới đang gặp nhiều thách thức hơn “vì đó là khuôn khổ khá hạn chế”.

David Ha cho biết ông và Llion Jones nói chuyện với những người khác muốn làm việc trên mô hình ngôn ngữ lớn, nhưng họ vẫn chưa hoàn thành kế hoạch của mình.

“Tôi sẽ ngạc nhiên nếu các mô hình ngôn ngữ lớn không phải là một phần của tương lai”, David Ha cho biết. Ông đã rời Google vào năm ngoái để trở thành trưởng bộ phận nghiên cứu của công ty khởi nghiệp Stability AI. David Ha nói rằng ông không muốn Sakana AI chỉ là một công ty khác có mô hình ngôn ngữ lớn.

Cả Llion Jones và David Ha đều có những lời không mấy tích cực về OpenAI, công ty đã đưa khái niệm generative AI đến rộng rãi với công chúng nhưng đã huy động được hàng tỉ USD từ Microsoft và các nhà đầu tư khác để thực hiện điều đó. David Ha mô tả OpenAI “trở nên quá lớn và hơi quan liêu”, thực sự không khác gì các nhóm trong Google.

Llion Jones không nghĩ rằng OpenAI thật sự đổi mới. Theo Llion Jones, với hai thành công lớn nhất của mình là ChatGPT và DALL-E (dịch vụ tạo hình ảnh từ lời nhắc bằng văn bản), OpenAI đã lấy nghiên cứu mà ông đã thực hiện tại Google và áp dụng nó trên quy mô lớn, đồng thời thực hiện điều chỉnh nhưng không chia sẻ những cải tiến này với cộng đồng. Dù không phát hành cả hai công nghệ này theo giấy phép nguồn mở, OpenAI đã xuất bản các bài viết về một số hệ thống cơ bản.

Đại diện của OpenAI đã không trả lời câu hỏi của trang CNBC về vấn đề này.

David Ha cho biết Sakana AI đã thuê một nhà nghiên cứu bán thời gian từ giới học thuật và sẽ tuyển dụng thêm người. Khi được hỏi liệu Sakana AI có bổ sung cựu nhân viên Google nào khác không, David Ha đáp: “Chưa”.

2 kỹ sư rời Google vì tạo chatbot AI giống ChatGPT từ năm 2018 nhưng bị lãnh đạo phản đối