Quá trình nghiên cứu của các phòng thí nghiệm thương mại như DeepMind và OpenAI vẫn thường gặp trở ngại, chủ yếu là do thiếu vốn và vấn đề chuyên môn.
Với hy vọng cải thiện tình hình này, nhóm nghiên cứu cộng đồng EleutherAI lên kế hoạch thành lập một tổ chức phi lợi nhuận.
Ngày 3.3 vừa qua, tổ chức này đã thông báo sẽ thành lập Viện nghiên cứu EleutherAI, được tài trợ bởi những người ủng hộ hệ thống AI bao gồm các công ty khởi nghiệp về AI như Hugging Face và Stability AI, cựu Giám đốc điều hành GitHub Nat Friedman, Lambda Labs, Canva.
Stella Biderman, nhà nghiên cứu AI tại Booz Allen Hamilton, người sẽ đồng điều hành Viện EleutherAI, cho biết: “Chính thức thành lập tổ chức cho phép chúng tôi xây dựng đội ngũ nhân viên toàn thời gian và tham gia vào các dự án lâu dài. Là một tổ chức phi lợi nhuận, chúng tôi sẽ tập trung vào việc nghiên cứu và mã nguồn mở”.
EleutherAI đi vào hoạt động cách đây vài năm với tư cách là một tổ chức tập hợp các nhà phát triển nghiên cứu AI nguồn mở. Các thành viên sáng lập bao gồm Connor Leahy, Leo Gao và Sid Black đã viết mã và thu thập dữ liệu cần thiết để tạo ra một mô hình máy học máy tương tự GPT-3 của OpenAI. Vào thời điểm đó mô hình này đã nhận được rất nhiều sự chú ý của dư luận.
Công ty đã phát hành một số mô hình bao gồm GPT-J và GPT-NeoX, các mô hình ngôn ngữ đã từng thúc đẩy một làn sóng khởi nghiệp hoàn toàn mới trong một khoảng thời gian. Để phát triển các mô hình, EleutherAI chủ yếu dựa vào TPU Research Cloud, một chương trình Google Cloud hỗ trợ các dự án với mong muốn kết quả sẽ được chia sẻ công khai.
EleutherAI phát triển nhanh chóng và đạt được nhiều thành tựu. Tuy nhiên bản chất “dễ thay lòng” của các nhà cung cấp đám mây đôi khi buộc EleutherAI phải phá vỡ kế hoạch của mình. Ban đầu, nhóm dự định phát hành một mô hình có kích thước gần bằng GPT-3 nhưng cuối cùng đã phải gác lại vì lý do kỹ thuật và kinh phí.
Vào cuối năm 2022, EleutherAI đã bắt tay với Stability AI, công ty khởi nghiệp đứng đằng sau hệ thống AI tạo hình ảnh Stable Diffusion. Stability AI đã đóng góp một phần điện toán đám mây từ AWS cho quá trình nghiên cứu mô hình ngôn ngữ đang diễn ra của EleutherAI. Sau đó, Hugging Face cũng tham gia tài trợ cho tổ chức này.
Dư luận lo ngại việc các tổ chức thương mại tài trợ có thể làm chệch hướng đi của EleutherAI. Biderman khẳng định rằng Quỹ EleutherAI vẫn độc lập và cho đến nay chưa có vấn đề gì với nhóm tài trợ.
Biderman nói: “Chúng tôi không phát triển các mô hình theo lệnh của các tổ chức thương mại. Tôi nghĩ rằng việc có được sự tài trợ đa dạng càng thúc đẩy sự độc lập của chúng tôi. Nếu chúng tôi được tài trợ hoàn toàn bởi một công ty công nghệ, thì đó có vẻ là một vấn đề lớn”.
Thời gian sẽ cho biết định hướng của tổ chức EleutherAI. Có khả năng các ngành nghiên cứu thuộc tổ chức này sẽ phát triển mở rộng theo thời gian và chúng ta có thể hy vọng sự thay đổi theo hướng tích cực.
