Mô hình AI mã nguồn mở của chatbot Grok được công bố

Ngày 11/3, tỷ phú Elon Musk tuyên bố, xAI – công ty khởi nghiệp về trí tuệ nhân tạo (AI) do ông sở hữu – sẽ công bố mã nguồn mở cho chatbot Grok.

Giữ đúng lời hứa, ngày 18/3, một bài đăng trên blog của xAI cho biết, toàn bộ phần mã nguồn của mô hình ngôn ngữ lớn Grok-1, nền tảng AI của chatbot Grok, đã được chia sẻ trên GitHub để mọi người có thể truy cập.

Phần mã nguồn mở này bao gồm “khối lượng cơ bản và kiến trúc mạng lưới” của Grok-1, mô hình thiết kế theo kỹ thuật “Mixture-of-Experts” với 314 tỷ tham số. Theo bài đăng, dữ liệu huấn luyện của mô hình có điểm mốc vào tháng 10/2023 và chưa trải qua quá trình tinh chỉnh “cho bất kỳ ứng dụng cụ thể nào”.

Với 314 tỷ tham số, mô hình Grok-1 có kích thước lớn gần gấp đôi kích thước của GPT-3, mô hình ngôn ngữ lớn từng được dùng để vận hành ChatGPT.

Đáng chú ý là chỉ riêng việc vận hành GPT-3 đã cần đến 700 GB bộ nhớ VRAM của các GPU. Do đó, với kích thước của Grok-1, các yêu cầu về phần cứng sẽ còn lớn hơn nhiều. Để vận hành được mô hình AI này, các doanh nghiệp chắc chắn sẽ phải đầu tư không nhỏ về phần cứng AI hoặc tìm đến các dịch vụ đám mây.

Trước đó, trong một cuộc trao đổi với nhà khoa học về máy tính Lex Fridman hồi tháng 11/2023, tỷ phú Elon Musk từng chia sẻ rằng, ông rất thích mã nguồn mở AI. Cùng tháng đó, công ty khởi nghiệp xAI của ông đã tung ra phiên bản Beta của chatbot AI mang tên “Grok” nhưng chỉ cho phép một nhóm nhỏ người dùng trải nghiệm.

Sau đó 1 tháng, xAI chính thức phát hành chatbot Grok – được coi là đối thủ của ChatGPT do OpenAI phát triển. Tuy nhiên, chatbot này chỉ dành cho khách hàng đăng ký dịch vụ Premium+ trên nền tảng X – dịch vụ trả phí 16 USD/tháng và không bị quảng cáo làm phiền.

Ngoài phản hồi văn bản, chatbot Grok có thể nhận dạng hình ảnh và giọng nói cũng như tạo ảnh. Điều khác biệt của Grok là ngữ cảnh của câu trả lời chủ yếu dựa vào nội dung thu thập trên X.

Chatbot AI của tỷ phú Elon Musk sẽ được tích hợp trên xe điện Tesla. Theo vị tỷ phú này, việc chatbot Grok được tích hợp sẵn trên X là một “lợi thế lớn” so với các mô hình chatbot AI khác.