GitHub vừa công bố nền tảng sandbox mới dành cho các nhà phát triển, nơi họ có thể thử nghiệm các mô hình AI hàng đầu cùng với mã nguồn của riêng họ. Nền tảng này, được đặt tên là GitHub Models, được thiết kế để tối ưu hóa quy trình phát triển AI, cung cấp công cụ và tài nguyên giúp các nhà phát triển dễ dàng xây dựng các ứng dụng AI mới.
Nền tảng GitHub Models cung cấp quyền truy cập vào các mô hình tiên tiến như Meta’s Llama 3.1, GPT-4o và GPT-4o Mini từ OpenAI, cùng với Mistral’s Large 2. Theo Thomas Dohmke, Giám đốc điều hành của GitHub, “Với GitHub Models, hơn 100 triệu nhà phát triển có thể truy cập và thử nghiệm các mô hình AI mới ngay nơi họ đã quản lý mã nguồn, vấn đề, yêu cầu kéo, quy trình công việc và kho lưu trữ — trực tiếp trên GitHub.”
Các nhà phát triển đã quen thuộc với các công cụ phát triển và lập trình dựa trên AI. GitHub’s Copilot, công cụ hỗ trợ lập trình của GitHub, đã tăng số lượng người dùng trong năm đầu tiên, mặc dù công ty đã gặp phải lỗ trung bình 20 đô la mỗi tháng trên mỗi người dùng vào năm 2023.
Để thu hút thêm các nhà phát triển, nền tảng mới của GitHub thực chất cung cấp cho họ một không gian để thử nghiệm trước khi triển khai. Với GitHub Models, các nhà phát triển AI có thể truy cập vào một sân chơi tương tác nơi họ có thể thử nghiệm các mô hình một cách riêng tư và sau đó triển khai chúng vào nơi họ quản lý mã nguồn của mình.
Người dùng thậm chí có thể thử nghiệm các mô hình với các tính năng như Retrieval Augmented Generation (RAG) để cải thiện các tìm kiếm dữ liệu nội bộ. GitHub Models có thể được sử dụng kết hợp với các dịch vụ khác của GitHub như môi trường phát triển dựa trên đám mây và Actions để tự động hóa các quy trình triển khai.
GitHub đã cam kết sẽ không chia sẻ bất kỳ yêu cầu hoặc kết quả của người dùng từ nền tảng mới với các nhà cung cấp mô hình, cũng như không sử dụng chúng để huấn luyện hoặc cải thiện các mô hình của chính mình. Điều này có nghĩa là các doanh nghiệp có thể thử nghiệm các mô hình mới cho các ứng dụng tiềm năng sử dụng dữ liệu của riêng họ.
Nền tảng GitHub Models hiện đang có sẵn trong giai đoạn beta công khai hạn chế. GitHub dự định mở rộng nền tảng khi nó được phát hành rộng rãi, bao gồm việc thêm nhiều mô hình và khả năng mới, bao gồm cả khả năng nhận diện hình ảnh.
Anand Chowdhary, đồng sáng lập nền tảng AI bán hàng FirstQuadrant, chia sẻ: “Là một người sáng lập startup AI và người duy trì mã nguồn mở, GitHub Models giúp đội ngũ của tôi truy cập và thử nghiệm với các mô hình ngôn ngữ lớn khác nhau ở một nơi. Điều này giúp tối ưu hóa quy trình phát triển và giảm rào cản gia nhập khi xây dựng các ứng dụng AI.”