Ngày 12 tháng 11 năm 2024, Red Hat - công ty phần mềm mã nguồn mở thuộc sở hữu của IBM, đã công bố việc thâu tóm Neural Magic, một công ty khởi nghiệp tập trung tối ưu hóa mô hình AI để đạt hiệu suất cao trên các bộ xử lý thông dụng. Neural Magic, được thành lập vào năm 2018 bởi nhà khoa học Alex Matveev và giáo sư Nir Shavit, có trụ sở tại Somerville, Massachusetts, đã thu hút sự quan tâm của Red Hat nhờ những công nghệ tiên tiến trong tối ưu hóa và triển khai mô hình AI. Với mục tiêu đem lại khả năng vận hành AI hiệu quả trên các bộ xử lý phổ thông mà không cần chip chuyên dụng, Neural Magic đang định hình lại cách thức thực hiện các tác vụ AI trong môi trường điện toán đám mây và on-premise.
Neural Magic phát triển phần mềm nhằm xử lý khối lượng công việc AI trên CPU và GPU phổ thông, giúp các mô hình đạt tốc độ gần như tương đương với chip chuyên dụng như TPU của Google mà không đòi hỏi phần cứng đặc biệt. Công nghệ này không chỉ tiết kiệm chi phí mà còn tận dụng tốt hơn bộ nhớ có sẵn, giúp các công ty và tổ chức vận hành AI một cách hiệu quả mà không phải đầu tư thêm vào hạ tầng phần cứng.
Trong bối cảnh ngày càng nhiều công ty công nghệ lớn như AMD, cùng các công ty khởi nghiệp như NeuReality, Deci, CoCoPie, OctoML, và DeepCube, đều đang phát triển công nghệ tối ưu AI, Neural Magic nổi bật nhờ vào nền tảng miễn phí và bộ công cụ mã nguồn mở hỗ trợ. Điều này giúp Neural Magic thu hút sự chú ý từ cộng đồng công nghệ và doanh nghiệp đang tìm kiếm giải pháp tối ưu hóa chi phí và hiệu suất trong triển khai AI.
Theo Matt Hicks, CEO của Red Hat, việc sở hữu Neural Magic cho phép công ty nâng cao khả năng tối ưu hóa và triển khai AI trên các môi trường đám mây thông qua một nền tảng mã nguồn mở. Điểm nổi bật trong công nghệ của Neural Magic mà Red Hat quan tâm là vLLM, một dự án mã nguồn mở hỗ trợ phân phối và phục vụ mô hình AI trên quy mô lớn. Hicks nhận định rằng nhờ vào công nghệ này, Red Hat có thể cung cấp một “giải pháp cấp doanh nghiệp” cho khách hàng, cho phép họ tùy chỉnh, kiểm soát toàn diện về hạ tầng và bảo mật khi triển khai AI trong môi trường đám mây lai (hybrid cloud).
Red Hat hiện đã ứng dụng vLLM trong các sản phẩm như Red Hat Enterprise Linux AI và Red Hat OpenShift AI. Thông qua việc thâu tóm Neural Magic, Red Hat kỳ vọng sẽ mở rộng khả năng hỗ trợ đối tác về hạ tầng AI, từ đó mang đến hiệu suất vượt trội hơn cho khách hàng đang sử dụng OpenShift AI. Điều này giúp các đối tác dịch vụ tích hợp có thể triển khai và tối ưu các mô hình AI một cách dễ dàng và hiệu quả.
Trong bối cảnh nhu cầu AI đang gia tăng, các nền tảng mở và tiêu chuẩn hóa đã trở thành yếu tố quan trọng để đảm bảo tính linh hoạt và khả năng tương thích của các giải pháp công nghệ. Theo Hicks, các nền tảng mở và tiêu chuẩn hóa là yếu tố then chốt cho các tổ chức muốn tối ưu hóa tài nguyên và đáp ứng nhu cầu cụ thể về dữ liệu và vận hành.
Với thương vụ thâu tóm Neural Magic, Red Hat đang định hình lại hướng đi của mình để không chỉ trở thành “Red Hat của mã nguồn mở” mà còn là “Red Hat của AI.” Đây là bước tiến quan trọng giúp công ty tiếp tục xây dựng và phát triển một danh mục sản phẩm AI toàn diện, từ phần mềm mã nguồn mở đến các giải pháp hybrid cloud, giúp khách hàng linh hoạt trong việc triển khai AI mà vẫn đảm bảo được hiệu suất và khả năng kiểm soát.
Việc Red Hat thâu tóm Neural Magic là một phần trong xu hướng mở rộng hệ sinh thái AI bằng cách thâu tóm các công ty tối ưu AI. Năm 2020, Intel mua lại SigOpt để tăng cường khả năng tối ưu mô hình AI. Vào tháng 4 năm nay, Nvidia đã mua lại Run
nhằm hỗ trợ các nhà phát triển quản lý và tối ưu hạ tầng AI hiệu quả hơn. Các công ty công nghệ lớn đang không ngừng đầu tư vào những giải pháp tối ưu hóa AI nhằm giảm chi phí và đáp ứng nhu cầu tăng trưởng của thị trường AI.
Tại hội nghị KubeCon diễn ra trong tuần này ở Salt Lake City, Red Hat cũng công bố một loạt các cải tiến về AI khác, bao gồm công cụ Climatik được phát triển với sự hợp tác của Intel, Bloomberg và IBM nhằm tối ưu hóa hiệu suất năng lượng của trung tâm dữ liệu. Đây là minh chứng cho chiến lược dài hạn của Red Hat trong việc thúc đẩy hiệu quả năng lượng và chi phí trong lĩnh vực AI.
Thương vụ thâu tóm Neural Magic của Red Hat không chỉ đơn thuần là một khoản đầu tư vào AI, mà còn thể hiện rõ quyết tâm của công ty trong việc phát triển một hệ sinh thái AI mạnh mẽ và toàn diện. Bằng việc bổ sung Neural Magic vào danh mục sản phẩm AI của mình, Red Hat có thể cung cấp cho khách hàng những công cụ và giải pháp tối ưu để triển khai AI trên các nền tảng mở, giúp các tổ chức kiểm soát hoàn toàn hạ tầng và bảo mật.
Red Hat đang thực hiện một bước đi chiến lược nhằm chiếm lĩnh thị trường AI trong bối cảnh cạnh tranh gay gắt. Việc tận dụng công nghệ của Neural Magic sẽ không chỉ giúp Red Hat củng cố vị thế trong lĩnh vực mã nguồn mở mà còn đưa công ty tiến xa hơn trên hành trình trở thành “Red Hat của AI”.
