13:14 - 07/08/2024

‘Bùng nổ’ startup chip AI toàn cầu

Công ty khởi nghiệp chip AI Groq phát triển chip AI tùy chỉnh thách thức thống trị của Nvidia.

Groq chuyên phát triển chip để chạy các mô hình AI.

Groq, một công ty khởi nghiệp tại Thung lũng Silicon chuyên phát triển chip để chạy các mô hình AI đã huy động được 640 triệu USD trong vòng gọi vốn Series D do BlackRock Private Equity Partners dẫn đầu.

Các nhà đầu tư khác trong vòng này gồm Neuberger Berman, Type One Ventures và các nhà đầu tư chiến lược như Cisco Investments, Global Brain’s KDDI Open Innovation Fund III và Samsung Catalyst Fund. Khoản đầu tư này định giá công ty ở mức 2,8 tỷ USD, gần gấp ba lần định giá trước đó từ năm 2021.

Được thành năm 2016 bởi CEO Jonathan Ross, Groq được nổi lên từ sự ẩn dật vào để tạo ra cái mà họ gọi là công cụ suy luận LPU (bộ xử lý ngôn ngữ).

Đại diện Công ty khởi nghiệp Groq khẳng định, các LPU của họ có thể chạy các mô hình AI tạo sinh hiện có, có kiến trúc tương tự như ChatGPT và GPT-4 của OpenAI, với tốc độ gấp mười lần và năng lượng bằng một phần mười.

Nền tảng suy luận AI Groq độc đáo, tích hợp theo chiều dọc đã tạo ra nhu cầu tăng vọt từ các nhà phát triển đang tìm kiếm tốc độ đặc biệt.

Công ty khởi nghiệp này đặt mục tiêu tăng tốc khối lượng công việc AI bằng các Đơn vị xử lý ngôn ngữ (LPU). Groq tuyên bố những con chip này có thể chạy các mô hình AI tạo sinh nhanh hơn tới 10 lần so với các bộ xử lý thông thường trong khi chỉ sử dụng một phần mười năng lượng.

Hiện Groq cung cấp một nền tảng dành cho nhà phát triển chạy bằng LPU có tên là GroqCloud, cung cấp các mô hình “mở” như họ Llama 3.1 của Meta, Gemma của Google, Whisper của OpenAI và Mixtral của Mistral, cũng như một API cho phép khách hàng sử dụng chip của mình trong các phiên bản đám mây.

Được biết, Groq cũng lưu trữ một sân chơi cho các chatbot chạy bằng AI, GroqChat, được ra mắt vào cuối năm ngoái.

Tính đến tháng 7, GroqCloud có hơn 356.000 nhà phát triển; Groq cho biết một phần tiền thu được từ vòng này sẽ được sử dụng để mở rộng năng lực và thêm các mô hình và tính năng mới.

Khi sự bùng nổ của AI tạo sinh vẫn tiếp tục, Groq phải đối mặt với sự cạnh tranh ngày càng tăng từ cả các đối thủ mới nổi trong lĩnh vực chip AI và Nvidia, một công ty đáng gờm trong lĩnh vực phần cứng AI.

Nvidia ước tính kiểm soát từ 70% đến 95% thị trường chip AI được sử dụng để đào tạo và triển khai các mô hình AI tạo sinh, và công ty này đang thực hiện các bước đi quyết liệt để duy trì vị thế thống lĩnh của mình.

Nvidia đã cam kết phát hành kiến trúc chip AI mới mỗi năm, thay vì cách năm như trước đây.

Công ty khởi nghiệp này đang thành lập một đơn vị kinh doanh mới tập trung vào việc thiết kế chip riêng cho các công ty điện toán đám mây và các công ty khác, bao gồm cả phần cứng AI.

Grog không phải là công ty khởi nghiệp chip AI duy nhất muốn chiếm lĩnh thị phần của Nvidia. Etched, một công ty khởi nghiệp chip AI do hai sinh viên bỏ học Harvard thành lập, cũng đang xây dựng các chip AI được thiết kế để đào tạo, triển khai và tối ưu hóa các mô hình AI được gọi là máy biến áp.

Trước đó vào tháng 6 công ty khởi nghiệp Etched cũng huy động được 120 triệu USD trong vòng gọi vốn Series A để phát triển một con chip chuyên dụng cho AI tạo sinh.

Sự phát triển này được mô tả như một thách thức đối với Nvidia ở đầu cuối của sản xuất chất bán dẫn tiên tiến, để giành được một phần lớn hơn của chiếc bánh từ người dẫn đầu thị trường.

Những đối thủ khác như AMD đang cạnh tranh trong cuộc đua đang phát triển, khi ngày càng nhiều nhà cung cấp dịch vụ đám mây và nền tảng truyền thông xã hội nỗ lực sản xuất sản phẩm của riêng họ để giảm sự phụ thuộc vào Nvidia và làm giảm sự thống trị của họ trong sản xuất chip.