Groq

Groq là nền tảng đám mây (neocloud) chuyên về suy luận (inference) AI tốc độ cao, cung cấp hạ tầng phần cứng LPU riêng để chạy các mô hình ngôn ngữ lớn với độ trễ thấp. Hàng triệu nhà phát triển và hàng nghìn công ty AI sử dụng Groq để xử lý hàng nghìn tỷ token mỗi tuần thông qua nền tảng tích hợp từ phần cứng đến dịch vụ suy luận và quản trị doanh nghiệp. Groq vận hành các trung tâm dữ liệu tại nhiều khu vực trên thế giới, phù hợp cho các ứng dụng cần phản hồi AI thời gian thực với chi phí tối ưu. Đây là dịch vụ trả phí dành cho nhà phát triển và doanh nghiệp xây dựng ứng dụng AI.