Modal

Hạ tầng đám mây serverless để triển khai và huấn luyện mô hình AI

  • Miễn phí + từ $250/th
  • Web

Mở website

Ra mắt 2 năm trước

Modal là nền tảng hạ tầng đám mây dành riêng cho khối lượng công việc AI, cho phép lập trình viên viết mã Python rồi triển khai lên hàng nghìn GPU mà không cần tự quản lý máy chủ hay lên kế hoạch dung lượng. Nền tảng hỗ trợ chạy suy luận cho mô hình ngôn ngữ, âm thanh, ảnh và video, huấn luyện hoặc fine-tune mô hình trên GPU H100, A100, B200 theo cụm nhiều node, cùng tính năng Sandbox để chạy an toàn các đoạn mã không tin cậy cho AI agent. Modal tự động mở rộng từ 0 đến hơn 1.000 GPU trong vài giây, có công cụ quan sát log tích hợp sẵn, đạt chứng nhận SOC2 và HIPAA. Nền tảng phù hợp với đội kỹ thuật AI, nhà nghiên cứu và công ty xây dựng agent lập trình, tính phí theo giây sử dụng và tặng 30 USD hạ tầng miễn phí mỗi tháng.

Nhiệm vụ

Công cụ tương tự