captum.ai

captum.ai là thư viện mã nguồn mở giúp giải thích và diễn giải các mô hình học sâu xây dựng trên PyTorch, dành cho nhà nghiên cứu và kỹ sư máy học. Công cụ hỗ trợ nhiều loại dữ liệu như hình ảnh, văn bản và các dạng khác, đi kèm các thuật toán như Integrated Gradients để tính độ đóng góp của từng đặc trưng đầu vào tới kết quả dự đoán. Captum có thể dùng với hầu hết mô hình PyTorch mà chỉ cần chỉnh sửa tối thiểu, cài đặt dễ dàng qua conda hoặc pip, và cho phép mở rộng để tự cài thêm thuật toán giải thích mới. Đây là dự án mở, miễn phí, phát triển bởi Meta, phù hợp cho nghiên cứu và kiểm thử độ tin cậy của mô hình AI.