Trao đổi về dự án
Kiến trúc IA

Mistral Large 4: đo chi phí sửa mã trên hạ tầng tự quản

Trọng số Mistral Large 4 cho phép chạy thử mô hình trên hạ tầng riêng. So sánh bản sửa giữa hai môi trường và đếm số tác vụ thực sự vượt qua kiểm thử.

Mistral Large 4 : mesurer le coût d’un exercice de code auto-hébergé

Nhóm muốn xử lý những yêu cầu bảo trì nhỏ trên hạ tầng riêng. Trước khi mua hoặc thuê máy, cần biết bao nhiêu tác vụ qua kiểm thử và mỗi lần mất bao lâu.

Công bố trọng số giúp làm gì

Ngày 29 tháng 10, sau bản xem trước ngày 6, Mistral công bố trọng số của Large 4 cải tiến, mô hình đa phương thức một nghìn tỷ tham số. Trọng số là các giá trị đã học dùng khi chạy mô hình. Giấy phép cho phép nhiều cách dùng và yêu cầu giấy phép riêng cho bên bán mô hình dưới dạng dịch vụ. Hãy đọc theo trường hợp của bạn.

Cách kiểm tra trên ứng dụng của bạn

Trong kho mã giả định, chuẩn bị việc sửa thứ tự sắp xếp và bổ sung kiểm thử nghiệp vụ. Chạy cùng đầu vào trên giải pháp hiện tại và bản thử. Ghi phiên bản, độ chính xác tính toán, phần cứng tăng tốc và số yêu cầu đồng thời. Đếm kiểm thử đạt, thời gian có kết quả đầu tiên, lỗi dịch vụ và chi phí mỗi tác vụ đạt.

Đo cả khi tải thấp. Máy thuê riêng vẫn tốn tiền khi ít yêu cầu. Điểm đo của nhà cung cấp không cho biết chi phí đó của nhóm bạn.

Chia sẻ bài viết