tinLướt

Mistral ra mắt mô hình Mistral Small 4 theo giấy phép Apache 2.0

Công nghệ
Mistral ra mắt mô hình Mistral Small 4 theo giấy phép Apache 2.0
Tóm tắt bởi AI
1 nguồn
TestingCatalog

Mistral Mistral releases Mistral Small 4 model under Apache 2.0 licence What's new? Mistral small 4 is an open source ai model with 119b parameters, mixture-of-experts and multimodal text-image support via several channels; it cuts latency 40 percent and triples throughput vs small 3; Erin 16 M

Điểm chính

  • Mistral Small 4 là mô hình AI đa năng, mã nguồn mở theo giấy phép Apache 2.0 [1].
  • Mô hình có thể hoạt động như trợ lý, công cụ suy luận và hệ thống đa phương thức [1].
  • Mistral Small 4 có 119 tỷ tham số và cửa sổ ngữ cảnh 256k [1].

Mistral đã cho ra mắt mô hình AI Mistral Small 4, một công cụ đa năng dành cho các nhà phát triển, doanh nghiệp và nhà nghiên cứu TestingCatalog. Mô hình này được phát hành mã nguồn mở theo giấy phép Apache 2.0, cho phép người dùng truy cập và sử dụng rộng rãi TestingCatalog. Mistral Small 4 hứa hẹn mang đến nhiều tính năng ưu việt, từ trợ lý hướng dẫn nhanh chóng đến hệ thống đa phương thức, với tốc độ và hiệu suất vượt trội.

Khả năng và Tính năng

Mistral Small 4 được thiết kế để đáp ứng nhiều nhu cầu khác nhau, từ hỗ trợ người dùng đến các tác vụ chuyên sâu TestingCatalog. Mô hình này có thể hoạt động như một trợ lý hướng dẫn nhanh chóng, một công cụ suy luận sâu và một hệ thống đa phương thức TestingCatalog. Với 128 chuyên gia và tổng cộng 119 tỷ tham số, Mistral Small 4 có cửa sổ ngữ cảnh 256k, cho phép xử lý lượng thông tin lớn TestingCatalog.

Tiếp cận và Triển khai

Người dùng có thể truy cập Mistral Small 4 thông qua Mistral API, AI Studio, Hugging Face và các container NIM của NVIDIA TestingCatalog. Mô hình này hỗ trợ các framework suy luận chính như vLLM và llama.cpp TestingCatalog. Các doanh nghiệp có thể triển khai mô hình này tại chỗ hoặc tinh chỉnh để đáp ứng các nhu cầu tùy chỉnh TestingCatalog.

Ưu điểm và Hiệu suất

Mistral Small 4 được quảng cáo là nhanh hơn 40% và có thông lượng gấp 3 lần so với các mô hình khác TestingCatalog. Mô hình này kết hợp các khả năng của các mô hình hàng đầu của Mistral thành một mô hình đa năng duy nhất TestingCatalog. Việc phát hành mã nguồn mở theo giấy phép Apache 2.0 giúp tăng tính minh bạch và khả năng tiếp cận cho cộng đồng TestingCatalog.

Nghe tóm tắt
Tính năng nghe audio — sắp ra mắt
Tổng hợp từ 1 nguồn tin