Key Specifications

Vendormistral
Versionmedium
Release Date2023-12-11
Context Window32000 tokens
Input Modalitiestext
Output Modalitiestext
LicenseApache 2.0
Documentationhttps://docs.mistral.ai/

Benchmark Performance

BenchmarkScoreUnitEvaluated AtNotesSource
MMLU82.9%2023-12-115-shotview
HUMANEVAL78pass@12023-12-11view
GSM8K82.5%2023-12-110-shot CoTview
MATH54.9%2023-12-110-shot CoTview
BBH83.4%2023-12-113-shot CoTview
GPQA48.7%2023-12-110-shotview
IFEVAL77.4%2023-12-11prompt_strictview
ARC94.6%2023-12-11challengeview
MUSR64.3%2023-12-110-shotview
WINOGRANDE82.4%2023-12-110-shotview

Pricing

TierPriceCurrency
Input$2.7 / MtokUSD
Output$8.1 / MtokUSD
Cache Read$0 / MtokUSD
Cache Write$0 / MtokUSD

Source: https://mistral.ai/technology/ · as of 2023-12-11

Compliance

  • Data Residency: EU
  • SOC2: ✓
  • HIPAA: ✗
  • GDPR: ✓
  • ISO 27001: ✓

Mistral Medium

Tổng quan mô hình

Mistral AI Medium 中端模型, 32K 上下文, 平衡性能与成本, 适合企业级通用任务。

Thông số kỹ thuật cốt lõi

Nhà cung cấpPhiên bảnNgày phát hànhCửa sổ ngữ cảnhPhương thức đầu vàoPhương thức đầu raGiấy phép
Mistralmedium2023-12-1132KtexttextApache 2.0

Hiệu suất benchmark

BenchmarkĐiểmĐơn vịGhi chú
MMLU (Massive Multitask Language Understanding)82.9%5-shot
HumanEval78.0pass@1
GSM8K (Grade School Math 8K)82.5%0-shot CoT
MATH54.9%0-shot CoT
BBH (BIG-Bench Hard)83.4%3-shot CoT
GPQA48.7%0-shot
IFEval77.4%prompt_strict
ARC94.6%challenge
MUSR64.3%0-shot
WinoGrande82.4%0-shot

Giá

Đầu vàoĐầu raĐọc bộ nhớ đệmGhi bộ nhớ đệm

mỗi triệu token

Điểm mạnh

  • MMLU score 82.9, strong knowledge reasoning.

Điểm yếu

  • 闭源专有模型,不支持自托管。

Trường hợp sử dụng

  • 代码生成与调试

Tham chiếu