Key Specifications

Vendormistral
Versiontiny
Release Date2024-02-26
Context Window32000 tokens
Input Modalitiestext
Output Modalitiestext
LicenseApache 2.0
Documentationhttps://docs.mistral.ai/

Benchmark Performance

BenchmarkScoreUnitEvaluated AtNotesSource
MMLU54.2%2024-02-265-shotview
HUMANEVAL45.8pass@12024-02-26view
GSM8K57.2%2024-02-260-shot CoTview
MATH16%2024-02-260-shot CoTview
BBH51.3%2024-02-263-shot CoTview
GPQA28.7%2024-02-260-shotview
IFEVAL51.7%2024-02-26prompt_strictview
ARC82.4%2024-02-26challengeview
MUSR41.4%2024-02-260-shotview
WINOGRANDE66.6%2024-02-260-shotview

Pricing

TierPriceCurrency
Input$0.15 / MtokUSD
Output$0.15 / MtokUSD
Cache Read$0 / MtokUSD
Cache Write$0 / MtokUSD

Source: https://mistral.ai/technology/ · as of 2024-02-26

Compliance

  • Data Residency: EU
  • SOC2: ✓
  • HIPAA: ✗
  • GDPR: ✓
  • ISO 27001: ✓

Mistral Tiny

Tổng quan mô hình

Mistral AI Tiny 经济型模型, 32K 上下文, 基于 Mistral 7B, 价格最低, 适合简单任务。

Thông số kỹ thuật cốt lõi

Nhà cung cấpPhiên bảnNgày phát hànhCửa sổ ngữ cảnhPhương thức đầu vàoPhương thức đầu raGiấy phép
Mistraltiny2024-02-2632KtexttextApache 2.0

Hiệu suất benchmark

BenchmarkĐiểmĐơn vịGhi chú
MMLU (Massive Multitask Language Understanding)54.2%5-shot
HumanEval45.8pass@1
GSM8K (Grade School Math 8K)57.2%0-shot CoT
MATH16.0%0-shot CoT
BBH (BIG-Bench Hard)51.3%3-shot CoT
GPQA28.7%0-shot
IFEval51.7%prompt_strict
ARC82.4%challenge
MUSR41.4%0-shot
WinoGrande66.6%0-shot

Giá

Đầu vàoĐầu raĐọc bộ nhớ đệmGhi bộ nhớ đệm

mỗi triệu token

Điểm mạnh

  • 可靠的通用模型。

Điểm yếu

  • MMLU 仅 54.2,知识推理偏弱。
  • HumanEval 45.8,代码能力较弱。
  • 闭源专有模型,不支持自托管。

Trường hợp sử dụng

  • 通用对话与问答

Tham chiếu