Key Specifications

Vendorother
Versionolmo-1-7-7b
Release Date2024-08-23
Context Window4096 tokens
Input Modalitiestext
Output Modalitiestext
LicenseApache 2.0
Documentationhttps://huggingface.co/models

Benchmark Performance

BenchmarkScoreUnitEvaluated AtNotesSource
MMLU65.5%2024-08-235-shotview
HUMANEVAL67pass@12024-08-23view
GSM8K63.5%2024-08-230-shot CoTview
MATH38.1%2024-08-230-shot CoTview
BBH68.9%2024-08-233-shot CoTview
GPQA26.9%2024-08-230-shotview
IFEVAL61.2%2024-08-23prompt_strictview
ARC91.8%2024-08-23challengeview
MUSR42.6%2024-08-230-shotview
WINOGRANDE76.6%2024-08-230-shotview

Pricing

TierPriceCurrency
Input$0.18 / MtokUSD
Output$0.18 / MtokUSD
Cache Read$0 / MtokUSD
Cache Write$0 / MtokUSD

Source: https://huggingface.co/models · as of 2024-08-23

Compliance

  • Data Residency: self-host
  • SOC2: ✗
  • HIPAA: ✗
  • GDPR: ✗
  • ISO 27001: ✗

OLMo 1.7 7B

Tổng quan mô hình

AllenAI OLMo 1.7 7B 第二代模型, 4K 上下文, 改进训练流程, 性能超越初代 OLMo 7B。

Thông số kỹ thuật cốt lõi

Nhà cung cấpPhiên bảnNgày phát hànhCửa sổ ngữ cảnhPhương thức đầu vàoPhương thức đầu raGiấy phép
Otherolmo-1-7-7b2024-08-234KtexttextApache 2.0

Hiệu suất benchmark

BenchmarkĐiểmĐơn vịGhi chú
MMLU (Massive Multitask Language Understanding)65.5%5-shot
HumanEval67.0pass@1
GSM8K (Grade School Math 8K)63.5%0-shot CoT
MATH38.1%0-shot CoT
BBH (BIG-Bench Hard)68.9%3-shot CoT
GPQA26.9%0-shot
IFEval61.2%prompt_strict
ARC91.8%challenge
MUSR42.6%0-shot
WinoGrande76.6%0-shot

Giá

Đầu vàoĐầu raĐọc bộ nhớ đệmGhi bộ nhớ đệm

mỗi triệu token

Điểm mạnh

  • 可靠的通用模型。

Điểm yếu

  • 闭源专有模型,不支持自托管。
  • 上下文窗口 4K 偏小。

Trường hợp sử dụng

  • 通用对话与问答

Tham chiếu