Key Specifications

Vendorother
Versionchatglm3-6b
Release Date2023-10-27
Context Window32768 tokens
Input Modalitiestext
Output Modalitiestext
LicenseGLM-3 License
Documentationhttps://huggingface.co/models

Benchmark Performance

BenchmarkScoreUnitEvaluated AtNotesSource
MMLU58%2023-10-275-shotview
HUMANEVAL51pass@12023-10-27view
GSM8K37.9%2023-10-270-shot CoTview
MATH31.8%2023-10-270-shot CoTview
BBH55.7%2023-10-273-shot CoTview
GPQA20.1%2023-10-270-shotview
IFEVAL42.5%2023-10-27prompt_strictview
ARC88.9%2023-10-27challengeview
MUSR42.9%2023-10-270-shotview
WINOGRANDE67.7%2023-10-270-shotview

Pricing

TierPriceCurrency
Input$0.18 / MtokUSD
Output$0.18 / MtokUSD
Cache Read$0 / MtokUSD
Cache Write$0 / MtokUSD

Source: https://huggingface.co/models · as of 2023-10-27

Compliance

  • Data Residency: self-host
  • SOC2: ✗
  • HIPAA: ✗
  • GDPR: ✗
  • ISO 27001: ✗

ChatGLM3 6B

Tổng quan mô hình

清华智谱 ChatGLM3 6B 第三代开源模型, 32K 上下文, 6B 参数, 中英双语对话能力突出, 适合本地部署。

Thông số kỹ thuật cốt lõi

Nhà cung cấpPhiên bảnNgày phát hànhCửa sổ ngữ cảnhPhương thức đầu vàoPhương thức đầu raGiấy phép
Otherchatglm3-6b2023-10-2732KtexttextGLM-3 License

Hiệu suất benchmark

BenchmarkĐiểmĐơn vịGhi chú
MMLU (Massive Multitask Language Understanding)58.0%5-shot
HumanEval51.0pass@1
GSM8K (Grade School Math 8K)37.9%0-shot CoT
MATH31.8%0-shot CoT
BBH (BIG-Bench Hard)55.7%3-shot CoT
GPQA20.1%0-shot
IFEval42.5%prompt_strict
ARC88.9%challenge
MUSR42.9%0-shot
WinoGrande67.7%0-shot

Giá

Đầu vàoĐầu raĐọc bộ nhớ đệmGhi bộ nhớ đệm

mỗi triệu token

Điểm mạnh

  • 可靠的通用模型。

Điểm yếu

  • MMLU 仅 58.0,知识推理偏弱。
  • 闭源专有模型,不支持自托管。

Trường hợp sử dụng

  • 通用对话与问答

Tham chiếu