공통 과제로 대규모 언어 모델의 지식·추론·코드 생성을 평가합니다. 모델 비교표와 학습 단계별 성적 추이를 만들고 평가 결과와 개별 답변을 저장합니다.
- MMLU와 GSM8K로 모델 평가
- 여러 모델의 성적 비교표 작성
- 학습 중 모델의 성적 추적
18건 · 관련도순
공통 과제로 대규모 언어 모델의 지식·추론·코드 생성을 평가합니다. 모델 비교표와 학습 단계별 성적 추이를 만들고 평가 결과와 개별 답변을 저장합니다.
Assess language models with over 60 academic benchmark tests using consistent prompts and scoring. Compare models, track performance during training, and organize research results with support for HuggingFace models, vLLM, and APIs.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Assess language models with over 60 academic benchmark tests using consistent prompts and scoring. Compare models, track performance during training, and organize research results with support for HuggingFace models, vLLM, and APIs.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Evaluate Hugging Face Hub models using inspect-ai or lighteval, with local inference or a provider-backed option. Choose an inference engine, start with a small test, and switch engines when model compatibility requires it.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Evaluate language models with over 100 benchmark tests covering knowledge, math, coding, safety, and image understanding. Configure runs on Docker, Slurm computing clusters, or cloud infrastructure, compare models, and export results.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Evaluates LLMs across 60+ academic benchmarks (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use when benchmarking model quality, comparing models, reporting academic results, or tracking training progress. Industry standard used by EleutherAI, HuggingFace, and major labs. Supports HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluates LLMs across 60+ academic benchmarks (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use when benchmarking model quality, comparing models, reporting academic results, or tracking training progress. Industry standard used by EleutherAI, HuggingFace, and major labs. Supports HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluates LLMs across 60+ academic benchmarks (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use when benchmarking model quality, comparing models, reporting academic results, or tracking training progress. Industry standard used by EleutherAI, HuggingFace, and major labs. Supports HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Use when evaluating a newly adapted model's accuracy/eval score. Runs evalscope eval (or the test/srt/run_eval.py fallback) against an OpenAI-compatible endpoint on datasets like gsm8k / aime, producing per-dataset reports and a score. Accuracy only — throughput/latency benchmarks belong to model-speed-benchmark. Triggers on accuracy, eval, evalscope, gsm8k, aime, run_eval — not throughput.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Avalia LLMs em mais de 60 benchmarks acadêmicos (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use quando benchmarking de qualidade de modelo, comparação de modelos, relatório de resultados acadêmicos ou rastreamento de progresso de treinamento. Padrão da indústria usado por EleutherAI, HuggingFace e laboratórios principais. Suporta HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluates LLMs across 60+ academic benchmarks (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use when benchmarking model quality, comparing models, reporting academic results, or tracking training progress. Industry standard used by EleutherAI, HuggingFace, and major labs. Supports HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluate language models on knowledge, math, coding, safety, and image understanding benchmarks. The skill guides reproducible runs in containers using local Docker, Slurm clusters, or cloud execution, with shared configurations for model comparison and result export.
한국어 요약은 준비 중입니다. 영어 요약을 표시하고 있습니다.
Build and govern a 50-200 example domain-specific held-out benchmark sampled from real traffic. Distinct from public benchmarks (MMLU/HumanEval/GSM8K via lm-evaluation-harness) which measure GENERAL capability. Only a held-out domain set predicts whether THIS system works on YOUR data. Collect real examples, label, hold out (never train/prompt on it), size 50-200, version it, refresh on drift.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
lm-eval-harness: benchmark LLMs (MMLU, GSM8K, etc.).
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Avalia LLMs em 100+ benchmarks de 18+ harnesses (MMLU, HumanEval, GSM8K, segurança, VLM) com execução multi-backend. Use quando precisar de avaliação escalável em Docker local, HPC Slurm ou plataformas cloud. Plataforma enterprise-grade da NVIDIA com arquitetura container-first para benchmarking reproduzível.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
lm-eval-harness: benchmark LLMs (MMLU, GSM8K, etc.).
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluates LLMs across 100+ benchmarks from 18+ harnesses (MMLU, HumanEval, GSM8K, safety, VLM) with multi-backend execution. Use when needing scalable evaluation on local Docker, Slurm HPC, or cloud platforms. NVIDIA's enterprise-grade platform with container-first architecture for reproducible benchmarking.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.
Evaluates LLMs across 60+ academic benchmarks (MMLU, HumanEval, GSM8K, TruthfulQA, HellaSwag). Use when benchmarking model quality, comparing models, reporting academic results, or tracking training progress. Industry standard used by EleutherAI, HuggingFace, and major labs. Supports HuggingFace, vLLM, APIs.
한국어 요약은 준비 중입니다. 원문 설명을 표시하고 있습니다.