Hugging Face
Models
Datasets
Spaces
Buckets
new
Docs
Enterprise
Pricing
Website
Tasks
HuggingChat
Collections
Languages
Organizations
Community
Blog
Posts
Daily Papers
Hardware
Learn
Discord
Forum
GitHub
Solutions
Team & Enterprise
Hugging Face PRO
Enterprise Support
Inference Providers
Inference Endpoints
Storage Buckets
Log In
Sign Up
Datasets:
Scherm-AI
/
onprem-llm-benchmark
Like
1
Follow
Scherm AI
4
Tags:
benchmark
llm-inference
on-premise
vllm
gpu
License:
cc-by-4.0
Dataset card
Data Studio
Files
Files and versions
xet
Community
1
main
onprem-llm-benchmark
/
scripts
/
portable-slurm
2 contributors
History:
5 commits
matheusserpa
sbatch Docker 1-modelo/job (teto 2h): tudo editável no arquivo, sem parâmetros, conc 1->128 igual B200/RTX
628ebc9
verified
2 months ago
README.md
Safe
5.46 kB
README portable: seção sem-slurm (run_manual_docker.sh)
2 months ago
amd_container.sbatch
Safe
3.88 kB
feat: sbatch portáveis auto-contidos (NVIDIA/AMD × container/venv) p/ reproduzir em qualquer cluster Slurm — Frontier/ORNL incluído
2 months ago
amd_venv.sbatch
Safe
3.92 kB
feat: sbatch portáveis auto-contidos (NVIDIA/AMD × container/venv) p/ reproduzir em qualquer cluster Slurm — Frontier/ORNL incluído
2 months ago
bench_one_model.sbatch
Safe
8.53 kB
sbatch Docker 1-modelo/job (teto 2h): tudo editável no arquivo, sem parâmetros, conc 1->128 igual B200/RTX
2 months ago
nvidia_container.sbatch
Safe
3.71 kB
feat: sbatch portáveis auto-contidos (NVIDIA/AMD × container/venv) p/ reproduzir em qualquer cluster Slurm — Frontier/ORNL incluído
2 months ago
nvidia_venv.sbatch
Safe
3.95 kB
feat: sbatch portáveis auto-contidos (NVIDIA/AMD × container/venv) p/ reproduzir em qualquer cluster Slurm — Frontier/ORNL incluído
2 months ago
run_all.sh
Safe
4.55 kB
feat: run_all.sh — submete 100% dos testes (todos modelos × tipos) via 1 sbatch escolhido; +dry-run didático
2 months ago
run_manual_docker.sh
Safe
14.8 kB
guia manual sem-slurm: rodar 32B/Coder-32B/72B em H200/H100/B200/RTX6000 com prompts iguais aos do benchmark
2 months ago