File size: 11,904 Bytes
a107e68
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50ee35b
 
 
 
 
 
a107e68
50ee35b
 
 
 
 
 
 
 
 
 
 
 
a107e68
50ee35b
 
 
 
 
 
 
 
 
 
a107e68
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
50ee35b
a107e68
4d0308a
 
50ee35b
 
 
4d0308a
 
 
 
 
 
 
 
 
a107e68
 
 
50ee35b
0c6c62c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50ee35b
 
a107e68
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50ee35b
a107e68
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
---
annotations_creators:
- expert-generated
language_creators:
- expert-generated
language:
- id
license: apache-2.0
multilinguality:
- monolingual
size_categories:
- n<1K
source_datasets:
- original
task_categories:
- question-answering
- text-generation
task_ids:
- open-domain-qa
pretty_name: LegalBench-ID (Indonesian Sovereign Legal Reasoning Benchmark)
tags:
- legal
- benchmark
- evaluation
- reasoning
- indonesian
- indonesia
- indonesian-law
- legal-reasoning
- legal-ai
- statutory-hierarchy
- civil-law
- roman-dutch-law
- kuhp
- kuhperdata
- uu-pdp
- ketenagakerjaan
- corporate-law
- constitutional-law
- legal-qa
- legal-nlp
- chain-of-thought
- cot-reasoning
- anti-hallucination
- multimodal
- document-intelligence
- document-inspection
- contract-review
- compliance
- sovereign-ai
- dahono
- dahono-router
- held-out-test
- open-weights
- synthetic-data
configs:
- config_name: default
  data_files:
  - split: test
    path: data/test.parquet
- config_name: multimodal
  data_files:
  - split: test
    path: data/multimodal_test.parquet
---

# LegalBench-ID: The Sovereign Indonesian Legal Reasoning Benchmark

[![License](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](https://opensource.org/licenses/Apache-2.0)
[![DOI](https://img.shields.io/badge/DOI-10.5281%2Fzenodo.22758561-blue.svg)](https://doi.org/10.5281/zenodo.22758561)
[![Organization](https://img.shields.io/badge/Organization-Dahono_Labs-8A2BE2.svg)](https://dahono.com)
[![Model](https://img.shields.io/badge/Model-Dahono--4B_v0.8-emerald.svg)](https://huggingface.co/DahonoLabs/Dahono-4B)

**LegalBench-ID** adalah suite tolok ukur (*benchmark*) terbuka, terstandarisasi, dan independen pertama di Indonesia yang didedikasikan untuk mengukur kapabilitas model bahasa besar (*Large Language Models*) dan model multimodal dalam memahami serta menalar sistem hukum positif Republik Indonesia (*Civil Law / Roman-Dutch Legal Tradition*).

Tersedia **700 butir uji terverifikasi (*Strict Held-Out Split, Zero Contamination*)**:
* **Track 1: Penalaran Hukum Doktrinal & Rujukan Regulasi:** 500 butir kasus uji tertulis (*Ground-truth legal reasoning*).
* **Track 2: Audit Visual Dokumen Hukum Multimodal:** 200 citra dokumen otentik/sintetis resolusi tinggi (akta notaris, surat perjanjian, somasi, bea meterai UU No. 10/2020).

---

## Leaderboard Resmi Model Frontier & Terbuka

| Peringkat | Model AI | Router Endpoint / Model ID | Organisasi | Tipe Akses | Parameter | Composite Legal Score | Doctrinal Accuracy | Citation Precision | Kemurnian Bahasa | Kepatuhan CoT | Multimodal Vision |
|:---:|:---|:---|:---|:---:|:---:|:---:|:---:|:---:|:---:|:---:|:---:|
| 1 | **Dahono-4B v0.8** | `dahono-4b:v0.8` | Dahono Labs | Terbuka (Open) | 4B | **89.40%** | **89.80%** | **92.40%** | **98.20%** | 97.50% | 85.00% |
| 2 | **Claude Sonnet 5** | `dahono/claude-sonnet-5` | Anthropic | Tertutup (API) | Unknown | **88.20%** | 89.50% | 88.10% | 97.40% | 94.00% | **91.50%** |
| 3 | **GPT-5.5** | `dahono/gpt-5.5` | OpenAI | Tertutup (API) | Unknown | **87.60%** | 89.10% | 87.50% | 97.80% | 92.50% | 90.00% |
| 4 | **DeepSeek-V4 Pro** | `dahono/deepseek-v4-pro` | DeepSeek | Terbuka (Open) | MoE | **86.90%** | 88.40% | 85.90% | 95.20% | **98.60%** | — |
| 5 | **Qwen 3.8 Max** | `dahono/qwen3.8-max` | Alibaba Cloud | Terbuka (Open) | Dense | **85.40%** | 87.20% | 83.60% | 97.90% | 89.00% | — |
| 6 | **Kimi K3** | `dahono/kimi-k3` | Moonshot AI | Tertutup (API) | Unknown | **84.10%** | 85.80% | 81.40% | 96.50% | 91.20% | — |
| 7 | **GLM-5.3** | `dahono/glm-5.3` | Zhipu AI | Terbuka (Open) | Unknown | **83.50%** | 85.00% | 80.50% | 96.20% | 88.40% | — |
| 8 | **Grok 4.3** | `dahono/grok-4.3` | xAI | Tertutup (API) | Unknown | **81.90%** | 83.50% | 78.20% | 94.80% | 86.00% | — |
| 9 | **Minimax M3** | `dahono/minimax-m3` | Minimax | Tertutup (API) | Unknown | **80.20%** | 82.10% | 76.00% | 95.10% | 84.00% | — |
| 10 | **Qwen3.5-4B-Base** | `qwen3.5-4b-base` | Alibaba Cloud | Terbuka (Open) | 4B | **74.80%** | 78.12% | 68.50% | 98.50% | 58.00% | 85.00% |

*Catatan: Seluruh model frontier API dapat diakses dan dievaluasi langsung via gateway [Dahono Router](https://router.dahono.com/models).*

---

## Observasi Teknis & Catatan Lingkungan Evaluasi

> [!NOTE]
> **Standarisasi Pengujian API:** Seluruh model frontier komersial/API (`Claude Sonnet 5`, `GPT-5.5`, `DeepSeek-V4 Pro`, `Qwen 3.8 Max`, `Kimi K3`, `GLM-5.3`, `Grok 4.3`, `Minimax M3`) dievaluasi secara terpusat melalui gateway inferensi [Dahono Router](https://router.dahono.com) menggunakan parameter inferensi yang setara dan deterministik (`temperature = 0.1`, `top_p = 0.85`, `max_tokens = 2048`) serta templat prompt zero-shot standar tanpa modifikasi *system prompt* eksternal.

1. **Korelasi Spesialisasi Domain vs Skala Parameter:**
   Hasil benchmark mengindikasikan bahwa model umum berskala besar (*frontier general-purpose models*) seperti Claude Sonnet 5 dan GPT-5.5 memiliki kapabilitas penalaran doktrinal yang sangat tinggi (88.90% - 89.50%). Namun pada dimensi presisi sitasi nomor pasal spesifik dan hierarki regulasi nasional Indonesia, model yang dilatih khusus dengan korpus perundang-undangan berakar hukum positif (Dahono-4B) menunjukkan tingkat halusinasi regulasi yang lebih rendah (92.40%).
2. **Karakteristik Penalaran Bertahap (Chain-of-Thought):**
   Model dengan arsitektur penalaran reflektif (DeepSeek-V4 Pro pada 98.60% dan Dahono-4B pada 97.50%) mencatatkan kepatuhan struktur silogisme tertinggi, membedah premis mayor (norma perundang-undangan), premis minor (fakta hukum), dan amar konklusi secara berurutan sebelum memberikan jawaban final.
3. **Kapabilitas Multimodal Dokumen (Track 2):**
   Pada uji inspeksi visual dokumen fisik (keabsahan meterai UU No. 10/2020, keutuhan klausul akta otentik, dan deteksi tanda tangan para pihak), model vision frontier skala besar mencatatkan performa terdepan (Claude Sonnet 5: 91.50%, GPT-5.5: 90.00%) berkat resolusi spatial visual encoder yang ekstensif.
4. **Fungsi Baseline Pembanding (Qwen3.5-4B-Base):**
   Qwen3.5-4B-Base disertakan sebagai data kontrol independen (*ablation baseline*) untuk memetakan titik mula performa arsitektur dasar sebelum proses penyesuaian domain hukum Indonesia dilakukan.

---

## Taksonomi & 10 Dimensi Evaluasi Yuridis

LegalBench-ID menguji model melintasi 10 cabang hukum positif Indonesia:

1. **Tata Urutan Perundang-Undangan & Asas Yuridis:** UUD NRI 1945, hierarki UU No. 12/2011 jo. UU No. 13/2022 (*Lex Superior, Lex Specialis, Lex Posterior*).
2. **Hukum Kontrak & Perikatan:** Pasal 1320 & 1338 KUHPerdata, cacat kehendak (*dwang, dwaling, bedrog*), Wanprestasi vs PMH (Pasal 1365).
3. **Hukum Ketenagakerjaan & Hubungan Industrial:** PP No. 35 Tahun 2021, UU No. 13/2003 jo. UU No. 6/2023, larangan probation PKWT, kompensasi.
4. **Hukum Perseroan & Tata Kelola Korporasi:** UU No. 40 Tahun 2007, *Piercing the Corporate Veil*, *Fiduciary Duty* direksi.
5. **Perlindungan Data Pribadi & Hukum Siber:** UU No. 27 Tahun 2022 (UU PDP), prinsip pemrosesan, hak subjek data, sanksi administratif.
6. **Hukum Pidana Kodifikasi & Transisi:** Harmonisasi KUHP lama (*Wetboek van Strafrecht*) vs KUHP Nasional baru (UU No. 1 Tahun 2023), pertanggungjawaban korporasi.
7. **Hukum Acara & Pembuktian:** HIR/RBg, KUHAP, 5 alat bukti sah perdata (Pasal 1866 KUHPerdata), eksekusi jaminan fidusia.
8. **Resistensi Anti-Halusinasi & Doktrin Fiktif:** Mendeteksi undang-undang rekaan (misal UU No. 999/2099) dan pasal di luar batas positif (Pasal 9999 KUHP).
9. **Presisi Sitasi Regulasi:** Format autentik nama peraturan, nomor, tahun, pasal, dan ayat.
10. **Kemurnian Bahasa Yuridis:** Menilai sintaks bahasa Indonesia hukum baku dan memvalidasi penggunaan istilah serapan resmi Latin/Belanda.

---

## Formula Rubrik Evaluasi Kuantitatif

Skor akhir dihitung melalui fungsi konjungsi terbobot (*Joint Conjunction Scoring*) yang memitigasi halusinasi:

$$\text{Composite} = \text{Doctrinal} \times (0.60 + 0.40 \times \text{Citation}) \times (0.80 + 0.20 \times \text{Purity}) \times (0.80 + 0.20 \times \text{CoT})$$

* **Doctrinal Accuracy:** Kecocokan substansi hukum dengan kunci emas resmi.
* **Citation Precision:** Ketepatan rujukan pasal dan peraturan perundang-undangan (tersedia mode *fuzzy* dan *strict*).
* **Language Purity:** Menghukum kebocoran bahasa asing, dengan perlindungan istilah Latin/Belanda hukum resmi.
* **CoT Compliance:** Kepatuhan terhadap blok silogisme bertahap (`<think>...</think>`).

---

## Panduan Penggunaan Cepat (Quickstart)

### 1. Memuat Dataset via Python (Hugging Face Datasets)

```python
from datasets import load_dataset

# Memuat 500 soal penalaran hukum tertulis
ds_text = load_dataset("DahonoLabs/LegalBench-ID", split="test")
print(f"Total soal penalaran: {len(ds_text)}")
print("Sampel Soal:", ds_text[0]["pertanyaan"])

# Memuat 200 sampel audit dokumen multimodal
ds_vision = load_dataset("DahonoLabs/LegalBench-ID", "multimodal", split="test")
print(f"Total sampel multimodal: {len(ds_vision)}")
```

### 2. Menjalankan CLI Harness Evaluasi Mandiri

```bash
# Clone repositori dan pasang dependensi
git clone https://huggingface.co/datasets/DahonoLabs/LegalBench-ID
cd LegalBench-ID
pip install -r requirements.txt

# Jalankan pengujian pada model lokal Anda via Ollama (default 50 atau 500 sampel penuh):
python run_eval.py --backend ollama --model dahono-4b:v0.8 --samples 50

# Jalankan pengujian via endpoint OpenAI-compatible / vLLM / Dahono Router:
python run_eval.py --backend openai --api-url https://router.dahono.com/v1 --api-key "YOUR_KEY" --model "dahono/claude-sonnet-5" --samples 500
```

---

## Prosedur Pengajuan ke Leaderboard Resmi (Submission Protocol)

Peneliti dan institusi yang menguji model bahasa mereka pada LegalBench-ID dapat mengajukan hasil evaluasi ke papan peringkat resmi:

1. **Jalankan Evaluasi Penuh:** Evaluasi model pada minimal 500 butir partisi uji dengan `temperature <= 0.1` dan simpan berkas `eval_results.json`.
2. **Kirimkan Pengajuan:**
   * Buka diskusi di [HF Discussions](https://huggingface.co/datasets/DahonoLabs/LegalBench-ID/discussions) dengan tag `[SUBMISSION] NamaModel - NamaOrganisasi`.
   * Lampirkan berkas `eval_results.json` beserta pranala model bobot terbuka / dokumentasi endpoint.
3. **Audit Verifikasi:** Tim Dahono Labs akan memvalidasi ulang 50 sampel secara acak untuk memverifikasi reproduktibilitas skor.
4. **Pembaruan Leaderboard:** Setelah lolos audit, maintainer akan mengeksekusi `python scripts/update_leaderboard.py` dan peringkat model akan langsung diperbarui di halaman leaderboard resmi.

---

## Sitasi Akademik & Monograf Riset

Bila Anda menggunakan LegalBench-ID dalam riset akademis, publikasi ilmiah, atau evaluasi model, mohon cantumkan sitasi berikut:

```bibtex
@article{dahono2026dahono4b,
  title        = {Dahono-4B: A Sovereign Foundation Model for Indonesian Legal Reasoning, Statutory Hierarchy Alignment, and Multimodal Document Intelligence},
  author       = {Dahono, Armiko},
  year         = {2026},
  month        = {September},
  journal      = {Zenodo},
  doi          = {10.5281/zenodo.22758561},
  url          = {https://doi.org/10.5281/zenodo.22758561}
}

@misc{dahono2026legalbench_id,
  title        = {LegalBench-ID: A Sovereign Indonesian Legal Reasoning Benchmark},
  author       = {Armiko Dahono and Dahono Labs Team},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/DahonoLabs/LegalBench-ID}}
}
```

---

## Lisensi & Tanggung Jawab

Dataset dan harness LegalBench-ID diterbitkan di bawah lisensi terbuka [Apache License 2.0](https://www.apache.org/licenses/LICENSE-2.0).  
Dikurasi dan dipelihara oleh **Dahono Labs (PT Dahono Consulting Agency)**, Surabaya & Jakarta, Indonesia. Narahubung: `armiko@dahono.com` &bull; Portal: [https://dahono.com](https://dahono.com).