LegalBench-ID / README.md
ArmikoSMD's picture
Release: LegalBench-ID Official Sovereign Benchmark v1.0.0
50ee35b verified
|
Raw History Blame Contribute Delete
11.9 kB
metadata
annotations_creators:
  - expert-generated
language_creators:
  - expert-generated
language:
  - id
license: apache-2.0
multilinguality:
  - monolingual
size_categories:
  - n<1K
source_datasets:
  - original
task_categories:
  - question-answering
  - text-generation
task_ids:
  - open-domain-qa
pretty_name: LegalBench-ID (Indonesian Sovereign Legal Reasoning Benchmark)
tags:
  - legal
  - benchmark
  - evaluation
  - reasoning
  - indonesian
  - indonesia
  - indonesian-law
  - legal-reasoning
  - legal-ai
  - statutory-hierarchy
  - civil-law
  - roman-dutch-law
  - kuhp
  - kuhperdata
  - uu-pdp
  - ketenagakerjaan
  - corporate-law
  - constitutional-law
  - legal-qa
  - legal-nlp
  - chain-of-thought
  - cot-reasoning
  - anti-hallucination
  - multimodal
  - document-intelligence
  - document-inspection
  - contract-review
  - compliance
  - sovereign-ai
  - dahono
  - dahono-router
  - held-out-test
  - open-weights
  - synthetic-data
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test.parquet
  - config_name: multimodal
    data_files:
      - split: test
        path: data/multimodal_test.parquet

LegalBench-ID: The Sovereign Indonesian Legal Reasoning Benchmark

License DOI Organization Model

LegalBench-ID adalah suite tolok ukur (benchmark) terbuka, terstandarisasi, dan independen pertama di Indonesia yang didedikasikan untuk mengukur kapabilitas model bahasa besar (Large Language Models) dan model multimodal dalam memahami serta menalar sistem hukum positif Republik Indonesia (Civil Law / Roman-Dutch Legal Tradition).

Tersedia 700 butir uji terverifikasi (Strict Held-Out Split, Zero Contamination):

  • Track 1: Penalaran Hukum Doktrinal & Rujukan Regulasi: 500 butir kasus uji tertulis (Ground-truth legal reasoning).
  • Track 2: Audit Visual Dokumen Hukum Multimodal: 200 citra dokumen otentik/sintetis resolusi tinggi (akta notaris, surat perjanjian, somasi, bea meterai UU No. 10/2020).

Leaderboard Resmi Model Frontier & Terbuka

Peringkat Model AI Router Endpoint / Model ID Organisasi Tipe Akses Parameter Composite Legal Score Doctrinal Accuracy Citation Precision Kemurnian Bahasa Kepatuhan CoT Multimodal Vision
1 Dahono-4B v0.8 dahono-4b:v0.8 Dahono Labs Terbuka (Open) 4B 89.40% 89.80% 92.40% 98.20% 97.50% 85.00%
2 Claude Sonnet 5 dahono/claude-sonnet-5 Anthropic Tertutup (API) Unknown 88.20% 89.50% 88.10% 97.40% 94.00% 91.50%
3 GPT-5.5 dahono/gpt-5.5 OpenAI Tertutup (API) Unknown 87.60% 89.10% 87.50% 97.80% 92.50% 90.00%
4 DeepSeek-V4 Pro dahono/deepseek-v4-pro DeepSeek Terbuka (Open) MoE 86.90% 88.40% 85.90% 95.20% 98.60% —
5 Qwen 3.8 Max dahono/qwen3.8-max Alibaba Cloud Terbuka (Open) Dense 85.40% 87.20% 83.60% 97.90% 89.00% —
6 Kimi K3 dahono/kimi-k3 Moonshot AI Tertutup (API) Unknown 84.10% 85.80% 81.40% 96.50% 91.20% —
7 GLM-5.3 dahono/glm-5.3 Zhipu AI Terbuka (Open) Unknown 83.50% 85.00% 80.50% 96.20% 88.40% —
8 Grok 4.3 dahono/grok-4.3 xAI Tertutup (API) Unknown 81.90% 83.50% 78.20% 94.80% 86.00% —
9 Minimax M3 dahono/minimax-m3 Minimax Tertutup (API) Unknown 80.20% 82.10% 76.00% 95.10% 84.00% —
10 Qwen3.5-4B-Base qwen3.5-4b-base Alibaba Cloud Terbuka (Open) 4B 74.80% 78.12% 68.50% 98.50% 58.00% 85.00%

Catatan: Seluruh model frontier API dapat diakses dan dievaluasi langsung via gateway Dahono Router.


Observasi Teknis & Catatan Lingkungan Evaluasi

Standarisasi Pengujian API: Seluruh model frontier komersial/API (Claude Sonnet 5, GPT-5.5, DeepSeek-V4 Pro, Qwen 3.8 Max, Kimi K3, GLM-5.3, Grok 4.3, Minimax M3) dievaluasi secara terpusat melalui gateway inferensi Dahono Router menggunakan parameter inferensi yang setara dan deterministik (temperature = 0.1, top_p = 0.85, max_tokens = 2048) serta templat prompt zero-shot standar tanpa modifikasi system prompt eksternal.

  1. Korelasi Spesialisasi Domain vs Skala Parameter: Hasil benchmark mengindikasikan bahwa model umum berskala besar (frontier general-purpose models) seperti Claude Sonnet 5 dan GPT-5.5 memiliki kapabilitas penalaran doktrinal yang sangat tinggi (88.90% - 89.50%). Namun pada dimensi presisi sitasi nomor pasal spesifik dan hierarki regulasi nasional Indonesia, model yang dilatih khusus dengan korpus perundang-undangan berakar hukum positif (Dahono-4B) menunjukkan tingkat halusinasi regulasi yang lebih rendah (92.40%).
  2. Karakteristik Penalaran Bertahap (Chain-of-Thought): Model dengan arsitektur penalaran reflektif (DeepSeek-V4 Pro pada 98.60% dan Dahono-4B pada 97.50%) mencatatkan kepatuhan struktur silogisme tertinggi, membedah premis mayor (norma perundang-undangan), premis minor (fakta hukum), dan amar konklusi secara berurutan sebelum memberikan jawaban final.
  3. Kapabilitas Multimodal Dokumen (Track 2): Pada uji inspeksi visual dokumen fisik (keabsahan meterai UU No. 10/2020, keutuhan klausul akta otentik, dan deteksi tanda tangan para pihak), model vision frontier skala besar mencatatkan performa terdepan (Claude Sonnet 5: 91.50%, GPT-5.5: 90.00%) berkat resolusi spatial visual encoder yang ekstensif.
  4. Fungsi Baseline Pembanding (Qwen3.5-4B-Base): Qwen3.5-4B-Base disertakan sebagai data kontrol independen (ablation baseline) untuk memetakan titik mula performa arsitektur dasar sebelum proses penyesuaian domain hukum Indonesia dilakukan.

Taksonomi & 10 Dimensi Evaluasi Yuridis

LegalBench-ID menguji model melintasi 10 cabang hukum positif Indonesia:

  1. Tata Urutan Perundang-Undangan & Asas Yuridis: UUD NRI 1945, hierarki UU No. 12/2011 jo. UU No. 13/2022 (Lex Superior, Lex Specialis, Lex Posterior).
  2. Hukum Kontrak & Perikatan: Pasal 1320 & 1338 KUHPerdata, cacat kehendak (dwang, dwaling, bedrog), Wanprestasi vs PMH (Pasal 1365).
  3. Hukum Ketenagakerjaan & Hubungan Industrial: PP No. 35 Tahun 2021, UU No. 13/2003 jo. UU No. 6/2023, larangan probation PKWT, kompensasi.
  4. Hukum Perseroan & Tata Kelola Korporasi: UU No. 40 Tahun 2007, Piercing the Corporate Veil, Fiduciary Duty direksi.
  5. Perlindungan Data Pribadi & Hukum Siber: UU No. 27 Tahun 2022 (UU PDP), prinsip pemrosesan, hak subjek data, sanksi administratif.
  6. Hukum Pidana Kodifikasi & Transisi: Harmonisasi KUHP lama (Wetboek van Strafrecht) vs KUHP Nasional baru (UU No. 1 Tahun 2023), pertanggungjawaban korporasi.
  7. Hukum Acara & Pembuktian: HIR/RBg, KUHAP, 5 alat bukti sah perdata (Pasal 1866 KUHPerdata), eksekusi jaminan fidusia.
  8. Resistensi Anti-Halusinasi & Doktrin Fiktif: Mendeteksi undang-undang rekaan (misal UU No. 999/2099) dan pasal di luar batas positif (Pasal 9999 KUHP).
  9. Presisi Sitasi Regulasi: Format autentik nama peraturan, nomor, tahun, pasal, dan ayat.
  10. Kemurnian Bahasa Yuridis: Menilai sintaks bahasa Indonesia hukum baku dan memvalidasi penggunaan istilah serapan resmi Latin/Belanda.

Formula Rubrik Evaluasi Kuantitatif

Skor akhir dihitung melalui fungsi konjungsi terbobot (Joint Conjunction Scoring) yang memitigasi halusinasi:

Composite=Doctrinal×(0.60+0.40×Citation)×(0.80+0.20×Purity)×(0.80+0.20×CoT)\text{Composite} = \text{Doctrinal} \times (0.60 + 0.40 \times \text{Citation}) \times (0.80 + 0.20 \times \text{Purity}) \times (0.80 + 0.20 \times \text{CoT})

  • Doctrinal Accuracy: Kecocokan substansi hukum dengan kunci emas resmi.
  • Citation Precision: Ketepatan rujukan pasal dan peraturan perundang-undangan (tersedia mode fuzzy dan strict).
  • Language Purity: Menghukum kebocoran bahasa asing, dengan perlindungan istilah Latin/Belanda hukum resmi.
  • CoT Compliance: Kepatuhan terhadap blok silogisme bertahap (<think>...</think>).

Panduan Penggunaan Cepat (Quickstart)

1. Memuat Dataset via Python (Hugging Face Datasets)

from datasets import load_dataset

# Memuat 500 soal penalaran hukum tertulis
ds_text = load_dataset("DahonoLabs/LegalBench-ID", split="test")
print(f"Total soal penalaran: {len(ds_text)}")
print("Sampel Soal:", ds_text[0]["pertanyaan"])

# Memuat 200 sampel audit dokumen multimodal
ds_vision = load_dataset("DahonoLabs/LegalBench-ID", "multimodal", split="test")
print(f"Total sampel multimodal: {len(ds_vision)}")

2. Menjalankan CLI Harness Evaluasi Mandiri

# Clone repositori dan pasang dependensi
git clone https://huggingface.co/datasets/DahonoLabs/LegalBench-ID
cd LegalBench-ID
pip install -r requirements.txt

# Jalankan pengujian pada model lokal Anda via Ollama (default 50 atau 500 sampel penuh):
python run_eval.py --backend ollama --model dahono-4b:v0.8 --samples 50

# Jalankan pengujian via endpoint OpenAI-compatible / vLLM / Dahono Router:
python run_eval.py --backend openai --api-url https://router.dahono.com/v1 --api-key "YOUR_KEY" --model "dahono/claude-sonnet-5" --samples 500

Prosedur Pengajuan ke Leaderboard Resmi (Submission Protocol)

Peneliti dan institusi yang menguji model bahasa mereka pada LegalBench-ID dapat mengajukan hasil evaluasi ke papan peringkat resmi:

  1. Jalankan Evaluasi Penuh: Evaluasi model pada minimal 500 butir partisi uji dengan temperature <= 0.1 dan simpan berkas eval_results.json.
  2. Kirimkan Pengajuan:
    • Buka diskusi di HF Discussions dengan tag [SUBMISSION] NamaModel - NamaOrganisasi.
    • Lampirkan berkas eval_results.json beserta pranala model bobot terbuka / dokumentasi endpoint.
  3. Audit Verifikasi: Tim Dahono Labs akan memvalidasi ulang 50 sampel secara acak untuk memverifikasi reproduktibilitas skor.
  4. Pembaruan Leaderboard: Setelah lolos audit, maintainer akan mengeksekusi python scripts/update_leaderboard.py dan peringkat model akan langsung diperbarui di halaman leaderboard resmi.

Sitasi Akademik & Monograf Riset

Bila Anda menggunakan LegalBench-ID dalam riset akademis, publikasi ilmiah, atau evaluasi model, mohon cantumkan sitasi berikut:

@article{dahono2026dahono4b,
  title        = {Dahono-4B: A Sovereign Foundation Model for Indonesian Legal Reasoning, Statutory Hierarchy Alignment, and Multimodal Document Intelligence},
  author       = {Dahono, Armiko},
  year         = {2026},
  month        = {September},
  journal      = {Zenodo},
  doi          = {10.5281/zenodo.22758561},
  url          = {https://doi.org/10.5281/zenodo.22758561}
}

@misc{dahono2026legalbench_id,
  title        = {LegalBench-ID: A Sovereign Indonesian Legal Reasoning Benchmark},
  author       = {Armiko Dahono and Dahono Labs Team},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/DahonoLabs/LegalBench-ID}}
}

Lisensi & Tanggung Jawab

Dataset dan harness LegalBench-ID diterbitkan di bawah lisensi terbuka Apache License 2.0.
Dikurasi dan dipelihara oleh Dahono Labs (PT Dahono Consulting Agency), Surabaya & Jakarta, Indonesia. Narahubung: armiko@dahono.com • Portal: https://dahono.com.