Røst-v3-whisper-1.5b — CTranslate2-version
CTranslate2 / faster-whisper-version af
CoRal-project/roest-v3-whisper-1.5b,
den danske ASR-model fra
CoRal-projektet hos
Alexandra Instituttet.
Samme vægte, hurtigere inference. På disken: 3.09 GB.
Brug
pip install faster-whisper
from faster_whisper import WhisperModel
model = WhisperModel(
"roest-v3-whisper-1.5b-ct2",
device="cuda",
compute_type="float16",
)
segments, _ = model.transcribe("audio.wav", language="da", beam_size=5)
print("".join(seg.text for seg in segments))
Hastighed
Sammenlignet med originalmodellen (HF transformers, float16, beam=5) på samme hardware (NVIDIA RTX A6000):
| Split | CT2 (denne model) | HF transformers (original) | CT2 speedup |
|---|---|---|---|
| read_aloud | 24.1× | 11.6× | 2.07× |
| conversation | 13.8× | 6.5× | 2.12× |
| samlet | 19.5× | 9.3× | 2.09× |
CT2-versionen er altså ca. 2.09× hurtigere end at køre
originalmodellen direkte gennem transformers. Baseline-tallene er målt på 150 tilfældigt udvalgte ytringer pr. split med samme hardware og indstillinger.
Nøjagtighed
Samme vægte som originalen, så CER er stort set uændret. Målt på
CoRal-project/coral-v3 test-splits:
| Split | CER (CT2) | CER (original, rapporteret) | Ytringer |
|---|---|---|---|
| read_aloud | 6.98% | 4.50% | 9122 |
| conversation | 15.77% | 11.60% | 8438 |
CT2-tallene ligger nogle få procentpoint over de upstream-rapporterede tal. Forskellen skyldes overvejende tekstnormalisering (tegnsætning, store/små bogstaver), ikke kvantisering.
Detaljer
- Sprog: dansk (
language="da"). - Arkitektur: Whisper-large-v3 (1,54 mia. parametre).
- Kvantisering: float16.
- Licens: OpenRAIL (arvet fra originalmodellen).
- Træning: Se originalmodellen for træningsdetaljer. Dette repo indeholder kun CT2-konverteringen.
CT2-vægtene er bygget med:
ct2-transformers-converter \
--model CoRal-project/roest-v3-whisper-1.5b \
--output_dir roest-v3-whisper-1.5b-ct2 \
--quantization float16 \
--copy_files tokenizer.json preprocessor_config.json
Detaljerede metrics ligger i results/metrics.json.
- Downloads last month
- 112
Model tree for pluttodk/roest-v3-whisper-1.5b-ct2
Base model
openai/whisper-large-v3Dataset used to train pluttodk/roest-v3-whisper-1.5b-ct2
Evaluation results
- Character Error Rate on CoRal-v3 (read_aloud)test set self-reported0.070
- Character Error Rate on CoRal-v3 (conversation)test set self-reported0.158

