Røst-v3-whisper-1.5b — CTranslate2-version

CTranslate2 / faster-whisper-version af CoRal-project/roest-v3-whisper-1.5b, den danske ASR-model fra CoRal-projektet hos Alexandra Instituttet.

Samme vægte, hurtigere inference. På disken: 3.09 GB.

Brug

pip install faster-whisper
from faster_whisper import WhisperModel

model = WhisperModel(
    "roest-v3-whisper-1.5b-ct2",
    device="cuda",
    compute_type="float16",
)

segments, _ = model.transcribe("audio.wav", language="da", beam_size=5)
print("".join(seg.text for seg in segments))

Hastighed

Sammenlignet med originalmodellen (HF transformers, float16, beam=5) på samme hardware (NVIDIA RTX A6000):

Split CT2 (denne model) HF transformers (original) CT2 speedup
read_aloud 24.1× 11.6× 2.07×
conversation 13.8× 6.5× 2.12×
samlet 19.5× 9.3× 2.09×

CT2-versionen er altså ca. 2.09× hurtigere end at køre originalmodellen direkte gennem transformers. Baseline-tallene er målt på 150 tilfældigt udvalgte ytringer pr. split med samme hardware og indstillinger.

Hastighed pr. split

Nøjagtighed

Samme vægte som originalen, så CER er stort set uændret. Målt på CoRal-project/coral-v3 test-splits:

Split CER (CT2) CER (original, rapporteret) Ytringer
read_aloud 6.98% 4.50% 9122
conversation 15.77% 11.60% 8438

CER pr. split

CT2-tallene ligger nogle få procentpoint over de upstream-rapporterede tal. Forskellen skyldes overvejende tekstnormalisering (tegnsætning, store/små bogstaver), ikke kvantisering.

Detaljer

  • Sprog: dansk (language="da").
  • Arkitektur: Whisper-large-v3 (1,54 mia. parametre).
  • Kvantisering: float16.
  • Licens: OpenRAIL (arvet fra originalmodellen).
  • Træning: Se originalmodellen for træningsdetaljer. Dette repo indeholder kun CT2-konverteringen.

CT2-vægtene er bygget med:

ct2-transformers-converter \
  --model CoRal-project/roest-v3-whisper-1.5b \
  --output_dir roest-v3-whisper-1.5b-ct2 \
  --quantization float16 \
  --copy_files tokenizer.json preprocessor_config.json

Detaljerede metrics ligger i results/metrics.json.

Downloads last month
112
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for pluttodk/roest-v3-whisper-1.5b-ct2

Finetuned
(7)
this model

Dataset used to train pluttodk/roest-v3-whisper-1.5b-ct2

Evaluation results