kudos-eval v1.0.0: resultater for Borealis 2 mot grunnmodellen Gemma 4 (kryssvalidert mellom maskinelle metoder, ikke validert mot menneske)
收藏资源简介:
Resultatpost for kudos-eval v1.0.0 (git-tagg v1.0.0, commit 1a405a0ed0c3e6d4bc03bda804ec1de063b1b9f5 i det private repoet avalyset/kudos-eval). Den sammenligner Borealis 2 (NbAiLab/borealis2-26b-a4b-preview) med grunnmodellen Gemma 4 (google/gemma-4-26B-A4B-it) på 120 spørsmål om offentlige dokumenter i Kudos, med orakelkontekst og distraktorer. Studien følger forhåndsregistreringen 10.5281/zenodo.23943451 og tillegg 1 10.5281/zenodo.23945170. Kryssvalidert mellom maskinelle metoder, ikke validert mot menneske. Svarkvalitet: «ingen forskjell av betydning» (98,1 % mot 98,1 %, 97,5 %-intervall [−1,5; 1,4] pp). Sidehenvisning: «ingen forskjell av betydning» (85,2 % mot 83,8 %, [−5,7; 9,9] pp). Nynorsk: ingen konklusjon. Målformsmålene nådde ikke valideringskravet. Avslag: feilaktige avslag 0 % for begge. Riktige avslag med den deterministiske avslagsregelen 100 % mot 100 %. Dommernes vurdering er ikke pålitelig for Borealis 2. Pakken har resultatene, avvikene, beslutningene (ADR), analyseutdataene, koden og testene med syntetiske fixtures (zip), og sha256 for de rå loggene. Spørsmål, fasiter, holdout, dokumenttekster og modellsvar er ikke med. Koden er under MIT, og dokumentasjonen og resultatene under CC BY 4.0. English: Results for kudos-eval v1.0.0, comparing Borealis 2 with its base model Gemma 4 26B-A4B-it on 120 Norwegian public-document questions with oracle pages plus distractors. Answer quality and page citation showed no difference of importance (SESOI 10 pp). Nynorsk use was not validly measured. The results are cross-validated between machine methods (a second judge, a deterministic refusal rule, GlotLID, an independent parser), not validated against a human. KI-erklæring: koden, analysene og rapportene er laget med Claude Code (Claude Opus 5.5) som verktøy, under forfatterens styring. Beslutningene er forfatterens.



