Idiom completion benchmark
- Authors
- Item identifier
- http://hdl.handle.net/20.500.12537/412
- Project URL
- https://stigatafla.is/
- Demo URL
- https://stigatafla.is/
- Date issued
- 2026-09-09
- Size
- 753 entries
- Language(s)
- Icelandic
- Description
- Idiom completion benchmark is a benchmark for evaluating the capabilities of language models when it comes to Icelandic language and culture. The benchmark is used on the Miðeind leaderboard (stigatafla.is), where examples from the benchmark and further information can be found. The benchmark contains 753 entries where one word has been removed from a well-known Icelandic idiom. The benchmark involves getting a model to fill in the blank. The benchmark can be accessed for research purposes by contacting the project contacts or at stigatafla@mideind.is. Eyðufylling orðatiltækja er mælipróf til að meta færni mállíkana þegar kemur að íslensku máli og menningu. Mæliprófið er notað á stigatöflu Miðeindar (stigatafla.is), þar sem finna má dæmi úr mæliprófinu og frekari upplýsingar. Í mæliprófinu eru 753 færslur þar sem eitt orð hefur verið fjarlægt úr þekktu íslensku orðatiltæki. Mæliprófið felst í því að fá líkan til að fylla í eyðuna. Mæliprófið er ekki gefið út opið til að forðast að það endi í þjálfunargögnum líkananna. Hægt er að nálgast mæliprófið til rannsókna með því að hafa samband við tengiliði verkefnis eða á stigatafla@mideind.is.
- Publisher
- Miðeind ehf.
- Acknowledgement
-
Icelandic Student Innovation Fund
Project code: 2603-0554
Project name: Erfiðari mælipróf fyrir íslensku
- Subject(s)
- benchmark
- Collection(s)
-