Swedish Language Understanding

Multilingual comprehension and reasoning in Swedish, covering fact checking, summarization, inference, literary and legal analysis, and dialectal understanding. This task evaluates how well models follow Swedish instructions and produce accurate, well-formed answers in Swedish.

80
Duration
1m 11s
Input Tokens
1128
Output Tokens
795
Cost
$0.00
Context
Input
Analysera meningen 'vi bör kontakta kunderna som beställt produkterna som inte levererades i veckan som gick'. Vilka referentiella problem skapar de staplade relativsatserna?
Expected output
Problemet är att det blir oklart vad 'som inte levererades' och 'som gick' refererar till. Möjliga tolkningar: 1) Kunder som beställt produkter (där produkterna inte levererades i förra veckan), 2) Produkter som inte levererades (i veckan som gick), 3) Den vecka som gick (som inte levererades - ologiskt). Staplade relativsatser skapar strukturell tvetydighet.
Model output
De staplade relativsatserna gör det oklart (1) om det är kunderna eller produkterna som inte levererades och (2) vilken vecka som åsyftas, eftersom varje "som" kan uppfattas anknyta fel. Avståndet mellan huvudord och relativsats blir också långt, vilket gör det svårt att hålla isär referenterna. Resultatet är en mening där mottagaren måste gissa sig till kopplingarna och därmed riskerar att missförstå både vilka kunder och vilka produkter det gäller.