Om parvis rangordning

Vetenskapen bakom bättre beslut.

Parvis jämförelse är ingen ny idé. Den har studerats, prövats och validerats under nästan ett sekel av forskning inom psykologi, ekonomi och beslutsvetenskap.

1927 Thurstone formaliserar metoden
1952 Bradley och Terry modellerar parvisa val
En skrivmaskin, ett anteckningsblock och en penna

Från psykofysik till styrelserum

En metod som formaliserades 1927 — och som har replikerats sedan dess.

Thurstones A Law of Comparative Judgment, University of Chicago, 1927.

Den parvisa jämförelsens idéhistoria börjar med ett praktiskt problem: hur mäter man saker som saknar en naturlig enhet?

Svaret, som psykologen Louis Leon Thurstone vid University of Chicago föreslog, var att jämföra sakerna direkt, i par. Hans artikel från 1927, A Law of Comparative Judgment, formaliserade denna insikt i en exakt matematisk modell.

Thurstones insikt byggde på en empirisk iakttagelse: människor är betydligt bättre på att svara på ”vilket av de här två ljuden är starkast?” än ”hur starkt är det här ljudet, på en skala från ett till tio?”

Varför par fungerar bättre än skalor

Den kognitiva belastningen vid betygsättning är högre än den verkar.

När du ber någon betygsätta hur viktig en strategisk prioritering är på en skala från ett till tio ber du hen att utföra flera kognitiva operationer samtidigt. Den processen för in systematiska fel i varje steg.

Det mest skadliga av dessa fel är förankringseffekten. Det första objektet som betygsätts tenderar att påverka alla efterföljande betyg; forskning av Tversky och Kahneman (1974) visade att förankringseffekter är både stora och anmärkningsvärt motståndskraftiga mot korrigering.

En andra felkälla är skalkomprimering. I praktiken undviker de flesta respondenter skalans ytterlägen och samlar sina svar i mitten — vilket är anledningen till att en enkät om tolv prioriteringar så ofta ger tolv saker som alla är ”mycket viktiga”.

Hela interaktionen, upprepad om och om igen tills varje objekt har jämförts med varje annat objekt.

En löneförhöjning
ELLER
En extra veckas ledighet
Lägre pris
ELLER
Snabbare leverans
En senior rekrytering
ELLER
Två juniorer

Be vem som helst betygsätta dessa av tio så får båda en nia. Be dem välja så svarar de på en sekund — och menar det.

Hur preferenser blir en rangordning

Sammanvägningsmetoden är enkel, transparent och matematiskt förankrad.

Givet n objekt att rangordna jämförs varje objekt med varje annat objekt exakt en gång. Det totala antalet jämförelser som krävs är n(n−1)/2.

Sammanväga individuella svar

Varje objekts poäng är dess vinstandel: andelen av dess jämförelser som det vann, där oavgjort eller överhoppat räknas som en halv. Att ordna objekt efter vinster är enkelt och transparent, och forskning visar att det står sig väl mot mer komplexa statistiska modeller (Shah & Wainwright, 2018).

Sammanväga gruppens svar

I gruppsessioner sammanvägs varje deltagares jämförelser innan den slutliga rangordningen beräknas. Gruppens totala vinster för en jämförelse är summan av de individuella rösterna från alla deltagare.

Avgörande är att det sammanvägda resultatet också visar hur oenigheten ser ut. Objekt som splittrar gruppen syns i datan — och det är ofta det mest värdefulla som en gruppsession ger.

Om intransitivitet
I sällsynta fall kan parvis jämförelse ge intransitiva resultat — där A slår B, B slår C, men C slår A. Detta kallas Condorcets paradox.

Gruppsessionen som diagnostiskt verktyg

Den rangordnade listan är inte det enda resultatet. Hur oenigheten ser ut är lika viktigt.

Konventionella metoder för beslutsfattande i grupp har en grundläggande brist gemensamt: de är känsliga för i vilken ordning åsikter uttrycks. Den som talar först förankrar gruppen.

Grupper tenderar att diskutera det alla redan vet och underutnyttja det som bara en medlem vet. Det här är problemet med dold profil (Stasser & Titus, 1985). Att samla in varje persons val privat, före all diskussion, lägger varje synpunkt på bordet.

Notis till facilitatorn
Det mest effektiva sättet att använda en gruppsession är att visa resultatet innan diskussionen börjar, inte efteråt. Att visa gruppen vad den gemensamt tycker — innan någon har sagt något — förändrar kvaliteten på samtalet som följer.

Var den används

Från psykoakustik till AI-träning — metoden skalar.

Strategisk planering och ledning

Analytic Hierarchy Process har använts vid strategiska beslut med höga insatser inom försvar, infrastruktur, sjukvård och offentlig förvaltning. En översikt från 2008 identifierade över 900 publicerade tillämpningar inom 19 olika områden.

Maskininlärning och AI

Förstärkningsinlärning från mänsklig återkoppling (RLHF), tekniken som används för att träna moderna stora språkmodeller, bygger helt på parvis jämförelse. Mänskliga bedömare får se två modellsvar och ombeds välja det bättre.

Sport och tävlingsrankning

Elo-rankingsystemet, som används i schack, fotboll och dussintals andra tävlingsområden, är nära besläktat med Bradley–Terrys parvisa modell.

Vidare läsning

Primärkällor och centrala texter.

01
Thurstone, L. L. (1927)
A Law of Comparative Judgment. Psychological Review, 34(4), 273–286.
02
Bradley, R. A. & Terry, M. E. (1952)
Rank analysis of incomplete block designs. Biometrika, 39(3/4), 324–345.
03
Saaty, T. L. (1977)
A Scaling Method for Priorities in Hierarchical Structures. Journal of Mathematical Psychology, 15(3), 234–281.
04
Tversky, A. & Kahneman, D. (1974)
Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124–1131.
05
Stasser, G. & Titus, W. (1985)
Pooling of Unshared Information in Group Discussion. Journal of Personality and Social Psychology, 48(6), 1467–1478.
06
Christiano, P. et al. (2017)
Deep Reinforcement Learning from Human Preferences. NeurIPS 2017.
07
Shah, N. B. & Wainwright, M. J. (2018)
Simple, Robust and Optimal Ranking from Pairwise Comparisons. Journal of Machine Learning Research.
Redo att prova metoden?

Skapa en individuell session eller en gruppsession på under två minuter. Inget konto krävs för att börja.

Skapa ny rangordning →