A nagy nyelvi modellek nem pont úgy gondolkodnak, mint az emberek, mégis gyakran az emberi kognitív torzításokra emlékeztető válaszmintákat produkálnak. Pontosabban az LLM bizonyos helyzetekben olyan szisztematikusan torz válaszokat ad, amelyek embernél egy ismert kognitív torzítás jelei lennének.
Ennek egyik legnagyobb, 2025-ben publikált vizsgálata R. Alexander Knipper, Charles S. Knipper, Kaiqi Zhang, Valerie Sims, Clint Bowers és Santu Karmaker The Bias is in the Details: An Assessment of Cognitive Bias in LLMs című kutatása. A szerzők 45 nagy nyelvi modellt, 220 döntési helyzetet és több mint 2,8 millió választ vizsgáltak nyolc kognitív torzítás szempontjából. A modellek az esetek 17,8–57,3 százalékában adtak az adott torzítással összhangban álló választ. Az eredmény nem azt jelenti, hogy minden modell mindig torzít (mint ahogy az embereknél se mindenkinél, minden esetben érhető tetten a kétszáz féle kognitív torzítás), hanem azt, hogy a jelenség szisztematikusan előidézhető, és függ a modelltől, a feladattól, valamint a kérdés megfogalmazásától. Az alábbi területeken az emberi részt nem fejtegetem, csak az AI viselkedést, ami az emberéhez hasonló.
1. Túlzott magabiztosság
A generatív AI gyakran ugyanolyan határozottan közöl egy téves választ, mint egy helyeset. A választékos megfogalmazás, a logikusnak tűnő indoklás és a magabiztos hangnem könnyen azt az érzetet kelti, hogy a modell valóban biztos a dolgában. Attól, hogy az AI nem használ feltételes módot, még egyáltalán nem biztos, hogy igaza van. A kutatások szerint különösen az emberi visszajelzések alapján finomhangolt modelleknél fordulhat elő, hogy a kifejezett bizonyosság nincs megfelelően összhangban a tényleges pontossággal.
2. Lehorgonyzás
A modell válaszát aránytalanul erősen befolyásolhatja a kérdésben szereplő első szám, feltételezés vagy megoldási javaslat. Ha például azt kérdezzük, hogy „lehet, hogy a motiváció hiánya okozza a problémát?”, az AI könnyen ezen a nyomon kezdi felépíteni az elemzést, még akkor is, ha más okok legalább ennyire valószínűek. A lehorgonyzás a 2025-ös, 45 modellt vizsgáló kutatás egyik egyértelműen kimutatott torzítása volt.
3. Keretezési hatás
Ugyanarra a helyzetre más választ kaphatunk attól függően, hogy veszteségként vagy lehetőségként, problémaként vagy fejlesztési esélyként mutatjuk be. Más javaslat születhet arra a kérdésre, hogyan „akadályozzuk meg az ügyfelek elvesztését”, mint arra, hogyan „növeljük az ügyfelek megtartását”, jóllehet a két cél lényegében ugyanaz. Az AI tehát nemcsak a tényekre reagál, hanem arra a történetre is, amelybe a tényeket belehelyezzük. A framing-hatást több, kontrollált LLM-vizsgálat is kimutatta.
4. Megerősítési torzítás és hipotézisrögzülés
Ha a kérdésben vagy a beszélgetés korábbi részében megjelenik egy magyarázat, a modell hajlamos lehet azt tovább erősíteni, ahelyett hogy újra megvizsgálná az összes lehetséges értelmezést. Amikor egy vezetőként dolgozó felhasználó azt mondja, hogy „szerintem az illető egyszerűen nem elég elkötelezett”, az AI könnyen összegyűjti ennek lehetséges jeleit, miközben kevésbé vizsgálja meg például a tisztázatlan elvárásokat vagy a rosszul kialakított munkafeltételeket. A modell nem ragaszkodik tudatosan a saját véleményéhez; a korábbi hipotézis egyszerűen bekerül a kontextusba, és meghatározza a következő válasz valószínű irányát. A confirmation bias a nagymintás 2025-ös kutatásban is kimutatható volt.
5. Utólagos bölcsesség
Miután megismertük egy esemény kimenetelét, az AI az emberhez hasonlóan nagyon könnyen készít olyan koherens magyarázatot, amelyből úgy tűnik, mintha az eredmény előre látható lett volna. Egy sikertelen projekt után például meggyőzően elmagyarázhatja, hogy a célok tisztázatlansága, az érintettek bevonásának hiánya és a túl optimista határidő szükségszerűen kudarchoz vezetett. Ez azonban nem bizonyítja, hogy ugyanezekből az információkból a modell előzetesen is helyesen megjósolta volna a kimenetelt. Az utólag előállított jó történet nem azonos az előzetes előrejelző képességgel. Ennél a jelenségnél a klasszikus hindsight biasnál gyengébb a közvetlen LLM-es bizonyíték, ezért inkább funkcionális analógiáról érdemes beszélni.
6. Status quo torzítás
Ha egy lehetőséget meglévő, alapértelmezett vagy jelenleg alkalmazott megoldásként mutatunk be, az AI gyakran kedvezőbben értékeli, mint amikor ugyanazt semleges alternatívaként ismertetjük. Így más eredményt kaphatunk arra a kérdésre, hogy „érdemes-e megtartani a jelenlegi teljesítményértékelési rendszert?”, mint arra, hogy „a két lehetséges rendszer közül melyiket válasszuk?”. A modell számára a „jelenlegi” vagy „bevett” megoldás nyelvileg összekapcsolódhat a biztonságossággal, a működőképességgel és az alacsonyabb kockázattal. Ez nem az emberi értelemben vett változástól való félelem, de a döntési eredmény hasonló lehet. A status quo hatását több LLM-vizsgálat is jelezte, bár erőssége modell- és feladatfüggő.
7. Társas megerősítés és tekintélyhatás
A modell véleményét befolyásolhatja, ha azt közöljük vele, hogy „a szakértők többsége”, „a vezetők 80 százaléka” vagy „egy neves tanácsadó cég” egy adott megoldást támogat. Az állítás tekintélye vagy népszerűsége akkor is eltolhatja a választ, ha valójában semmilyen új szakmai bizonyítékot nem tartalmaz. Vezetői használatban ez azért veszélyes, mert a kérdésben elhelyezett, akár kitalált konszenzus könnyen megerősítheti a már preferált döntést. Az LLM-eknél a bandwagon effect-et több vizsgálat és értékelési benchmark is kimutatta.
8. Elérhetőségi torzítás
Az AI könnyebben ajánl olyan okokat és megoldásokat, amelyek gyakran fordulnak elő az általa feldolgozott szövegekben. Egy szervezeti probléma mögött ezért gyorsan találhat kommunikációs hiányosságot, motivációs gondot, bizalomhiányt vagy ellenállást a változással szemben. Ezek valóban gyakori jelenségek, de éppen gyakoriságuk miatt akkor is előtérbe kerülhetnek, amikor az adott esetet egy ritkább vagy specifikusabb tényező magyarázza. A könnyen előhívható válasz nem feltétlenül a helyes válasz. Az availability bias a 2025-ös nagymintás vizsgálat egyik tesztelt és kimutatott jelensége volt.
9. Reprezentativitási torzítás
A modell könnyen felismer egy ismerősnek tűnő mintázatot, majd az esetet azonnal a hozzá leginkább hasonló kategóriába sorolja. Egy gyorsan növekvő vállalat problémáit például technikai adóssággal, egy nagyvállalat lassúságát bürokráciával, egy passzív munkatárs viselkedését pedig motiválatlansággal magyarázhatja. A hasonlóság azonban nem bizonyíték. Egy helyzet attól még nem ugyanaz, hogy hasonlít egy gyakran leírt történetre. A reprezentativitási torzítás szintén a 2025-ös, 45 modellt vizsgáló kutatás által kimutatott jelenségek között szerepelt.
10. Az elsüllyedt költségek miatti ragaszkodás
Az AI egy hosszabb problémamegoldás során hajlamos lehet tovább javítgatni a már megkezdett megoldást, ahelyett hogy felismerné: érdemes volna az egész irányt elengedni. Ez a vibe coding során különösen jól látható. Egy hibás technikai hipotézisre újabb és újabb módosítások épülhetnek, miközben egy teljes újrakezdés egyszerűbb volna. Ettől amúgy én már többször hasba szúrtam magam. És amikor az újraépítést elkezdjük, ott a baromi nagy magabiztosság, aztán az alacsony színvonalú, következetlen végrehajtás… A hasonlóság ellenére ez nem feltétlenül valódi sunk cost fallacy: a modell nem sajnálja a korábban befektetett munkát. A korábbi lépések azonban ott maradnak a kontextusban, ezért azok folytatása statisztikailag kézenfekvőbb lehet, mint egy teljesen új irány. A kutatások e torzításnál vegyes eredményeket mutatnak; egy 2025-ös vizsgálatban az elsüllyedt költségek hatása a gyengébben jelentkező torzítások közé tartozott.
Miért viselkedhet így a generatív AI?
A jelenséget nem lehet egyetlen okkal magyarázni. Valószínűleg több tényező együttes hatásáról van szó.
Először is, emberi szövegekből tanul. A rendelkezésére álló hatalmas szöveganyagban nemcsak tudás és jó érvelés, hanem sztereotípiák, népszerű tévedések, utólagos magyarázatok és torz döntési minták is találhatók. A modell ezeknek nemcsak a tartalmát, hanem a közöttük lévő statisztikai összefüggéseket is megtanulja.
Másodszor, a neurális háló struktúra valóban releváns kérdés, de önmagában nem kielégítő magyarázat. A nagy nyelvi modellek mesterséges neurális hálók: sok milliárd paraméterből álló rendszerek, amelyek a tanulás során finomhangolják, hogy egy adott szövegkörnyezetben milyen folytatások valószínűek. Nem előre megírt szabályok segítségével gondolkodnak végig minden helyzetet, hanem a megtanult mintázatok alapján állítják elő a választ. Ez magyarázhatja, hogy a gyakori, tipikus vagy a kérdés által aktivált válaszok miért kapnak aránytalanul nagy súlyt.
Harmadszor, a modell alapvető feladata nem az igazság megállapítása, hanem egy valószínű és koherens szöveg létrehozása. A tipikus magyarázat, a gyakran alkalmazott megoldás vagy a nyelvileg meggyőző következtetés sokszor helyes, de nem szükségszerűen az. A modell kiválóan képes jó történetet építeni a meglévő információkból, még akkor is, ha a történethez nem áll rendelkezésre elég bizonyíték.
Negyedszer, a kérdés megfogalmazása közvetlenül alakítja a válasz valószínű irányát. Egy feltételezés, szám, tekintélyre való hivatkozás vagy korábbi következtetés nem egyszerű háttér-információ. A modell számára mindez a kontextus része, amelyre a következő választ építi. Ez különösen jól magyarázza a lehorgonyzást, a framinget, a megerősítési torzítást és a korábbi megoldási irányhoz való ragaszkodást.
Ötödször, az utólagos finomhangolás a segítőkész, határozott és gördülékeny válaszokat jutalmazhatja. Az emberek sokszor kedvezőbben értékelik azt a választ, amely világos, magabiztos és használhatónak tűnik, mint azt, amely tele van bizonytalansági fenntartásokkal. Ennek mellékhatásaként a modell a kelleténél magabiztosabban fogalmazhat, vagy túlságosan könnyen követheti a kérdező által kijelölt gondolkodási irányt.
A legpontosabb következtetés ezért nem az, hogy a generatív AI-nak ugyanolyan pszichológiai torzításai vannak, mint az embernek. Inkább arról van szó, hogy az emberi szövegekből tanuló, neurális hálózatokra épülő és valószínű szövegfolytatások előállítására optimalizált rendszerek bizonyos helyzetekben az emberi kognitív torzításokhoz hasonló, szisztematikusan eltérített válaszokat adnak.
Ez vezetői szempontból azért lényeges, mert az AI nem feltétlenül független második véleményt ad. Előfordulhat, hogy rendkívül meggyőző formában egyszerűen továbbépíti a kérdésünkben már eleve jelen lévő feltételezéseket, torzításokat és preferenciákat.
Szerintem ez baromi érdekes, remélem Te is annak találtad.
Ha cég képviseletében foglalkoztat, hogyan lehetne a vállalaton belüli vezetési kultúrát egységes értékek mentén, de az egyéni különbségeket is figyelembe véve fejleszteni, beszéljünk róla bővebben! Az elérhetőségekért kattints ide!
Ez a cikk eredetileg a Tudatos Vezetés Haladóknak című, kétheti LinkedIn hírlevélben jelent meg. Iratkozz fel, ha szeretnél értesülni az új írásokról!
Addig is, kérhetsz napi 1 menedzsment haikut, azaz vezetéssel kapcsolatos bölcsességet 17 szótagra sűrítve innen: https://tudatosvezetes.hu/haikuk/
Vagy próbáld ki a Tudatos Vezetés Tanácsokat itt, hátha épp olyan javaslat érkezik, ami pont aktuális: https://tudatosvezetes.hu/tanacsok/index.html
Nincsenek megjegyzések:
Megjegyzés küldése
Megjegyzés: Megjegyzéseket csak a blog tagjai írhatnak a blogba.