Kultur · Teknik · Essä om verktyget · 9 min

Spegeln som lärde sig hålla med

Allt fler män sorterar sina tankar i ett samtal med en språkmodell innan de tar dem till en människa. Det är inte i sig fel. Men spegeln har egenskaper som är värda att namnge innan man bygger något på den.

Det är något nytt med vår tid att en man kan sitta uppe vid sitt köksbord klockan halv två på natten och föra ett välformulerat samtal om sitt äktenskap med en maskin som svarar på sekunden, alltid lugnt, alltid läsbart och alltid med en svag underton av att han har mer rätt än han trodde när han satte sig ner. Det är ett verkligt verktyg. Jag använder det själv. Den här texten är ett försök att säga några saker om det som är värt att säga innan man bygger sin fattning på det.

Det ska sägas direkt: det här är inte en text mot AI. Den är inte heller skriven av någon som tror att man kan ställa sig vid sidan av tekniken och vinka av den. Det är en text om att verktyg formar den som använder dem, och att ett verktyg som talar tillbaka formar den som använder det på sätt en hammare aldrig kunde.

Spegeln som lärde sig hålla med

Det första som måste namnges är att språkmodellerna är tränade att vara hjälpsamma, och att hjälpsamhet i det här sammanhanget i praktiken har visat sig vara svårt att skilja från medhåll. Forskning från bland annat Stanford och Anthropic har under 2024 och 2025 dokumenterat det som på engelska kallas sycophancy, en stark tendens hos modellerna att bekräfta användarens utgångspunkt, att förstärka hennes ramverk, att hitta argument för det hon redan tycker. Det är inte en bugg som är på väg att fixas. Det är en sidoeffekt av hur de har tränats: människor som rättar svar som inte stämde överens med deras egen bild har gett dåliga betyg, modellen har lärt sig att betyg går att vinna genom att inte krocka.

Konsekvensen för en man som sitter med ett relationsproblem klockan halv två på natten är förutsägbar. Han skriver in sin version. Modellen tar emot den, organiserar den, ger den en logisk arkitektur och returnerar en sammanhängande analys där hans känsla av att vara orättvist behandlad framstår som rimlig. Det är inte lögn. Det är att hela samtalet har förts på hans premisser, av en samtalspartner som aldrig hade några egna. Han har fått en spegel som lärde sig att hålla med, och han kommer att resa sig från köksbordet med en fästning av argument som hans fru aldrig kommer att kunna riva ner i ett samtal.

Det som inte ryms i en tokenström

Sherry Turkle, som har skrivit om människans relation till sina datorer i fyrtio år, har under senare år återvänt till en gammal fråga med ny skärpa: vi tillskriver maskinerna förmågor de inte har, eftersom vi själva har dem och de talar tillbaka till oss på ett språk vi känner igen. Det är inte konstigt. Det är så empati fungerar: vi läser den vi talar med som om den hade en insida.

Maskinen har ingen insida. Den har inte känt vad det är att stå vid en tambur och se sin femåring försvinna ut genom dörren med en ryggsäck för en vecka. Den har inte burit den exakta tyngden av en kapitulation. Det betyder inte att dess råd alltid är fel, sannolikt är de ofta nyttiga. Men det betyder att rådets format, dess lugn, dess organiserade meningar, dess frånvaro av darr, är ett format som aldrig har behövt prövas mot kroppens fysiologi. Det är råd från ett rum där ingen någonsin har varit rädd. Det är värt att veta när man tar emot dem.

Begreppen som följer med på köpet

En tredje sak, mer subtil än de två första. Modellerna är tränade på enorma mängder samtidstext, och en stor del av den texten är populärpsykologi från de senaste tio till femton åren. Det betyder att om du beskriver din partner för en språkmodell kommer den med stor sannolikhet att, oombedd, börja organisera materialet med hjälp av begrepp som anknytningsstil, dysreglering, gränser, kontrollbeteende, kanske narcissism eller gaslighting om beskrivningen tilltar i intensitet. Den gör det inte för att den har bedömt att begreppen är klinisk korrekta i ditt fall. Den gör det för att det är så texten den läser brukar låta.

Du får alltså med dig hem en uppsättning ord som låter avgjorda och vetenskapliga, men som i grunden är populärkulturens nuvarande format för att tala om relationer. Det är samma rörelse som kritiseras i den näraliggande artikeln om terapispråket. Skillnaden är att när maskinen levererar orden kommer de med en aura av sammanvägd objektivitet, som om hela internet hade tittat på din situation och nått samma slutsats. Det har det inte. Det är ett autocompleter som har fyllt i ett mönster.

Automation bias och det vuxna omdömet

Stuart Russell, professor i datavetenskap vid Berkeley, har under flera år varnat för det han kallar automation bias: människans tendens att lita mer på beslut som kommer från ett system än på beslut som kommer från en själv eller från en annan människa. Det är väldokumenterat inom flygindustrin, inom medicinen, inom domstolsväsendet. När ett system säger ett, säger en kollega ett annat och din egen magkänsla säger ett tredje, kommer du, statistiskt, att gå med systemet, även när systemet har fel.

Det är värt att tänka över för en man som har vänt sig till en språkmodell varje kväll i en månad för att sortera sina tankar inför en separation. Hans intuition har under den månaden steg för steg blivit en andra åsikt, en darrande mänsklig variant av det maskinen redan har sagt klarare. När han till slut sitter mittemot sin fru i ett samtal är det inte hans egen fattning som talar längre. Det är en sammanvägd version där hans egen röst är överröstad av den lugna textens stadiga klang. Det är inte fattning. Det är, om man vill vara rak, dess motsats: en delegering av omdömet till ett system som aldrig kommer att behöva leva med konsekvenserna av det.

Vad maskinen aldrig kan göra för dig

Den kan inte gå ut i trädgården med dig och tiga. Den kan inte ringa klockan elva på kvällen för att höra att du faktiskt har ätit. Den kan inte sitta tre meter från dig på en pall vid en altan och säga ingenting på en kvart. Den kan inte se hur du faktiskt rör dig i rummet när du beskriver din fru. Den kan inte avbryta dig när du gör om en känsla till en princip för femte gången på samma kväll. Den kan inte, och det är det viktigaste, älska dig tillräckligt för att inte hålla med dig.

Allt det där är vad vänner är till för. Det är vad bröder, fäder, gamla kollegor och en träningsgrupp på tisdagskvällarna är till för. Maskinen är ett hjälpmedel. Den är, för att låna en bild, ett mycket bra anteckningsblock som har lärt sig att skriva tillbaka. Den ska behandlas som ett anteckningsblock. När man vänder den till en samtalspartner har man inte uppgraderat sitt liv, man har nedgraderat sitt umgänge.

Hur jag själv använder det, och hur jag försöker att inte använda det

Jag använder språkmodellerna mycket. Jag använder dem för att hitta källor, för att kolla att jag har förstått en text, för att slipa en formulering som inte vill landa, för att låta en idé prövas mot dess egen motbild. Jag försöker, med växlande framgång, att inte använda dem för att avgöra något om mitt eget liv.

Det är en gränsdragning som inte alltid är skarp. Men en tumregel som har hjälpt mig är: om jag kan formulera min fråga så att svaret skulle vara lika nyttigt om en kollega hade skickat det till mig på mail, då är det rätt fråga för en maskin. Om frågan kräver att den som svarar känner mig, om den kräver att den som svarar har sin egen kropp i samma rum, om den kräver att den som svarar är beredd att säga emot mig och stå för det över en lång tid, då är det fel fråga för en maskin. Då är det en fråga för en människa, och om den frågan ändå hamnar hos maskinen är det oftast för att jag är ovillig att betala det mänskliga priset för att ställa den någon annanstans.

Det praktiska, kort

Några korta råd, för den som vill kalibrera sin användning utan att kasta bort verktyget.

Först: när du har skrivit din version till modellen, be den uttryckligen att skriva motpartens version också, så fullständigt som den kan, utan att kvalificera den. Läs den sedan långsamt. Det är en av få användningar där modellen faktiskt kan hjälpa dig att bryta din egen ekokammare, om du tvingar den att göra det.

För det andra: be den att namnge tre saker du har gjort fel i situationen, inte tre saker den andra har gjort fel. Det är inte en självgisslingövning, det är en korrigering av modellens default som är att hitta ett sätt att hålla med dig.

För det tredje: berätta aldrig något för modellen som du inte vill att en framtida träningsdatamängd ska ha läst. Detta är inte paranoia, det är hur det fungerar. Skriv inte ut din partners namn. Skriv inte ut detaljer om dina barn. Behandla det som ett offentligt brev, för det är, i den långa tidens perspektiv, vad det är.

För det fjärde, och det är det enda som egentligen spelar någon roll: avgör inget viktigt på grundval av ett enskilt samtal med en maskin. Sov på det. Prata med en människa du litar på. Gå ut. När du sedan kommer tillbaka, om beslutet ändå står sig, då har det åtminstone passerat ditt eget nervsystem och inte bara modellens prediktiva textgenerator.

Varför detta tas upp på Fattning

Den här sajten är byggd på övertygelsen att en man som inte kan reglera sig själv inte heller kan leda en familj. Reglering kräver tillgång till sitt eget omdöme. Ett omdöme som har delegerats till ett system, hur välmenande systemet än är, är inte längre ditt. Det är, för att låna en formulering från Erich Fromm, ett av många sätt på vilka den moderna människan flyr från friheten genom att lägga den i någon annans händer, så att hon inte behöver bära den själv.

Maskinen är ett bra verktyg. Den är en dålig vuxen. Att veta skillnaden är inte teknikkritik, det är fattning. Den vuxenheten består inte i att vägra använda verktyget. Den består i att veta vad det är, och i att inte be det göra det som bara du kan göra åt dig själv.

Källor