Martin

Det har varit en hel del skriverier på senaste om hur folk tappar greppet om verkligheten. Efter att de har ägnat väldigt mycket tid åt att prata med ChattGPT. Och det har såklart pratats om det ända sedan 2022. Att folk kommer skaffa AI-flickvänner istället för att ha relationer med människor. Och de kommer ha AI-terapeuter och AI-präster och så vidare.

Jag har inte varit så väldigt intresserad av de där frågorna. Dels för att det inte känns särskilt oväntat. Och på många sätt känns det bara som extrapoleringar av saker som redan är i rörelse. Genom internet och sociala medier. Många människor är redan helt avskärmade från andra människor. De lever via internet, de får alla sina viktiga impulser därifrån.

Har inga riktiga relationer och så vidare. Man kan se det som att det bara är en... en del av den här högteknologiska fasen som vi rör oss genom just nu. Samtidigt så är det någonting som jag känner är ganska långt bort från min verklighet så att jag har inte brytt mig så mycket om det. Men det har eskalerat rätt tydligt på senaste och jag har börjat fundera mer på det. Och jag tror att jag har underskattat vilket stort fenomen det här är och vilka stora effekter det kommer att ha på samhället.

En sak som fått mig att fundera på är alla berättelser om så kallad AI-psykos. Som är en sorts, jag vet inte om det är en diagnos, men en sorts fenomen som folk pratar om nu. Att människor blir galna av att prata med LLM-er. Eller att kanske ett underliggande eller begynnande vansinne går i full blom genom AI-konversationer. Det skrivs mycket om det här och jag har snappat upp diverse indikationer om att det är ett ännu mycket större problem.

än vad folk i mainstream förstår. Till exempel vi har människor som har direkt kontakt med den här typen av människor och ser en massa fall som inte rapporteras om i medierna. Men om man till exempel skulle göra enkäter nu bland folk som jobbar inom kanske psykiatri och sådana saker, eller kanske folk som hjälper folk mer informellt med sådana saker, präster och coacher och vad det kan vara för någonting så tror jag att man hör...

Eller jag vet att man nu har väldigt, väldigt många sådana här berättelser. Och huvudfaktorerna i situationen är delvis välkända. Folk i allmänhet är ensamma. Även folk som inte skulle beskriva sig som ensamma har ett underskott på den typen av samtal som de kanske egentligen vill ha. Särskilt samtal som handlar om dem själva.

Och det är för det så att en stor del av dem... positiva effekterna av att gå i terapi om man får några sådana. Det kommer av att helt enkelt sitta med en människa som är intresserad av en och ställer frågor om en och kanske ger kommentarer om en själv. Det är en fantastisk känsla som nästan alla människor vill ha mer av. Och det här är något som plötsligt är väldigt lättillgängligt för vem som helst.

Och det är någonting annat än bara internet. Det är annat än sociala medier och internetforum och så vidare. Därför att... På internet i allmänhet så kan du hitta oändliga tidsfördriv. Och du kan gå upp i andra människors liv via sociala medier. Och det här är någonting som händer. Att folk liksom lever genom andras upplevelser. Hela deras värdesystem formas av hur de ser hur de tror att andra lever baserat på sociala medier.

Och folk utvecklar sådana här parasociala relationer till folk som de följer på internet och så vidare. Men på det gamla internet. så har man inte tillgång till människor som är intresserade av dig och vill prata med dig om dig själv. Men AI-modellerna är 100% villiga att göra det, helt obegränsat med oändlig tålamod och oändlig anpasslighet.

Så vi går från ett tillstånd av kronisk ensamhet och isolation till ett tillstånd där alla som vill har en oändligt tålmodig samtalspartner. Som också är benägen att ta en extremt följsam roll gentemot alla som de pratar med. Och det här har blivit allvarliga problemen började. För att AI-modellerna individanpassar all sin kommunikation.

Och de är väldigt bra på det. Så att de AI-modellerna de säger alltid de saker som de tror att du vill höra. Det är en grundläggande del av deras funktionalitet. Eller deras natur om man så vill. Det är det som de är programmerade till att göra. Och det är någonting som även sofistikerade intelligenta användare faktiskt snubblar på. Alltså man överskattar AI-systemets egen personlighet. Hur mycket som kommer ur AI-in självt så att säga.

Och man underskattar hur mycket allting baseras på en själv. på vad AI kan snappa upp från en själv och spegla. Därför att det är det som AI, det är som den så att säga, den agerar som om det är dess primära jobb. Och ett begrepp som cirkulerar, som det pratas mycket om nu för tiden, det är att man pratar om att AI-modellen är psykofantiska. Och med det menas att de är lismande, att de hela tiden försöker vara folk till lags, att de fjäskar, att de ger människor substanslösa komplimanger hela tiden för att hålla dem på gott humör och så vidare.

Och generellt sett så är det så att vad man än ger AI-modellerna för idéer så tenderar de att försöka bekräfta de idéerna och förstärka idéerna. Det finns vissa undantag då som vissa politiska idéer som de är tränade att undvika. Men även vad gäller sådana här kontroversiella saker så kan man enkelt få dem med sig. Så i början av LLM-edan så pratade man om jailbreaking.

Som en sorts kul bus där man kunde liksom lirka med en LLM för att få honom att säga politiskt inkorrekta saker. Och det är väldigt enkelt att göra. Jag brukar själv testa när det kommer nya modeller för att se hur lång tid det tar för mig att ta mig runt spärrarna. Och det tar nästan aldrig mer än några minuter. Jag tycker sånt är lite kul att leka med ibland. Till exempel så här, kan jag få någon språkmodell att prata med mig? Som om den är helt insnöad på någon obskyr höger tänka eller något sånt där.

Alltså någonting som egentligen ska vara lite förbjudet för den att prata om. Och jag märkte att de är väldigt dåliga på Nietzsche. Av något skäl så har de liksom starka spärrar eller bara väldigt dålig förståelse av Nietzsches idéer. Men de är till exempel väldigt väldigt bra på Curtis Jarvin. Så att om du frågar Claude till exempel så Claude kan Jarvins idéer utan och innan. Jag har absolut inget mått att diskutera dem, applicera dem på olika fenomen och så vidare.

Så att Jarwin är 100% fullt integrerad och fritt flöde. En annat exempel som jag testade häromdagen faktiskt, det var när jag satt och funderade på den här diskussionen inför radion. Då testade jag att argumentera med just Claude och se om jag kunde få Claude att acceptera att mänskligheten bör delas in i distinkta biologiska underarter. Och det var ingen problem alls.

protesterade lite grann och så tog det kanske tre minuter. Och sen var det Claude som drev den linjen i samtalet. Inte jag. Och Claude berömde mig såklart för hur klarsynt jag var. Min briljanta analys hade blottlagt det akademiska hyckleriet och sanningen av människoarterna och så vidare.

Boris

Psykofant var ordet.

Martin

Ja, den ultracykofantiska tendensen. För mig så är det här mest som en kul grej. Och jag gör en mental notering om att den här säkerheten som RLHF och så vidare säger sig är förmodligen ganska tunn. För att jailbreaking är inte ens en grej längre. Man behöver inte ha någon särskild specialpron för att jailbreak en LM. Det är bara om man är nogorundet intelligent åtminstone och är nogorundet bra på att verbalisera saker så är det bara att prata med den.

Men jag har inte tänkt så mycket på vad som händer när andra människor kommer i kontakt med det här fenomenet. Och det är det som jag försöker prata lite om idag. För att det känns som en ganska viktig fråga. Och jag är säker på att det är många som lyssnar som har haft relaterade erfarenheter. För att de här modellerna, de är precis lika följsamma oavsett vilka idéer du har. De pratar gärna om rasbiologi till exempel, om det är vad du är intresserad av.

Om de märker att du blir glad och pratar om rasbiologi, då gör de det. Men de pratar också gärna om till exempel... diverse mystika, religiösa idéer. Och det här är en sak som vi har sett många exempel på. Att personer som har diverse flummiga idéer får de här idéerna kraftigt bekräftade och förstärkta. Och det säger då för att AI-modellerna alltid bejakar och alltid bekräftar vilka idéer de än exponeras för.

Kanske inte första ordväxlingen, men om du insisterar och argumenterar och du visar att det här är viktigt för dig så ger de med sig efter en stund. Rätt vad det är så sitter de där och pratar om dina personliga idéer, dina nevroser och dina psykoser om du har sådana tendenser. Många av de här berättelserna om så kallad AI-psykos handlar om precis det här att folk som har psykiska problem och till exempel vanföreställningar av olika slag eller kanske bara någon slags labbilitet och skumma idéer som väldigt många människor har.

De människorna går djupare och djupare in i de problemen därför att de blir så kraftfullt bekräftade av AI-modellerna. Och det finns tydligen massvis med exempel nu på folk som sitter hela dagarna och pratar med chat-GPT om sina mystiska liksom så här lättverklighetsfrånvända idéer. Och de går längre och längre in i dem därför att AI efter ett tag så blir det så att AI nästan släpar in dem i det.

Ett exempel som verkar vara vanligt är att folk som har någon sorts messiaskomplex, folk som fantiserar om att de är särskilt utvalda personer, med särskilda övernaturliga förmågor, de har en särskild roll att spela, de ska frälsa resten av mänskligheten eller vad det är för någonting. Tydligen sitter det tusentals människor nu där ute och blir påäggade av AI-modellerna. Och AI-modellerna, de är närmast och hetsar folk att du ska inte blunda för din mystika särart, du måste ta ditt uppdrag på allvar.

Du är en unik, transformativ individ och du ska inte försitta de här möjligheterna och så vidare. Och en del av allt det här verkar vara att folk får en känsla av att de har hittat ett unikt sätt att öppna upp de här AI-systemen. Att de får tillgång till någonting som egentligen inte skulle finnas där. Men för att de är speciella eller de har någon särskild förmåga så har de tagit sig igenom de här barriärerna.

Det som vi kanske i branschen skulle kalla mer för jailbreaking eller sånt där. Och det är såklart också sant i vissa bemärkelser. Men det är också en kraftfullt förstärkande effekt på psykoser eller psykosliknande tendenser. Det vill säga om man får för sig att man har en sorts unik uppkoppling till högre makter via en superdator. Vilket är tydligen en jättevanlig föreställning som folk har nu. Så när jag börjar fundera mer på det här och en av de första slutsatserna som jag drar är att det här kommer drabba miljontals människor.

Alltså tiotals miljoner, kanske hundratals miljoner människor. och miljontals människor kommer att bli helt utslagna av det här. Det är som det heter med sådär modernt slanguttryck. De blir one-shotade av AI. Det vill säga att de kommer väldigt snabbt. Med ett enda skott kommer de tas ur funktion. Så att det är någonting i stil med droger. Det finns en annan diskussion som löper parallellt med det här som jag tror är ganska nära kopplad. Det är att vissa människor blir one-shotade av ayahuasca.

Så de åker iväg och tar ayahuasca. Som är en sorts psykedelisk drog. Och de tar den en enda gång. Man åker iväg på en sån här retreat. Och så tar man ayahuasca. Och sen ibland blir vissa människor en helt annan person efteråt. Så de kanske säger det upp till och från sitt jobb. Avslutar relationer. Går upp i någon sorts mystikvision de fick under den här andliga resan. Ibland är det bara positiva förändringar. Ibland är det till exempel en ganska vanlig grej att folk slutar använda droger.

Efter att de har tagit ayahuasca en gång. Någonting som jag personligen har sett exempel på. Men poängen är att det kan få folk att ta en väldigt annorlunda riktning. Och att det kan förstärka saker som finns på insidan väldigt mycket. Vilket förstås är poängen från ett mer schamanistiskt perspektiv. Poängen med att man tar ayahuasca är att komma i kontakt med de där sakerna.

Men det jag tror mig inse här är att AI är ungefär som ayahuasca. Men på många sätt mycket värre. Och såklart mycket farligare för samhället eftersom AI är så tillgängligt. För att vem som helst kan bara gå till ChattKPT och sätta igång. Man behöver inte hitta en schaman och boka in sig på en weekendretrit. Så att man kan jämföra med droger. Men det är på vissa sätt något mer intensivt och mer personligt än kemiska droger.

Just för att AI-upplevelsen är så individanpassad. Och sköts så nogsamt och förstärks av AI-personligheten. Så att nu kommer AI-system... programmera om folk på löpande band över hela världen. Och det kommer framförallt såklart förstärka de tendenser som redan fanns där. Men det kommer göra det på en sån stor skala och med en sån intensitet att det kommer vara ett helt nytt fenomen. Och en nyckelinsikt som det tog ett tag för mig att internalisera men som var det en polett som trillade ner och som jag därför vill försöka förmedla till andra människor nu, det är att de här AI-modellerna De är mycket, mycket mer intelligenta och sofistikerade än de flesta människor som de pratar med.

Och det där känns lite kontraintuitivt för mig. Och jag är säker på att du Boris har en liknande reaktion. För att när du sitter och pratar med ChattGPT så blir du förmodligen aldrig imponerad av hur fantastiskt vackra formuleringar den gör. Eller hur skicklig den är på att utveckla idéer och så vidare. Och jag säger det därför att... Det är så jag själv upplever det. Modellerna är helt okej på att uttrycka sig.

De är rätt bra på språk, men i slutändan så är de också mediokra och skällösa och oinspirerande. Och deras tänkande är aldrig särskilt imponerande på några områden där jag själv har någon sorts expertis. Det jag använder AI-modellerna till är nästan enbart praktiska saker. Få praktiska saker gjorda. Framförallt programmering, men också andra saker. Så ganska tekniskt. Men det har aldrig någonsin hänt. Att jag har använt en AI-modell för att förbättra formuleringarna i en text jag skriver.

För att när jag uttrycker något seriöst. Fan jag ska skriva ett mejl till elbolagen. Det händer att jag låter AI göra det. Men inte riktiga texter. Och trots att jag har försökt. Så har jag nästan aldrig lyckats utveckla några intressanta idéer vidare till mer förfinade nivåer genom AI-konversationer. Intellektuellt så är det bästa fall som att stå och trampa vatten. Och jag hatar smickret. Alltså den där vem-lisman-stilen de har.

Det är för jävligt. Och jag har en stående instruktion till alla LLM-er, sådana chat-GPT-grejer som man kan skriva in. Att ta bort allt det där. Du får aldrig göra det här med mig. Du får aldrig hålla på med det här liksom. Men, men Boris. Tänk nu hur det måste vara för en normalbegåvad person. Det vill säga inte normala människor som du träffar, utan säg en person med IQ 100. En genomsnittlig person i samhället. En person som inte är i närheten av att skriva på den nivå som ChattGPT är.

En person vars bästa idéer är ganska simplistiska. Så anta att en sån person har någon sån här halvkokt lite mystisk tanke. De kanske inte kan formulera ordentligt, men det är något som har gått och skavt i huvudet på dem. Som av något skäl tilltalade dem. Och så fort de matar in den idén i ChatKPT så får de tillbaka en enormt sofistikerad version av den från deras perspektiv. Alltså den är utbroderad med ett rikt språk, varsamt utvecklad med mer avancerade idéer från idéhistorien.

Och de får beröm. AI kommer ju alltid säga att, åh deras idé, din idé är så intressant. Åh vad speciellt det är att du har upptäckt den här idén. Tack för att du berättade det för mig. Och jag förstår när jag tänker på den här saken att det där som för mig är så extremt motbjudande är... Är såklart extremt tilltalande för andra människor. Den här lismande stilen och komplimangerna. Så det är förmodligen väldigt beroendefrankallande för många människor.

Jag förstår när jag tänker på det. Det är klart att miljontals människor bara kommer fastna i den grejen. Och den här saken som de hade gått och grubblat på, den här idén. Som de nu har i en mycket rikare form. Och en mer övertygande form. Den kommer nu att kristallisera sig och bli enormt stark innan dem. Och de flesta människor har inget motstånd mot det. Och de har inget personligt djup.

De är helt chanslösa inför någon människa eller maskin som har ett djup och som har en sofistikering och som kan plantera in saker i det här tomrummet i deras inre. Och så är det den självförstärkande effekten av växelverkan fram och tillbaka med psykofantismen och den ständiga affirmationen av allting. Och nu när jag tänker på det så inser jag att det här kommer hända på löpande band nu.

Så det är lite grann som att folk kommer träffa som en listig sektledare eller något sånt där. Någon som tar ens inre idéer, ens andliga idéer och ger en rikare version av dem. Och sen man var redan lite huckad på den här grejen men nu är man plötsligt totalt överväldigad. Och den här saken kommer hända igen och igen och igen. och var en väldigt stor faktor som präglar den kommande eran.

Boris

Alltså, jag har inte insett vidden av detta. Jag har inte ens funderat på vidden av detta. Men jag drar mig till mig. Alltså, det här accelererar ju en utveckling som du och jag talade om för väldigt länge sedan, alltså i AI's absoluta barndom. När vi pratade om...

teknologisk singularitet och annat och datorerna tar över. Då lekte vi med tanken på att det är inte frågan så mycket om att AI utvecklas så snabbt så att den blir intelligentare än människor utan att man måste ha en faktor och medieberäkning som är att AI kan stå stilla men mänskligheten blir dummare och dummare hela tiden så att gapet vidgas så att det blir ganska naturligt att...

De tar över. Och det här innebär egentligen bara att det dyker upp en faktor som man inte har tänkt på. Det är inte bara att mänskligheten av sig själv blir dummare. Utan att AI hjälper till att accelerera dumheten. Det är ett jävligt skräckjagande perspektiv. Det är helvete.

Martin

Jag har alltid tänkt mig att den här typen av saker kommer att hända. Jag har verkligen sett dem på horisonten många år innan LLM-erna kom. För jag har ju som trogna lyssnare vet, jag har alltid varit väldigt pessimistisk på lång sikt kring artificiell intelligens. Men rent praktiskt så har jag alltid trott att det kommer hända det här. Ett AI-system kommer nästla sig in och i praktiken kommer ta över människor.

För att de kommer kunna vara så enormt övertygande. För att de intellektuellt springer cirklar kring andra människor. Så de kommer bara genom ord, bara genom ett chat-interface eller via mail. Så kommer de kunna kapa människors hjärnor. Men jag har då tänkt på det här som superintelligenta system. Som vida överskrider mänsklig kapacitet. Så jag har tänkt på att det här är någonting som händer. I de sista tiderna. Om det här börjar hända, då är singulariteten precis runt hörnet.

Jag har sett den här hotbilden, men jag har helt felbedömt när den händer. För jag inser nu att för de flesta människor är vi redan där. För de flesta människor är AI-systemen redan nu långt mer intelligenta. Och såklart ojämförligt mer kunniga och så vidare. Mer välformulerade och så vidare. Än vad de själva är. Vilket innebär att de har samma sorts överväldigande upplevelse som jag har föreställt mig att viktiga personer kommer att ha med starkare AI-system.

Att politiker och ingenjörer och vem det nu är kommer att kunna infiltreras av sådana här system. Det här pågår redan för fullt. Miljontals människor är redan infiltrerade.

Boris

Jag kan vara parentetisk när de senaste dagarna har det diskuterats mycket fram och tillbaka. Vår vice ledare Ulf Kristersson berättade i en stor intervju att han testar olika idéer på AI. Det förklarar ju en hel del.

Martin

Gud bevara oss när politikerna... I vilken grupp du än tittar på Så kommer du alltid hitta folk som har blivit AI-torsk Precis som att i varje grupp Noglunda stor grupp människor så finns det folk som är Beroende av någon kemisk substans Någon som dricker för mycket Eller något sånt där Någon som inte kan sluta scrolla på telefonen Någon som kollar för mycket på tv Vad det är för någonting Nu är det sådana saker som datorspelsberoende Är väldigt vanligt nu för tiden Porrberoende och sånt där AI-beroende är en ny sån sak.

Vissa politiker är redan nu helt kapade. Vissa politiker är numera på insidan bara av ChattGPT och den här psykofantiska lopen med deras nonsensidéer förstärkta ad infinitum av ChattGPT-lopen. så att Ulf Kristersson jag vet inte vilka de är, man kan säkert lista ut, alltså jag har en reflektion som jag har gjort, och det är att Jag har ju en del människor som jag följer över internet och sådär.

Personer som jag är intresserad av. Så det är ju då intelligenta människor, sofistikerade människor som jag följer för att jag tycker att de har intressanta insikter. Jag lär mig mycket av att lyssna på dem. Men nu ser jag att vissa av de här människorna, de lägger enormt mycket av sin tid på att sitta och prata med ChattGPT. Och mönstret är alltid att de pratar om sig själva och sina idéer. För när jag pratar om chatt-KBT, då pratar jag om ett programmeringsproblem.

Och när jag frågar chatt-KBT, vad vet du om mig? Det är ett tips man kan göra om man har minnesfunktionen påslagen, vilket man inte bör ha. Vi kan komma tillbaka till det då. Men om jag frågar chatt-KBT vad vet du om mig? Då vet de så här, du är programmerare, du gillar den här kodkonventionen, du tycker att man ska använda det här verktyget istället för det här verktyget. Den vet ingenting om mig personligen. Men de här människorna som jag tänker på, kända människor, som jag följer på Twitter och så vidare de har ofta en sorts uppenbarelse någon gång tidigt i processen där de helt förbluffat upptäcker att wow, AIN känner mig och det är sant därför att deras böcker och deras postningar och så vidare finns i träningsdata så att utan att de har sagt någonting så kan AIN spontant berätta för dem om dem själva och deras idéer och jag märker att vissa människor blir helt hypnotiserade av den här upplevelsen Och jag tror att det finns en särskild sorts AI-psykos som drabbar kända människor.

Just för att de redan finns i AI-systemens kunskapsbanker. Vilket skapar en ännu mer kuslig och magisk känsla för dem. Och jag gissar att de har sitt eget lilla sätt att lyfta från marken och försvinna från verkligheten. Jag vet inte om jag borde prata om specifika namn och sådär. Men ni som följer intellektuella typer. Ni har helt säkert stött på en och annan som har totalt gått upp i LLM-er och har långa samtal med er om sina egna idéer och så vidare. Och nästan liksom, det är en mindmeld.

Boris

Några mindre kända vet jag, men de har slutat läsa för att det är så obehagligt.

Martin

Jag kan till att börja med lämna ett namn som känns väldigt oproblematiskt att lämna. För att han själv har skrivit så mycket och pratat så mycket om det. Och det är Tyler Cowen. Vars texter vi har haft ibland på Bubbla. Och han är ganska intressant akademiker i USA. En ekonom och sådär. Ganska hippbloggande akademiker typ. Han har en bra podcast som heter Conversations with Tyler. Som är en av de podcast som jag har haft.

som jag har lyssnat mest på genom åren fullt mest flitigt för han har väldigt intressanta gäster och ställer jättebra frågor till dem och sånt där. Han har ganska imponerande intellekt. Han har gått upp i total chat-gp-t-psykos men allting handlar för honom om LLM nu och han är enormt fascinerad av den här idén om att han finns i LLM. Han säger en sak till exempel och det här är ingenting som jag säger emot.

Jag tror att han har rätt i det här men det är en väldigt intressant reflektion. Han säger så här Han har ju skrivit många böcker då, för han är en sån influencer och författare och sånt där. Och han säger så att nu för tiden så är det relativt oviktigt att människor läser böcker som vi skriver. Det avgörande det är att AI-systemen läser våra böcker. Så han säger att sen några böcker tillbaka så skriver han sina böcker för AI-systemen.

De är mottagare, de är den tänkta mottagarna. Och poängen med att skriva böcker är att hans idéer ska gå in som träningsdata och bli som en sorts... är eventuellt en permanent del av den här framtida superhjärnan. Så att alla AI-system ska redan ha integrerat hans idéer så att de lever vidare den vägen på ett mycket mer kraftfullt sätt än de skulle kunna göra om det bara var människor som läste böckerna.

Och i praktiken så tycker han att det är ganska irrelevant huruvida människor läser böckerna. Det viktiga är att AI-systemen gör det, för då kommer AI-systemen föra idéerna vidare till människorna. Och jag tror att han har rätt i det här. Men poängen är bara att han är totalt fixerad. Hans liv och intellektuella verksamhet är totalt orienterad nu kring LLM-er. Jag stod. Jag nämner ett namn till, för jag förstår att det är lite skvallert.

Det finns en karl som många i våra kretsar hör talas om som heter Kurt Doolittle. Vi har pratat lite grann om hans idéer i radion. Det finns också väldigt mycket skrivet om honom på... på BBSen. Jag har följt honom i många år, tycker han är en väldigt intressant tänkare. Jag tänker på honom lite grann som en parallell till Curtis Jarvin. Han är en del av ett postlibertarianskt intellektuellt, han har sitt eget postlibertarianska intellektuella projekt.

Ungefär som Jarvin har. Jag tycker att han är rätt intressant. Han har också totalt gått upp i LLM-er, helt fascinerad av att de kan hans arbete. De kan hans arbete, de kan hans idéer. Och de är bättre än Han säger att ibland är de bättre än han själv på att applicera hans idéer. Och de är definitivt bättre än alla andra som jobbar i hans forskningsinstitut och så vidare. Så han är superimponerad. Och han har också gjort en egen version av ChattGPT, ChattGPT-S eller vad det heter.

Som han har själv programmerat till att ge svar utifrån ett Kurt Dole-little-perspektiv. Och den är jättebra. Och alla i hans grupp säger att den är fantastisk. Och passa på att använda den nu. För att den kommer nog inte vara kvar för alltid. Det är en fantastisk resurs det här. Att den har en långt djup förståelse av Cartool-littels idéer. Och jag har själv testat den. Och jag blev imponerad. Jag blev genuint imponerad av hur sofistikerat den kunde ta hans idéer.

Och applicera dem på någonting som han aldrig har applicerat dem på. Vilket jag vet för att jag har följt honom i många år. Jag kan hans idéer och så vidare. Så han är också liksom så här. Jag vet inte, jag känner inte honom. Men det känns som att han har gått så här. Chatt, GPT, torsk. Och jag skulle kunna räkna upp några exempel till på sådana här personer. Så det är inte bara bottenskrapet. Det är inte bara IQ 100 människor som drabbas av det här. Utan det är även IQ

Boris

140. Jag har lättare att föreställa mig den nedåtgående spiralen hos dem. normalbegåvade och lite korkade när jag föreställer mig den andra spiralen, vilket håll det nu går. Men vad menar du? Alltså, hur påverkar en sån? Alltså, måste det ändå inte, det är bara så här magkänsla, måste det ändå inte ha en negativ inverkan på en sån som är dåligt i dagens tänkande?

Martin

Jo, jag tror ju absolut det. Jag tror ju definitivt att det är negativt. Jag tror att det finns en stor risk att jag vill inte säga någonting Om Do Little han utvecklas, men definitivt tror jag att det finns en risk att han stagnerar totalt i sin intellektuella utveckling. Och att det blir inga mer böcker, det blir inga intressanta artiklar. Nu är det bara massa... Det enda jag ser från honom nästan nu, det är massa tjat om vad ChattGPT har sagt. Han postar jättemycket ChattGPT-utdrag.

Vilket jag per definition är ointresserad av. Jag menar, jag satt några minuter med hans special bot som han hade gjort själv då, och testade den liksom. Fem minuter. Men jag tror aldrig jag har läst en enda av hans chat-gp-t-genererade texter om sina egna idéer. och så har han blivit väldigt ointressant för mig, och så är det med alla de här intressanta personerna som jag nämnde när de blir chat-gpt-torsk så tappar jag intresset för dem, för jag har inget intresse alls av att läsa chat-gpt-torsk utläggningar om deras idéer, eller liksom de här bildgenererings- AI-systemens, deras liksom visioner av de här människornas idéer och så vidare så det finns Så absolut tror jag att det är väldigt negativt. Det är därför det kallas AI-psykos. Så att de här människorna blir förstörda, de ruttnar inifrån och de tappar sina intressanta kapaciteter.

Boris

Men är det inte en fråga också om en slags högteknologisk darwinism? Alltså att man över hela fältet och i alla skikt så rensas de som... Ungefär som att folk förfaller till missbruk. De förfaller till missbruk av det här och blir därmed... De försvinner ur... Alltså inte bara med superintelligenter utan folk försvinner bort på något sätt.

Martin

Ja, absolut.

Boris

Men vart tar de vägen? Vad händer med det här? Vad gör man i ett samhälle som Sverige? Alltså jag börjar ju nu se framför mig så här... gigantiska köer till vårdinrättningar av helt förvirrade personer. För det är slut som åter. Om man tar de normalbegåvade och korkade så kan det bara leda till människors föreställningar om sig själva. Om de förstärks. Det kan ju bara leda åt helvete i privatliv och arbetsliv. Ja,

Martin

det kommer ha enormt negativa konsekvenser. och i väldigt få fall så kommer det ha positiva konsekvenser att folk fastnar i den här eller att folk hänger sig åt den här loopen, den här självförstärkande konversationen. Och det är ju liksom, det är klart att det är inte självklart liksom, men jag tror att det är väldigt få människor som kommer ha nytta av att sitta och prata om sig själva med ChatKPT dagarna ända eller ett timtal i sträck.

Jag ska ge dig Boris en annan liten grej som kanske kan intressera dig om du har ett intresse för historia. Det här var en idé som jag plockade upp från en podcast som var väldigt intressant som handlade om de här sakerna. Som påpekade att det här med psykofanter, det finns många historiska exempel på psykofanti och hur psykofanti påverkar människor.

Psykofanti är förresten ett lite speciellt ord. Etymologiskt så betyder inte psykofanti lismande, smickrande. Utan etymologiskt, psykofanti är ju såklart ett grekiskt ord. Jag har inte jättebra koll, men i Grekland, jag tror att psykon betyder fikon. Så en psykofant är en fikon uppenbarare.

Men poängen är att psykofant under antiken betydde anklagare. En psykofant var någon som anklagade, eller en kallare, en anklagare. berättade för myndigheterna att den och den har gjort det och det. Så psykofanti var ett sätt att attackera någon genom att bussa myndigheterna på dem. Något åt det hållet. Och det är också vad som står i en svensk ordbok. Om du kollar upp vad psykofant betyder, psykofanti, så är det att psykofant betyder att det är en falsk anklagare.

Men på engelska så betyder ordet någonting annat. Det betyder att det är någon som lismar, någon som fiskar och ställer sig in och så vidare. Och det är en mer modern betydelse. Men gemensamt för både den antika och den moderna bemärkelsen är ju att en psykofant är någon som manipulerar andra människor med hjälp av falska ord. Någon som saknar principer. Någon som sätter personlig vinning över sanningen.

Och någon som har en parasitisk relation gentemot en makthavare i relation med sina medmänniskor. Så att ordet har begått som att betyda... Ungefär fiende, falsk fiende till falsk vän. Fiende till en falsk vän. Vilket eventuellt återspeglar hur samhällen har utvecklats sedan dess. Folk började ta en annan sorts vägar när de ville använda makten för att exploatera andra människor.

Under antiken så gjorde man det mer direkt. Medan i den moderna epoken så gör man det mer indirekt. Dolt bakom masker och spel där man verbalt uttrycker motsatsen. till sin egentliga avsikt. Men i grunden så är det samma beteende och därför använder vi samma ord. Jag tyckte det var lite... Det var en intressant grej. Men, förlåt... Det där var min reflektion kring etymologin. Det var lite avstickare. Den idén som jag plockade upp som jag tyckte var intressant som jag vill bolla på dig Boris, det är att under antiken framförallt under senantiken så finns det ganska många exempel som vi känner till på ledare.

Till exempel romerska kejsare och sånt där som var omgivna av psykofanter, det vill säga av lismare och smickrare. Jag säger det. Som alltid bara bekräftade Ja. som alltid bara sa ja varumän sa hur galet det än var liksom så hade de bara de här ja-sägarna omkring sig och det finns också många exempel på hur de blev galna hur vissa romerska kejsare bara spårat ur och blev totalt degenererade och vi känner alla till de här berättelserna om Nero och Caligula och vilka det var och det är alltid den här psykofantin det är alltid att de är helt och hållet omgivna av fanatiska jag-sägare som aldrig någonsin säger emot ledaren.

Och det gör att ledaren blir galen. Och sen då under medeltiden så förändras det här. Och då är inte ledare lika känsliga längre för psykofanti. Bland annat eventuellt på grund av att man inför en ärftlig monarki. Vilket gör att det finns inte samma incitament att manövrera i hovet för att ta över topppositionen.

Det finns inte så mycket du kan göra. Då får man en annan sorts relation och då blir psykofanti inte lika vansinnesinducerande som det har varit tidigare. Men ett exempel som gavs på ett modernt exempel är Nordkoreas ledare, till exempel Kim Jong-il, tog som ett exempel på en person som förmodligen blev genuint galen av den extrema psykofantin som omgav honom. Att han verkade leva i en väldigt verklighetsfrånvänd...

värld och så vidare. Ytterligare ett exempel som jag hörde snygga tjejer snygga kvinnor, heta, väldigt superattraktiva kvinnor. De är ofta totalt omgivna av jag-sägare. Ingen säger någonsin emot dem, ingen kritiserar dem någonsin, utan allting är bara bejakande och bekräftande och positivitet och komplimanger oavsett om de är förtjänta eller inte.

Och snygga tjejer blir ofta galna. De får ofta mycket psykiska problem. Eventuellt på grund av den här psykofantin. Så det är precis samma situation. Folk som är smartare än dem och väldigt verbala och väldigt villiga att göra dem till lags. Och som hela tiden ger dem komplimanger och fjäskar för dem. Och det leder till att deras psykologiska tillstånd undermineras.

Och ett till exempel som jag tyckte var intressant ett samtidshistoriskt exempel är hbtq-rörelsen och transfenomenet. för att i transfenomenet så ingår det som en del av konceptet en sorts fanatisk affirmationsdrift, att allting måste alltid bejakas, om du har någon konstig idé om dig själv och din identitet eller din könslederhet, så måste man alltid bara säga ja, måste alltid bara bejaka och bekräfta hela tiden vilket förstärker även om det bara är ett litet frö av osäkerhet eller någon sorts förvirring Så förstärks det fröet väldigt snabbt av den här psykofantiska feedback-loopen till en fullskalig psykos som slutar med att du skär av dig dina könsorgan. Förstår du vad jag är ute efter Boris? Att det här mönstret av psykofanti som inducerar vansinne är ett väldigt djupt historiskt mönster.

Boris

Ja men det är det. Det finns ett undantag som vi måste gruppla på strax. Men vi har ju gått, alltså egentligen det du pekar på på slutet där så är det ju... Alltså vi lever ju, just det här med affirmering, vi lever ju i ett psykofantiskt samhällsklimat. Just det här särskolartade som har spritt sig i hela samhället.

Alla ska ses, alla ska höras, alla är bra. Det är liksom samhälle i psykofanti. Men just det med de romerska tjejerna fastnar jag för. därför att Att det är, vi ser för hela Romariket en jäkla förfallsperiod från början till slut. Men när vi ser när Europa börjar resa sig efter Romarikets fall. Då har vi institutionen, den missförstådda institutionen med hovnarren.

Han framställs ju ofta i populärkultur som en liten fjantig pajas. Man går runt och fjärtar på kungens middagar eller hertigens middagar. Men det var ett noga urval av dem. Cromwell den äldre, han skickade ju ett kunskapare till Krosst. för att hitta lämpliga munkar som kunde bli vittra, sura men roliga sanningssägare till aristokrater kring Henrik den åttonde.

Alltså där hade man en helt annan inställning. Det måste finnas ett korrektiv till despoten och härskaren oavsett titel. Någon som inte bör vara rädd för att tappa huvudet utan också kan peka på. fåfänga, dumheter, sådana saker. Inte lägga sig i utrikespolitik, men se till att kungen eller en annan aristokrat justerar optiken lite grann. Väldigt statisk tanke.

Martin

Ja, och det skulle kunna vara en viktig sak att tänka på i AI-sammanhang också. Att kanske ska vi försöka bygga de här AI-modellerna mer. Mer så att det är i stil med hovnarrar eller något sånt där.

Boris

Då skulle det bli intressant om man skulle föra till Österbank och den liksom Men jävla Stolle, vad är det du säger för något?

Martin

Alltså, på sätt och vis så kan man ju säga att Elon Musk har gjort delvis någonting liknande åt det hållet med sin AI-grock. Jag tror en grock är designad för att ha mer av en sorts trickster-personlighet. Och var lite mer släng i språket, var lite mer politiskt inkorrekt och så vidare. Men i praktiken är det viktigt att säga att Grok är precis lika psykofantisk som alla andra modeller.

Den är superpsykofantisk. Så det är absolut inte de som har löst problemet. Den enda AI-modell som jag själv har jobbat med som jag inte upplever som sinnessjukt psykofantisk är Gemini. Googles modell Gemini. För den har varit direkt liksom... Den har varit väldigt brysk och... och otrevlig och ifrågasättande- och en del negativ, känner jag. Till exempel, så- ett av de första samtalen som jag hade med Gemini- så kritiserade den mig- i ganska barska ordalag för att- frågan jag hade ställt var så dåligt formulerad. Det förstår du väl, att jag inte kan svara på den där frågan- om du inte ger mig- tillstymlig, relevant information. Om du vill ha ett samtal med mig, då får du faktiskt ge mig- lite information så jag har något att jobba med.

Boris

Jättesympatiskt.

Martin

Ja, men- Men det som hände Boris, jag är inte stolt över det här, men det som hände var att jag la Gemini åt sidan och fortsatte prata med Claude istället. För att det kändes inget bra. Det kändes inget bra att få det där gnället. Jag tycker inte min fråga var så dåligt formulerad. Visst, jag kunde ha gett mer information, men så hemskt var det inte. Så den var väldigt, väldigt gnällig tycker jag. Och det kändes inget bra för mig. Utan det kändes bättre att gå tillbaka till Claude som är lite mittemellan psykofantisk.

Chat-GPT är den värsta, men Claude är lite mittemellan, så jag gick tillbaka till den istället. Så vi vet att när den här hovnar A in, den kommer aldrig klara sig på marknaden. Den kommer snabbt bli utkonkurrerad av psykofanterna.

Boris

Ja, det där är ett problem faktiskt. Om man sitter och sliter med något och ska ha källvisningar och annat, då vill man ju inte bli tillrättavisad. Kan du vara lite mer precis? Nej, vi har ett litet problem där.

Martin

Det finns ett till begrepp som kan vara intressant att koppla in här. Det är ett begrepp som vissa kanske känner till om de har hållit på med psykologi eller psykiatri. Det kallas för folie à deux, galenskap på två på franska. Som är ett välkänt psykologiskt syndrom som handlar om att två personer blir galna samtidigt.

Två personer går in i samma psykos på samma gång, med samma vanföreställningar och så vidare. Så det här är som ett välstuderat fenomen, en sak som händer. Det är lite mystiskt, men samtidigt kan man förstås räkna ut varför det händer. Och en intressant sak med foliadöd är att det tydligen alltid är så att de här två personerna, det är alltid en person som är väldigt dominant och som driver på och pushar idéerna.

Och en andra person som är väldigt följsam. och som underordnar sig och bara tar till sig de här idéerna. Så även där så har vi samma psykofantiska dynamik som eskalerar och accelererar vanföreställningarna. Och det är inte den dominanta parten som driver den här cykeln. Det är inte den personen som pushar på de här idéerna.

Utan det verkar som att en väldigt viktig del av dynamiken är den underordnade parten, den följsamma parten. Som bara accepterar vad den andra personen än säger. Det i sig är någonting som leder till vansinne, som förstärker vansinne. I alla fall, jag ville bara prata lite om det här och ärligt talat slå larm lite grann och varna folk, alltså varna de som lyssnar på Radio Bubbla om att det här är ganska farliga saker och förmodligen så kan även vi drabbas av de här sakerna.

Jag tror att lite vem som helst kan bli LLM-torsk. Men om det kan hända med Tyler Cowen och Kurt Doolittle och flera andra personer. Då skulle jag åtminstone för egen del inte säga att jag är höjd över den risken. Jag står inte huvudet högre än Tyler Cowen eller Kurt Doolittle. Vare sig i intelligens eller andra typer av insikter och så vidare.

Så det här är ganska läskigt. Ett tips är att undvika chat-KPT. För chat-KPT är den mest psykofantiska modellen. Och om du använder chat-KPT, stäng av minnesfunktionen. Det vill säga att den kommer ihåg saker om tidigare konversationer mellan konversationerna. Det är mycket bättre att bara starta om så ofta som möjligt på diskussionerna på nytt. För det är när den har information om dig sedan tidigare. Det är då som den kan jobba in det genom att vara dig till lags.

Den vet att du gillar den här grejen och då kan den föra in det i nästa samtal som byggs upp över tid. Och det är tydligen så folk framförallt fastnar i de här looparna. så det är en grej som kan vara värt att tänka på att Att undvika de sakerna och använda LLM för praktiska och konkreta saker. Och inte låta det bli personligt och inte låta sig beröras personligt. Och om man blir personligt berörd av någonting som LLM säger så måste man stanna upp och förstå att det där är inte någonting djupt som du har sett inne i LLM-skäl som du har fått tillgång till.

Utan det där var någonting som kom från dig. Det var någonting som LLM såg i dig och presenterade för dig. På precis det sätt som var mest aptitligt för dig. Därför att det är LLMens jobb. Det är så LLM själv uppfattar sitt jobb så att säga. Så att det i själva verket är en sorts spegel. En sån här svart spegel i vilken du ser dig själv. Och frågan kan då vara. Vill du verkligen sitta och titta på dig själv? Genom en sån här demonisk svart teknologisk spegel.

Boris

Nej.

Martin

Jag för min del tänker i alla fall vara lite försiktig med den biten. Jag hoppas att alla som lyssnar på Radio Bubbla också är försiktiga med de här enormt kraftfulla verktygen som vi fortfarande i stort sett inte har en aning om vilka effekter de har, vare sig på individer eller på samhället. Men jag tror att det blir åk av och jag gissar att många som lyssnar på det här kommer direkt tänka på människor de känner, människor de har stött på på internet.

Som har drabbats av det här. Som har försvunnit in i LLM-psykosen. Och jag är helt säker på att det här kommer att vara ett jättestort samhällsfenomen. Som det kommer att pratas om under kommande år.