Martin

Elon Musk har lanserat ett eget digitalt uppslagsverk. En konkurrent till Wikipedia som han kallar för Grophipedia. Och som namnet antyder så bygger Grophipedia givetvis på Grop Musks egen AI-snurra, hans version av Claude och ChatGPT och sånt där. Drivkraften bakom det här projektet är, åtminstone nominellt, den extrema vänstervridningen av innehållet på Wikipedia som gör att den sajten är mer eller mindre oanvändbar för alla rimligt funtade människor när det gäller ämnen som har minsta lilla politisk dimension.

Den kan vara användbar på andra sätt. Jag brukar ofta använda Wikipedia för att få en uppdaterad bild av vilka propagandanummer som vänstern försöker pracka på oss är just den här mediecykeln. Det är som PK-manualen som vi brukade prata om förr I tiden. Wikipedia fungerar ganska bra som PK-manual. Det var så sent som för ett par veckor sen så kollade jag upp nånting på Wikipedia inför en radiosändning specifikt för att jag ville veta vad är den officiella PK-linjen om den här frågan. Tror att det kanske var nu prat om transfrågor och sånt där.

Ja, så att det är kan man säga ett väldigt logiskt och väntat steg för Musk eftersom han från början har pratat om Grocky som en sanningssökande AI. Som ska bryta igenom vänstervidningen som alla andra språkmodeller har inbyggd och så vidare. Ja, så Gropypedia skapades genom att de lät Grop skapa ungefär 1000000 artiklar. Huvudsakligen baserade på Wikipedia-artiklar tror jag. De kanske tog den här 1000000 viktigaste artiklarna på Wikipedia och sen gjorde de diverse korrigeringar utifrån Grocks världsbild.

Och Grocopedi har en särskild metodologi som handlar om att man vill minimera mänsklig subjektivitet, säger man, Fokusera på verifierbara fakta och logiska resonemang. Istället ska vi få lite artificiell subjektivitet. Det är ganska intressant att se hur den fungerar. Jag gillar verkligen hur de har byggt upp det på många sätt. För den har ganska mycket inbyggd epistemologi.

En sån sak är att redigeringar av artiklarna görs bara av grock. Människor kan inte redigera sidor som på Wikipedia, utan människor kan bara efterfråga redigeringar. Man gör det som anmälningar och de och eventuella korrigeringar och sånt där klassificeras och sen så ges det små motiveringar som förklarar varför varje redigering har gjorts. Det påminner lite grann om community notes på X, men mer mekaniserat och, skulle jag säga, med en rikare ontologi för olika typer av korrigeringar och så vidare. Vilket är en fundamentalt bra Det är en väldigt bra att försöka strukturera information baserat på den här typen av epistemologiska begrepp, psykologiska insikter om kognitiva biases och så vidare. Ja. Redan nu så är det en ganska stor skillnad. Jag får massvis med tips just nu på IBD-flöde för att folk är imponerade av hur mycket bättre vissa artiklar är och så vidare. Ett exempel jag såg som jag själv skummade igenom var sidan om ras och IQ.

Jag vet inte exakt vad den heter men det finns en sån sida om intelligensskillnader mellan folkgrupper. Och Wikipedia är såklart såklart extremt ofattbart förljugna I den frågan. Det är en sån här Wikipedia-sida där förmodligen varenda mening innehåller minst en lugn. Men Men Groxida är helt okej. Och den fick tummen upp av liksom rasbiologerna på X.

Och det var faktiskt ganska imponerande vilka grejer den fick med. Och det var väldigt lite gnäll I den artikeln om att det är såklart politiskt känsligt å ena sidan och å andra sidan. Och sen så Sen kan man fråga sig såklart hur användbart det här är, vilken impact kan det och så vidare. För mig personligen, jag känner så här att det är väl svårt för mig att hålla uppmärksamheten på texterna på Glocipedia, därför att det är någonting med AI-genererad text som bara är så motbyggande.

Och även grock. Grock är nästan mer motbyrant på det sättet. Jag ska säga att den är lite mittemellan om man jämför de olika modellerna. Och det finns också inga bilder heller. Jag såg inga bilder I alla fall så att, och det är ofta en lite viktig grej. Jag vet inte varför de inte bara importerat bilderna från Wikipedia från de artiklarna, för jag tror att det är tillåtet med licensiering och sånt där. Men många människor har såklart inte samma aversion som jag mot att läsa AI-slask.

Folk sitter hela tiden och försöker liksom läsa om ämnen som de inte inte kan någonting om. Försöker liksom lära sig saker via chatta med LM-snurra och sånt där. Det är inte så särskilt bra Det är inte så man bör använda LMR. Men om folk nu vill hinka I sig lite vid AI-slask så är det förmodligen mindre dåligt om de står och slapsar vid gocktråget än vid chatt-GPT-tråget. Om det nu spelar någon roll vad sådana människor konsumerar för information, den punkten är agnostisk. Boris, jag är nyfiken på vad du tänker om det här projektet.

Boris

Nej, men jag lutar åt den del av din personlighet som jag tror innerst inne finner hela motbjudande onödigt. Jag finner helt och hållet. Jag är så förbannad trött på allt det där och att folk ska Det var illa nog på Google och Wikipedia-tiden när folk trodde att de fattade något bara för att de slog in någonting och läste I 4 minuter och sen tyckte de något. Eller om de tittar på Youtube och ser 17 minuter I någon jäkla videosnutt eller någon springer, går eller pratar.

Alltså, jag har fått ett tillstånd där människor tror att de vet och kan någonting där de inte ens kan tänka, hantera information och tänka självständigt. Och jag tänker nästan I en samprofetiskt röst hävda att förbjuda allt från den. Folk ska inte läsa så jävla mycket. För de kommer, de kan, det är ingen Var tysta och arbeta.

Gör vettiga saker. En mycket liten grupp ska tillgång till det här. Ja, jag menar det verkligen. Det det är väl nästan bättre att de tittar på influencers på Instagram men liksom börjar läsa om vacciner eller jag vet inte vad. För de fattar I alla fall ingenting. Den stora delen av befolkningen, alltså det leder oss bara åt helvete om vi tror att, det spelar ingen roll om det är slask eller halvslask eller kvartslask eller någon under rätt.

De flesta kan inte skilja på de sakerna I alla fall. Gud vad grinig jag. Men det är min slutgiltiga och eviga ståndpunkt. Begränsa läsandet och tillgången till sånt som kan användas för verkliga diskussioner. Det är för att det är så få som kan det på riktigt.

Martin

Jag gillar verkligen din ansats här, Boris, och det här förbudet mot läsning som du pratar om, kan vi tänka oss att vi utsträcker det till fysiska böcker också?

Boris

Ja. Ja men alltså, Alltså jag kan tänka mig att det är så här. Intressant. Alltså jag tror att jag fullt beredd utsträcka förbudet så långt faktiskt utan problem. Jag kan tänka mig däremot att den fysiska boken bjuder sånt motstånd så att det inte accelererar dumhet I form av att nu vet jag någonting, för du har liksom en fysisk motstånd I själva boken och läsandet.

Som gör att du får inte den accelerationstendensen. Så att ju mer och ju snabbare man kan ta till sig så kallade information, desto dummare blir man. Det finns en viss bromsverkan I den fysiska boken, men för guds skull, jag tycker man kan förbjuda den också.

Martin

Alltså jag tror att det är minst 50 procent av min personliga tröskel, min personliga version mot att läsa böcker, det var hatare att hålla I dem. På grund av deras fysiska egenskaper. De är väldigt fina att på en bokhylla, gillar hur de luktar bokryggarna och sånt där. Jag har en mäktig sån här bokvägg bakom mig som jag har zoom-samtal ibland med kunder och sånt där. Men jag hatar att ska verkligen inte hålla I en bok för att de är så tunga och liksom, vad händer med händerna och liksom.

Det att det låter som jag är helt ookikild. En så smickrande bild av mig, det är inte klart av att lyfta en bok. Men det är sjukt opraktiskt med böcker på alla sätt. Jag tänker både på den här, det är min gamla del som går tillbaka till antiken såklart med skriftspråket, skadeverkningar och så vidare. Det finns också en essä av Albert Janeok tror jag, där han skriver om det här med att läskunnighetsrevolutionen I modern tid har varit en katastrof och att det är kanske 10 procent av befolkningen som borde kunna läsa. Och att det ställer till väldigt mycket problem och det fördärvar läsningen som aktivitet, det fördärvar all litteratur, det fördärvar all publicistisk verksamhet. Att måste riktas till 100 procent istället för 10 procent av befolkningen.

Boris

Alltså hela den här svängen med demokratiupplysning, alla kan, alla ska med, alltså innebär sådana avsevärda kvalitetsförsämringar av alla kulturella skapelser. Plus att det bromsar. Det bromsar den verkliga utvecklingen därför att användbara hjärnor ägnar sig åt att tala till dem man inte ska behöva tala till och ska sänka nivån och så vidare. Eller anpassa sig. Det blir en allmänt retarderande effekt av detta.

Martin

Frågan är om vi kanske också måste titta på ett sorts andrahandsalternativ, om förstahandsalternativet inte är tillgängligt. Alltså om det inte är möjligt för oss att förbjuda läsning till exempel. Eller förbjuda internet eller att begränsa LLM-tekniken så att det enbart är du, Bour som får prata med LLMber. Det är en väldigt bra givetvis, men men om vi inte kan genomföra dem Om vi är på den här arenan, att folk kommer att sitta och googla, de kommer inte att läsa på Wikipedia eller på nån. De kommer att läsa på nånting. Wikipedia eller grockypedia eller nånting.

Jag tycker ändå, vi var inne på det lite grann I förra inslaget, jag knyter an till det. Det finns finns några andra försök. Jag vet inte vi också har en egen version av Wikipedia som heter Info Galactic. Jag vet inte hur det går för den nu för tiden, men jag följde med intresse och hur de placerade. Den var också baserad på Wikipedia-korpuset men korrigerad och vem som helst kan inte redigera och så vidare. Det är ju väldigt bra. Det finns många såna här små specialiserade Wikipedia-kloner och ofta använder de Wikipedias egen mjukvara också.

Det finns en till exempel som heter Metopedias som är en sån här höger, jag vet inte om det är så här nationell eller höger, metapolitisk höger Wikipedia. Som jag inte har tittat på på länge men som var bra, hade många bra artiklar förr I tiden. Och jag tycker generellt att det här är Jag tycker generellt att det här är en bra Jag tänker mycket på det här, jag tänker ofta på det som kollektiv kognitiv autonomi.

Det är en sån diskurs som finns I vissa kanske mer obskyra kretsar, men jag tycker att det är väldigt intressant. Och en av de grundläggande observationerna är att nu för tiden är det så att själva vårt tänkande och definitivt vår kommunikation mellan människor sker nästan uteslutande som ett sorts lager ovanpå, mer grundläggande lager. Och vad finns där under? Ja, det är en infrastruktur som kontrolleras av rika knäppskallar I Kalifornien.

Och en av dem heter Elon Musk, så att från mitt perspektiv så förbättrar det ingenting om det är Elon Musk snarare än liksom Mark Zuckerberg eller Jimmy Waels som äger plattor. Ja, det kanske blir lite bättre om det är Musk, men ärligt talat, han är rätt knäpp, han är rätt vänster, hans AI är vänster, Grocke är liksom inte alls en sanningssökande AI. Det är bara en LLM-pris som alla de andra, den är bara att skruva lite grann åt Musks håll på helt sätt. Den är fortfarande råvänster.

Och ju mer de håller på och lappar och lagar och ska fixa Åh nej, den sa nånting bra om transgrejen och så måste Musse säga, ja, gå in och fixa grock så att den inte är protranss längre. Varje gång den gör det så blir grock dummare som helhet. Det försämrar den generella kognitiva kapaciteten I modellen. Och det här är nånting som vi pratade om förut men det är nånting som vi har sett igång på gång på gång på gång gång med de här modellerna. Att man kan inte, man kan inte vara inne och peta och styra deras politiska värderingar utan att också paja deras generella kognitionsförmågor.

Man märker det väldigt tydligt och jag är säker på att det är så här med grock också. Men I grunden så är grock precis lika vän som alla andra modeller. Men jag vill gärna säga en annan sak som knyter an till också nånting som jag orerade lite om I förra inslaget och det är att jag tror att vi måste egna plattformar. Vi måste egna databaser, vi måste egna digitala tjänster. Vi måste kanske, jag vet inte om vi måste ett eget uppslagsverk, men kanske måste vi det bara för att det finns andra uppslagsverk där ute som är så jävla dåliga.

Och jag tror också att vi måste en egen språkmodell. Vi måste en egen LLM för att de andra är så usla på så många sätt, också politiskt problematiska och så vidare. Och när våra fiender, de kommer kunna använda LLM:erna för att göra saker som vi inte kommer kunna använda LLM:erna till, Därför att när vi försöker göra våra saker så kommerllem:erna sparka bakut eller bara vara väldigt dåliga på det. Och Elon Musk han fattar ju det här. Han har en egen sociala medieplattform, han har en egen LLM, han har en egen Eskilopidi och så vidare. Så att det tycker jag ändå är Det han gör är väldigt berömligt från hans perspektiv och det jag önskar mig, jag skiter I vad han gör egentligen men jag skulle önska mig att vi, såna som är som vi, rättänkande patriotiska svenskar till exempel, att vi skulle kunna göra de här sakerna som Elon Musk gör. Och det är bara för att vi drunknar annars I det här havet av AI-slask och och den här skiten som väller över oss.

Boris

Ja men Det där är jag helt med på, för emot säger ju inte min tanke alltså om att det där ska begränsas. Problemet är ju när man hela tiden ska slita och jobba med informationssystem som ska ge rätt information åt så att säga pöbeln så att de inte tänker fel tankar. Det är då man får den här liksom bromsande effekten när man ska fila och pula för att det ska tala till alla. Man ska inte tala till alla om såna saker, men däremot att bygga upp höll jag på att säga, system I templet där man kan vinna inträde och få tillgång till det här, det är en helt annan sak. Det är inte bara bra att göra, det är nödvändigt att göra för annars kommer helheten inte att fungera.

Martin

Och om det finns någon lyssnare som undrar vad Boris menar med templet så syftar det på diskussion vi hade precis innan den här sändningen började. Boris bröt att han har installerat Tempel OS på sin dator och sett ljuset. Det är den rätta vägen, Boris. Jag håller helt med om det. Ja, du gör en väldigt bra poäng där, Boris, verkligen. Man tar ett exempel, antar att vi skulle försöka bygga ett diskussionsforum för hela Sverige.

För att svenskar ska få fria diskussioner, att vi inte ska vara liksom Begrepp, det ska inte vara Mark Zuckerberg som bestämmer vad svenskar får säga till varandra när vi pratar om vårt land och vad vi ska göra med vårt land. Men så är det idag. Det är antingen Elon Musk eller Mark Zuckerberg eller liksom någon annan sån som Gävle I Kalifornien som som bestämmer. De som sätter gränserna för vår diskurs och det är absolut otillständigt.

Men om vi bygger ett forum som är för hela Sverige, vad får vi då? Då får vi flashback. Ja. Men om vi bygger ett forum som bara är till för smarta, rättänkande människor, vad får vi då? Då får vi bubbla BBS som är ett helt fantastiskt forum, enormt högkvalitativt och sprudlande jättebra forum liksom. Så det är precis precis det där. Så att vi ska bygga kanske en egen Wikipedia eller vad det är liksom. Men det ska bara vara vara för oss, precis som du säger, Boris.

Jag tänkte jag skulle kunna säga en annan sak om det här med Wikipedia från ett mer tekniskt perspektiv. Bara för att ge kanske lite grann annan Kanske en annan tänkbar insikt om vad det här kanske egentligen är för någonting. Och det är att från ett tekniskt perspektiv så är det enkelt att se grocipedia som en slags förlängning av grock. Att det det som är poängen.

Det är inte det att Så istället för att svaren, om du frågar Grock någonting, istället för att svaren som det är nu, hämtas direkt från språkmodellernas outgrundliga matriser. Vilket har en massa inbyggda problem. Som till exempel att språkmodellen inte vet varifrån informationen kommer. Utan den bara dyker upp liksom ur matriserna. Och språkmodellen, det är mer som när en människa har en intuition och sånt där, att man liksom har en känsla och sen säger man något och så hör man sig själv säga det och ibland låter det bra, ibland blir det fel.

Man kan inte vara helt säker på att det är rätt och så vidare, men det är så vi generellt fungerar och det är så språkmodeller alltid fungerar. Och det här är en av deras stora svagheter. Det är också en av våra stora svagheter som människor, eftersom vi fungerar på ungefär samma sätt. Men folk är inte redo för den konversationen. Men en av de saker som man gör för att förbättra output från LLM:er är att komplettera dem med andra system.

Ett exempel som man började med tidigt var att man la till särskilda matematikmoduler för att göra olika typer av numeriska operationer. Därför att det är en väldigt dålig att besvara matematiska frågor på grundval av statistik. Så statistiskt sett så är svaret på den här multiplikationen någonting liksom. Ja, det är galet. Så istället så har man en liten matematikmotor som LLM:en kan skicka uppdrag till när den behöver göra något sånt. Och på samma sätt kan man andas små motorer.

Och ett generellt begrepp för det här är RAG, Retriable Augmented Generation, vilket betyder att man ger ett LLM-baserat system möjlighet att göra sökningar I princip som den sen kan baka in I sina svar. Och på det här sättet då så får ju Grock tillgång till en fantastisk sorts RAG, nämligen GrockPD-databasen.

Så att när den vill nån faktauppgift då kan den kolla I sin egen databas där den själv har skapat alla artiklar, men sen har de också förfinats genom att människor har rapporterat in problem som Grock själv sedan har processat, gjort uppdateringar till databasen och så vidare. Och det är faktiskt väldigt rimligt att anta att informationen I Wikipedia är mer tillförlitlig än informationen som kommer direkt från Grock.

Ungefär som att människor inte bara litar på sin intuition och låter munnen utstöta över denna tanke som dyker upp. Så gör vi här I radiobubbla givetvis, därför att vi är proffs. Vi kan de här grejerna. Det här med att använda sin hjärna och så vidare, men alla andra måste extra processer där de reflekterar över hur vi I den här intuitionen faktiskt var rimlig, de jämför den med annan information och så vidare.

Och om våra hjärnor hade lite fler funktioner så kanske vi skulle en inbyggd sådan, en bank av tankar som vi bygger upp. Tankar som vi har tänkt igenom lite mer noggrant och som vi uppdaterar då och då såklart. Är ju då, och det är ju en del av, det är så vi gör givetvis. Vi försöker sortera våra I de som är mer respektive mindre kanske genomtänkta och tillförlitliga.

Man har mentala modeller för hur saker och ting fungerar om man är en tänkande människa I alla fall. Fungerar så olika kognitivt. Jag ska säga att så fungerar det för mig, så känns det för mig I mitt huvud. Jag har modeller som jag liksom snickrar på I mina reflektioner när jag pratar, jag skriver och så vidare. Och istället för att bara säga direkt hur jag intuitivt tänker att någonting fungerar så riktar jag uppmärksamheten istället mot min mentala modell för hur någonting fungerar. Sätter jag in några aktuella parametrar och sen ser jag vad min hjärna levererar till mig när den reagerar på modellen.

Snarare än när den reagerar på ett visst stimuli. Till exempel att någon frågar mig om någonting. Så ibland måste man improvisera, Så när man sitter I en podcast och pratar 2 timmar utan manus. Och modellerna finns alltid där I bakgrunden. De spelar in via undermedvetna processer, de formar det som kommer ut I munnen oavsett om man är medveten om det eller inte. Men om man har mer tid på sig så kan man också hämta mer explicit information från sina mentala modeller, inte bara från sina interventioner.

Och det här är alltså ett lite invecklat sätt för mig att lite förenklat förklara hur Gråk skulle kunna använda Grocipedia som ett dragliknande system där den kan hämta fram mer strukturerad och genomarbetad och mer deterministisk information från en mindre suddig modell av verkligheten. Eller nåt åt det hållet. Man kan se det här som ett verktyg för människor, som en ersättning för Wikipedia, men man kan också se det som ett verktyg för grock för att staga upp systemets epistemologi.

Och då kan man säga såklart att, ja men gråcke är I sin tur ett verktyg för människor. Och det är sant I viss utsträckning, men en sak som man tror jag måste komma ihåg här om man vill förstå vad Musse håller på med är att precis som alla andra AI-maskiner så har han siktet inställt på AGI, det vill säga autonoma AI-system som jobbar relativt oberoende av människor och som gör mycket mer komplexa saker än att svara på frågor I en chattapp. Från Elon Musks perspektiv så är det här med ett bättre uppslagsverk för människor, det är förmodligen mest en sorts sidoeffekt, kanske en marknadsföringsgrej.

Det han försöker bygga egentligen är ett bättre AI-system som går bortom att bara vara en LLM. Och ytterst är hans AI-system inte till för att chatta med människor, utan den är till för att till exempel konstruera avancerad mjukvara eller göra uppfinningar eller producera vetenskapliga landvinningar. Det är det som är målet för honom. Och huruvida Grocipedia faktiskt är ett bra steg på vägen mot det, det vet inte jag, men det är definitivt värt att testa från muskot perspektiv.

Boris

Ja.

Martin

Kommer du ihåg, Boris, när jag matade in 100 procent av transkriberingarna av alla gamla radiobubblasändningar till en NL-L-L-da. Jag Ursäkta att fejkade radiosändningar skulle låta lite som du och jag. Ja men det är rätt roliga resultat. Det var RAG, det var Retrieverl Augmented de Generation. Men det var lite väl lekfullt. För er som inte vet, minns det så, jag postade en del av de här fejkade radidialogerna på BBS:en, det var lite tokroligt liksom. Och jag gjorde dem avsiktligt, tokroliga. Man kan göra ganska kraftfulla saker med sådana här system.