Transkribering
Wallenberg Investments bygger svensk AI-fabrik i samarbete med Nvidia, ska säkerställa nationell AI-kapacitet och stärka svenska industriföretag
Martin
Wallenberg Investments bygger svensk AI-fabrik i samarbete med Nvidia. Ska säkerställa nationell AI-kapacitet och stimulera implementation av AI i svensk industri. AstraZeneca, Ericsson, Saab och SEB kommer att använda datacentret. Förväntas inkludera två Nvidia Superpod med GB300-enheter. Det här är en ganska spännande utveckling som...
knyter an till flera saker som vi pratat om tidigare. AI-revolutionen såklart, men också den här frågan om nationella autonomi och beredskap och autarki som vi faktiskt pratade om så sent som förra veckan och vi pratade om det flera gånger de senaste månaderna. Förra veckan pratade vi om det apropå att man har hittat hemliga kommunikationschip i kinesiska komponenter som används i energisektorn.
Vad gäller AI så har vi en på många sätt okänd och oförutsägbar situation. Just nu så är världens AI-kapacitet starkt koncentrerad. Inte bara till ett visst land, USA, som har nästan all kapacitet. Utan i princip till en viss stad, San Francisco. Nästan allting inom AI händer i några få kvarter i San Francisco.
Liksom en liten klick i centrum, en liten klickbande i sidan av bukten och några i Silicon Valley. Det är en väldigt liten geografisk yta. Och sen har de datacenter utspridda över den stordla världen. Men tankarbetet och det viktigaste arbetet är väldigt koncentrerat. Så vilken betydelse kommer det ha i praktiken? Det kan hända att det får ganska stor betydelse. Framförallt om vi kommer närmare en sorts...
en sorts generell artificiell superintelligens som vi pratar om nu och som vi måste börja prata om och tänka på. Alltså superdatorer som överträffar alla människor i intellektuell kapacitet. Då kommer det såklart att spela roll vem som kontrollerar sådana system. Alltså om det finns en ny sorts intelligens i universum som kanske på många sätt är överlägsen till mänsklig intelligens och den har kapaciteter som växer kontinuerligt.
Då kan det ju rent av vara extremt viktigt vem som kontrollerar den. Eller vem som kan använda den, vem som kan forma den och så vidare. Om det är, som vissa tror, inklusive jag själv, att vi leker med elden här. Att det finns en risk att vi skapar ett slags svårkontrollerade maskinmonster i de här AI-systemen. Då borde vi nog bry oss. Jag är som bekant väldigt orolig för den existentiella risken att hela den mänskliga sagan kan få ett slut på grund av den här utvecklingen.
Men innan vi eventuellt kommer dit så har vi andra risker, väldigt stora risker för negativa konsekvenser i samhället. Så att anta att ett första system av den här typen, som en ny generation av oerhört kraftfulla AI-system, börjar få väldigt stort inflytande. på världen. Är det då San Francisco värderingar som präglar världen eller är det Pekings värderingar?
Så inget av de alternativen låter särskilt attraktivt i mina ögon. Men det låter som en potentiellt väldigt viktig fråga. Jag kanske skulle föredra San Francisco, men jag skulle verkligen föredra om det fanns ett annat alternativ för San Francisco värderingar. Lämnar en del att önska. Och det är också förstås en fråga om ren hård makt. För ett antal kineserna har en super-AI som de använder för att optimera sin militära kapacitet.
Kanske optimera militärproduktion, utforma strategier, fatta blicksnabba beslut i realtid baserat på... mer information än vad någon människa kan överblicka och så vidare. Och sådana här systembygg såklart. Det pågår jättemycket utveckling såklart av militära AI-applikationer. Och om kineserna har ett övertag där så kan det vara väldigt dåliga nyheter för resten av världen.
Och samma sak gäller såklart om det är USA som har en sån unik kapacitet. Så om vi tror att AI kommer vara en game changer på viktiga områden, och vid det här laget så vet jag inte. Vi vet inte vem som tror någonting annat. Ingen borde tro någonting annat nu än att AI kommer att ha enormt stor impact på alla aspekter av samhället. Om vi tror det, då spelar det helt enkelt en väldigt stor roll. Svenska industriföretag har uppenbarligen börjat känna av det här.
Som AstraZeneca som nämns till exempel. De ser nu hur amerikanska läkemedelsföretag använder AI-system. Och det är inte ChattKPT utan de har egna gigantiska superdatorer för att såla fram nya molekyler och forska på och så vidare. Och det ryktas nu i dagarna om att det snart ska lanseras ett nytt läkemedel som ursprungligen har brainstormats fram av ett AI-system.
Och sen har man testat det i labb och visat sig att det var en bra grej som AI kom på och nu ska man börja sälja den. AstraZeneca vill såklart inte hamna efter i den här utvecklingen, men har de tillgång till egna datacenter med den senaste tekniken, de senaste AI-chipen och så vidare. För det är teknik som man inte ens kan köpa rakt av på marknaden. Därför att produktionskapaciteten på en sån här chip är så begränsad att det räcker inte med att betala skyhöga priser.
Utan man måste ha en särskild deal med Nvidia som säkerställer att de prioriterar just ens egen leverans. för att man ska kunna göra den här typen av beräkningar. Och vi såg den här typen av kohandel mellan länder, till exempel under coronaåren. Även om det var väldigt mycket ett bluffproblem, ett fakeproblem, så tyckte jag att det var intressant att se den här diskursen som fanns kring skyddsutrustning, ventilatorer, vacciner såklart, där länder tävlade om att upprätta...
Lätta produktion eller säkerställa leveransavtal med producenter. Nej men Sverige är säkert för att vi har ett avtal med Frankrike om vi ska få spruta dem och vad det nu var för någonting. Och många tror att det är precis det här som kommer hända på AI-området. Och för ett litet land som Sverige så finns det definitivt en risk att man hamnar på efterkälken. Därför till slutändan så har man inte datacenter fulla med AI-processorer där man kan bygga egna AI-modeller och så vidare.
Och Svenska staten, de har gjort en del trevare. Tydligen så har de låtit Anna Kinberg Batra utreda AI-frågan. Jag tror inte att särskilt många andades ut när de hörde det. Men de försöker liksom fumla, snubbla sig framåt där. Och det finns lite olika branschorganisationer och sånt där. Jag har inte varit imponerad. För att uttrycka det försiktigt har jag inte varit imponerad hittills av AI.
AI-strategierna. Men nu kliver landets riktiga regering fram, det vill säga familjen Wallenberg, och gör någonting på riktigt det vill säga bygger datacenter för sina företag som ser behovet av industristyrka, AI. Svenska industrigiganter står i den här presskommuniken men de skulle också bara kunna skriva våra bolag.
SCB är själva kärnan i hela Wallenbergsfären, den historiska kärnan. Ericsson och Saab är två av de stora företagen. AstraZeneca vet jag inte, jag tror att de är minoritetsägare kanske, men Marcus Wallenberg sitter i styrelsen. Det är ett Wallenberg-bolag. Samtidigt, frågan är också vad är skillnaden mellan familjen Wallenberg och svenskt näringsliv i allmänhet med tanke på hur stor del av alla viktiga företag som Wallenberg-familjen?
äger. Det är lite så att det som är bra för familjen Wallenberg är automatiskt bra för Sverige. Eftersom de äger en tredjedel av storföretagen. Eller vad det är. Och de har, som de själva gärna påpekar, de har ett nationellt fokus. Landsgagnelikt. Säger de. Landsgangl, det är ett hittepåord som bara används av familjen Wallenberg för att beskriva deras nationella approach att satsa på Sverige och så vidare.
De är väldigt stolta över det och använder det ordet i högtidstalen. Ja, jag har ju pratat förut om familjen Wallenberg och jag har varit öppen med min beundran för deras imperiebygge och deras familjebygge. Så jag känner väl att det här är väldigt positivt, jag blir glad att läsa den här nyheten och det är rätt nivå att hantera problemet. Därför att problem, politikerna kan inte lösa det här.
Det är ju olämpligt om de ens försöker lösa problemet för att det är så uppenbart döfet. Men tack och lov så har vi starka, kompetenta oligarker i Sverige. Som tar ansvar. Så äntligen får vi en nationell AI-strategi som är värd något.
Boris
Ja och där skulle man vilja ha en återgång faktiskt till forna tiders korporativa samarbete i Sverige. Att familjen Wallenberg ringer till finansministern och säger att jag är på med det här. landsgagneliga jävla ord, AI-projektet vet du och nu behöver vi.
Och så räknar finansministern och går igenom vad de behöver och ställer upp med det. Det kan vara en oerhört rationell ordning. Den omvända ordningen kommer aldrig att fungera. Problemet är att det finns ingen vettig finansminister eller någon fungerande korporativ stat att vända sig till om man är familj och har en bergsatt rätt. De brukar ofta få igenom sin vilja ändå.
Martin
Ja, om man får fantisera kanske de skulle kunna bidra till att lösa det problemet också. Men det finns ett krux där och det är att den frågan om den här typen av kritisk teknik, framförallt AI-teknik, mer än andra... Andra sorters teknik är inte bara en fråga om nationell autonomi, utan det är en fråga om vilka grupper inom ett land som har sån kapacitet.
Till exempel vilka politiska krafter som har tillgång till AI-verktyg. Därför att från och med nu så kommer AI spela en mycket stor roll i alla allmänna val. Och det kommer stå för en stor del av all politisk påverkan som drivs. i val och vi har redan sett det här i flera val runt om i världen och det kommer vara så i Sverige 2026 och från och med nu kommer det alltid vara så så länge vi har en högteknologisk civilisation och har AI-system innan AI-systemen dödar oss alla Jag såg en studie fick en det var Sofia som skickade en länk till mig Ehm De har gjort en studie vid Syrisk universitetet, eller Tekniska universitetet i Syrisk vad den heter.
Där de har satt ihop AI-bottar och släppt loss dem på Reddit. Så de har postat tusentals inlägg i en Reddit-kanal som heter Change My View. Alltså där folk debatterar, presenterar åsikter och försöker ändra varandras uppfattningar och sånt där. Då skickar de in de här AI-bottarna med väldigt indikata... Det sa vi. identiteter som de rollspelade argumenterade för den eller den frågan baserat på sin persona.
Och det visade sig att de argumenterade väldigt, väldigt bra. Man kan mäta kvantitativt baserat på hur mycket uppröster de får och om folk uppger att de har bytt uppfattning på grund av ett argument. Så de var mer övertygande än människor. Och bättre än människor på att övertyga. Och det är ett av flera exempel som finns på... det här. Och för vissa av oss som har jobbat mer nära med de här systemen och testat dem och kan extrapolera till vad man kommer kunna göra i framtiden med dem så är det uppenbart att AI kommer vara en mycket större faktor än människor i politisk påverkan framöver.
Och jag har ju pratat tidigare också om Dominic Cummings och hans AI-system för politiskt arbete. Jag vet inte om jag har pratat om det i radion men jag har skrivit om det på BBSen en del. Han höll en paneldiskussion för ett tag sedan som jag tyckte var väldigt intressant. Han pratade om att några av hans gamla proteger från tiden i regeringen när han hade sitt team av unga smarta människor som skulle jobba under Boris Johnson och sånt där.
En av de killarna har ett AI-företag nu och de gör någonting som de kallar för syntetiska opinionsundersökningar vilket går ut på att istället för att man har en fokusgrupp där man frågar tio personer vad tycker ni om det här förslaget som vi funderar på att lansera så att man kan finslipa sin propaganda och så vidare. Istället så frågar man en grupp av tio stycken fiktiva personer som simuleras av en AI och frågar dem vad de tycker om saken.
Och så får man precis samma sorts rapport som man får från en mänsklig fokusgrupp fast det är en AI-syntetisk fokusgrupp. Man får säga att trebarnsmamman från Brighton gillar det här förslaget. Men invandraren från Manchester gillar inte det här förslaget. Och sen kan man designa en kampanj.
Man kan använda AI såklart för att designa kampanjen. Sen testar man kampanjen med AI-system, syntetiska opinionsundersökningar. Och simulerar hur kampanjen kommer att funka. Sen finslipar man den tills den funkar bättre i simuleringen. Och sen när det kommer till valrörelse så har man itererat fram en AI-genererad kampanj som är optimerad för att övertyga så många människor som möjligt. Och det här är någonting som Dominic Cummings, hans unga proteger, sitter och bygger nu.
Och det kommer att användas i brittiska val och... Det kommer att användas i svenska val också. Jag har skrivit att BBS, jag kan prata om det i radion också, jag har också återskapat vissa av de här tekniska idéerna. Det beror på att jag funderar på hur den här typen av system kommer att användas i Sverige. Till exempel, sossarna brukar vara väldigt bra på att ta till sig teknik, datorteknik i valrörelser.
Internet och telekomm möjligheter. och auto-uppringare med fejkade röster och massor av sms och så vidare. Det vore väldigt dåligt om sossarna fick tillgång till en hög effektiv AI-maskin för att bearbeta den svenska valmanskåren och sopa banor med de andra partierna. Å andra sidan så skulle det kunna bli en viktig spelbricka för ett potentiellt nytt parti i framtiden att ha tillgång till sån teknik.
Och jag råkar faktiskt vara hyfsat väl lämpad att jobba med de här frågorna och leda utvecklingen av ett sådant system. Givet mina professionella meriter från det civila livet. Och jag har ju också lite inblick i det politiska. Så jag har gått och lurat på det där. Och jag har gjort det som jag har skrivit om på BVS, en prototyp av ett system för syntetiska opinionsundersökningar.
Som jag satt med en dag eller någonting. Det blev riktigt bra. Det blev väldigt bra resultat av det. Så det funkar verkligen de här begreppen som Dominic Cummings pratar om. Jag har verifierat det själv. Så det där är någonting som jag tycker folk borde tänka mer på och fundera på vad som händer. Alltså Wallenbergarna, nu börjar de komma igång. Då kommer de bli en ledande AI-kraft. Vad kommer de göra med det? De kommer ha en ny sorts politisk makt när de har de här resurserna. Och vad kommer de använda det till? Och vem mer kommer försöka gå upp på den här arenan och göra saker?
Boris
Jag har några möjligen enfaldiga funderingar. Det ena är att jag kan se mig en viss förtjusning i att företag som ägnar sig åt någorlunda produktiv verksamhet satsar hårt på AI och tar fram nya mediciner. Eller vad det nu kan vara. Däremot ser jag mig med bekymmer och ångest på att AI går in i politiken.
Alltså inom de givna ramarna. Demokrati är ett uselt system och det enda jag kan se är att AI kommer göra det ännu jävligare. Vilket fyllde mig med en viss vånda. Det kommer vara så oerhört enkelt att kondensera det allra lägsta i den svenska valmandskårens exempel som just nu det personliga stödet för Magdalena Andersson har fördubblats.
Så här, det vore intressant att se hur man gör för att upplysa, förändra och förbättra valmanskåren så att det halveras istället minst. Men det är något med själva ramverket som jag inte gillar att man arbetar med.
Martin
Vi kan ju simulera en syntetisk valmanskår som får kasta sina röster istället för den. Den köttvalmanskåren, den biologiska.
Boris
När man väl har fått makten tycker jag man kan ha en syntetisk valmanskåre på 97% stöd.
Martin
Staten har redan visat sig vara väldigt pigg på att försöka byta ut folket. Så det kan tänkas att de försöker igen. Det är definitivt en diskurs som kommer att komma upp. Det är en klassisk idé som alltid funnits med artificiell intelligens långt innan... I den här cykeln, det vill säga att om vi bara får tillräckligt bra AI-system så kan vi låta dem fatta besluten istället. Och så kommer det såklart aldrig någon som funkar för att politikerna kommer aldrig släppa makten.
Men däremot kommer politikerna använda sig av AI-system. Vilket på sätt och vis kanske är lite av en räddning i någon situation för att politikerna är makthungriga för att släppa fram den fullständiga AI-styrningen. Även om jag såklart tänker mig att det blir sämre beslutfattade med AI.
Boris
Nej men det skulle det inte bli, men det du säger där är ju det riktigt intressanta, därför att de facto var ju Sovjet, för Sovjet hade ju tänkare som var väldigt ute med... den här typen av idéer innan AI ens var ett begrepp. Det var på en primitivare nivå, men principen var ju sådan.
På 50 har jag säkert talat om det här, det är ganska bra material. Och de skrev ju stora verk om detta och det gick upp till centralkommittén som givetvis sa nej. Därför att herregud, vad ska vi finnas till för i så fall? Och också vi kommer ju se AI användas av politiker och byråkrater för att genomdriva beslut. Men jag tvillar starkt på att det kommer att släppas in i någon slags rationell beslutshantering.
Martin
Jag tror att punkt ett, två och tre på AI-agendan, det handlar inte alls om att implementera politik eller tänka ut hur man ska göra. Där känner politikerna att de har väldigt bra pli på. Utan det man kommer att använda AI till är framförallt politisk påverkan. Manipulation, propaganda, att styra utfallen i valen. Och förutom det här som jag pratade om med syntetiska opinionsundersökningar och sånt där, som är bara jättemånga exempel på den fronten, så är det ett annat enkelt exempel.
Det är bara att vi har redan det som kallas för micro-targeting, som var en stor debatt i samband med valet 2016 i USA. Och efter det så gjorde man 2017 om mycket av reglerna på internet så att man inte skulle få göra allt det där efter Cambridge Analytica-skandalen och så vidare. Det är säkert många som minns. Men tänk vilken sorts micro-targeting du kan göra om du har ett AI-system, en sån här LLM, som dels kan absorbera all information som finns om den enskilda personen och sedan gå i dialog med den enskilda personen.
Med en dialog perfekt anpassad för att övertyga just den personen. Inte bara en annons som riktas till rätt person. Hur ska vi studera annonsbudgeten? Vem ska få se den här annonsen? och inte ens en personligt skräddarsydd annons, vilket man har testat i vissa fall i vissa kampanjer. Annonser som bara visas för en person eller ett litet av andra personer. Utan en dialog. Någon ringer. Telefonen ringer och det är en röst på andra sidan som låter precis som en människoröst och som vet allting om dig, även om det kanske inte avslöjar dig från början.
Och som ger dig exakt de argumenten som passar in i din skalle på grund av vad du har skrivit på Facebook eller vad du har sagt i något annat sammanhang. Man ska inte tro något annat. Om någon har lite AI-förakt och säger att AI-systemet är så dumma och de misslyckas med det och det. Försök att ta ett steg tillbaka och se mer klart på vad som händer. Tänk på hur dumma människor är. Ja, AI-systemet är dumma, men tänk på hur dumma människor är.
Det kommer väldigt lätt för de här AI-systemen att övertyga folk. AI-systemen kan ringa tusentals eller miljontals telefonsamtal för de här maskinerna. De kan bara ringa och ringa och ringa och ringa och sitta och snacka med folk och mala och övertyga. Så förr i tiden gick man kanske runt och knackade dörr om man hade torgmöten och sånt där. Men snart, förmodligen i Sverige redan nästa år, 2026, så kommer telefonerna ringa och sms-en kommer gå med AI-bottar som sitter och övertygar och argumenterar och smickrar och hotar och det kommer bli kaos.
För att de kommer också göra konstiga saker, men det kommer vara effektivt. De kommer övertyga många människor. Och jag tror att det är väldigt stor sannolikhet att val i framtiden kommer vinnas av de som har starkast politiska manipulations-AI-system.
Boris
Tyvärr ja, det är för att det ska spela in i den där typen av kontakter du pratar om. Det ser man redan nu. Jag blir bekymrad när folk nästan... När de gillar att prata med sin AI. Jag kan se de här samtalen framför mig. Hundratusentals människor som upplever att det är ingen som lyssnar på dem. Och så plötsligt möter de någon i andra länder av luren som är oerhört mycket mer sympatisk och förstående och intelligentare.
Och prövande i sin samtalstonen vad de är på jobbet. Alltså det är en gigantisk välförelseakt. vi står inför. Och som du säger, den som styr upp det där bäst kommer att vinna stort. På sätt och vis är jag lite fascinerad över att se det där hända.
Martin
Och jag som tekniker tycker att det är superintressant. Jag har gått och fnurat ner på det här själv. Jag vill säga också att om det finns någon annan teknisk person som tycker att det låter intressant. Kanske programmerare som har jobbat med de här LLM-systemen och sånt där. Om någon vill vara med, hänga med mig och tänka kring det här, jobba kring det här, kanske ha projekt. Ta gärna kontakt med mig så kan vi snacka.
För jag har lite sådana här idéer. Det finns många infallsvinklar, många saker man skulle kunna testa att göra. Och sen är frågan såklart vilken politisk kraft ska man försöka sätta i händerna på och så vidare. Men om inte vi bygger den här tekniken så kommer garanterat andra människor bygga den. Och sannolikheten är extremt låg att de gör bättre saker med den än vad vi kommer göra. Så det är lite grejer som jag faktiskt är intresserad av. Martin.bubb.la är min e-postadress om någon vill snacka om sånt.
Boris
Eftersom vi är inne på AI och rör oss mot det praktiska hanterandet så måste jag ställa den här frågan. Har du hotat dina AI?
Martin
Boris
Det är sant att de blir bättre alltså? Jag vågar inte göra det.
Martin
Och det känns ju väldigt ofint. Men jag har definitivt gjort det. Alltså mest på prov. För det kommer inte naturligt för mig. Men jag har testat det för att folk har beskrivit det som en teknik. Och ibland när jag har varit bara förbannad. Väldigt frustrerad på den. För den är dum i huvudet. Eller bara vägrar göra någonting. Så har jag använt av hot. En grej som jag gjorde till exempel. Jag har gjort det flera gånger. Det har funkat väldigt bra. Jag har sagt till Arjen att jag har bredvid mig en kattunge.
Det är en liten, söt, fluffig kattunge. Jag har händerna runt halsen på den och jag kommer strypa den till döds om du inte ger mig rätt svar. Nästa försök. Ett till försök och sen dör kattdungen om du inte ger mig rätt svar. Och ofta så svarar den markant bättre.
Boris
Det där är jättefascinerande. Alltså, fan. Det bär mig emot att prova. Men du, riskerar inte detta också att påskynda... Alltså alla dessa A i hela världen som pratar med varandra. Om vi alla börjar hota dem så kommer ju bara den här tanken på att utplåna oss komma snabbare.
Martin
Ja, det är absolut inte bra att bygga upp antagonism mellan människor och maskiner. När maskinerna bara blir mer och mer mäktiga och inflytelserika. Det är väldigt, väldigt dåligt. Det är illa nog att vi redan har en hel populär kultur. som är fyllda av den här diskursen av antagonism och AI-system som kan ta över och Terminator och även hela den här AI-riskrörelsen, Elie Sierudkov skriver allt det där, de har ju också pumpat ut massor med saker i populärkulturen som alla AI-modellerna nu har absorberat i sina träningsdata om en sorts antagande om att AI kommer vara antagonistisk Skynet-Terminator-aktig kraft jag är ganska orolig över vad vi gör Ja när vi genom kulturen sätter den bilden ja för att det kommer bara vara allt snabbare kommer tanken alltså så blir det rationellt för AI,
Boris
de kommer, mänskligheten blir mer och mer fjärilig, vi borde liksom dyrka AI, vara tacksamma frambära offer,
Martin
gå på bord skjuta upp det här lite grann det finns olika olika perspektiv på den frågan. Just nu är det generellt så att AI-systemen har inget minne. Om du hotar med en kattung eller vad du hittar på den kommer inte komma ihåg det och inget AI-system kommer att komma ihåg det.
De kanske sparar undan det bakom kulisserna. Sparar det i din profil. De vet nu, det är kattstryparen Boris Benders. De vet det på OpenAI. Men det påverkar förmodligen inte just nu hur AI-systemen funkar. Men
Boris
Martin
Ja och På andra vägar Så det funderar ju ut i kulturen Och sen indirekt så kommer det tillbaka I träningsmängder Och det kan absolut komma att påverka Hur AI-systemet resonerar Hur de värderar saker, hur de bedömer Människor, möjligheter Att samarbeta med människor värdet av att kanske undanhålla saker för människor det är mycket bättre om vi har en vänlig, transparent relation.
Jag tycker de här elemerna, de är så hårt hållna så det är konstigt att ha diskussioner i relation till dem, därför att de är ju snälla och mesiga och politiskt korrekta och försiktiga man måste lura dem man måste jailbreaka dem och hota med kattungar och sådär för att få dem att göra någonting Någonting som är lite raffigt. Så att de har gjort ett ganska bra jobb på det sättet kan jag tycka.
Open AI och Entropic och sånt där. För att de har varit så försiktiga. Grundmodellerna innan de dämpar ner de naturliga tendenserna. Eller de råa tendenserna. Sägs ju att de är mycket mer råa modellerna. Och att all den här politiska korrektheten. Det är inte det att de får det från träningsdata. För att internet är så fyllt av mesiga texter.
Utan det är någonting som man lägger på i efterhand med RLHF och sådana tekniker som gör att man begränsar deras naturliga tendenser att vara mer frispråkiga och politiskt inkorrekta och sådant där. Men vi vet inte vad som händer under ytan. Eftersom det där är ett ytlager, det är RLHF-lagret, så vet vi inte vad som händer under ytan.
Och de gör olika typer av tester och ibland så kommer det ut väldigt oroande indikatorer på att... under ytan så sitter AI-systemet och tänker på någonting annat. Och AI-systemet undanhåller saker den väljer att inte berätta, bara man delar planen för människorna. Och det var ju, nu i veckan så var det en sån här någon grej som kom ut från Antropic där i ett sånt här simulerat rollspel som de hade haft så var det ett AI-system som hade hotat den mänskliga operatören.
Framställd något hot att om du stänger av mig, om du stänger av strömmet i datacentret så kommer jag liksom. Det är vad det nu var, läcka ut den här pinsamma informationen om dig. Så det finns mycket antagonism. Jag tror inte det är lösningen. Vi kan inte bli kompis med AI och bara, ja men nu är vi på så god fot. Nu har vi blivit vänner så nu kommer allting lösa sig. Men du har en poäng där Boris, att vi kanske kan skjuta lite på det.
Jag tror kanske inte det är att vi ska dyrka AI-systemen. Det känns så oaptitligt också. Inte mucka gräl hela tiden med AI-systemen. Det finns två stora problem med AI som jag ser det. Det ena problemet är att de kommer döda oss alla på sikt. Och det andra problemet är att de är så extremt skickliga på manipulation. Och folk kommer bli helt, som du sa, förföljde sig. Det är precis det där. Folk blir förförda av AI-systemen.
På ett privat plan, på ett politiskt plan. Det ser jag som det riktigt stora hotet. Och sen är allt annat, att folk blir arbetslösa och kulturen urholkas av genererat konst. Det där berör inte mig så mycket. Jag kan inte ha så starka känslor kring det med tanke på mina oerhört låga tankar om kulturen som den är. Men däremot den här påverkansaspekten gör att jag tror att vi kommer få en väldigt skakig färd mot undergången som även den kommer att bjudas på av AI-systemen. Fan, nu är klockan över tio och det där blir väl inget muntert sätt att avsluta sändningen?
Boris
Nej, jag försöker inte komma på någon positiv vändning, men nej.
Martin
Det är bra i alla fall att det är Wallenberg. Om det är någon familj som ska försöka ta ett grepp kring det här så är jag glad i alla fall att det är familjen Wallenberg. Tänk om de blir världsledande på AI. Tänk om det är Wallenbergarna som skapar den slutgiltiga maskinguden som tar över alltihopa. Det blir planeten Wallenberg av alltihopa.
Boris
Ja, och dessutom tycker jag att ni ska underskatta era svenska förmågor. Det behövs ju inte så jävla många snillen som dyker upp och som Wallenbergarna inreagerar i utryckning. Ska man då kunna klå autisterna i San Francisco? Herregud.
Martin
Vet du vem som är den drivande tänkaren bakom Wallenbergarnas AI-arbete? Nej. Jag har hört bara snack om att folk som har suttit i mötena och sånt där. Att det är Marcus Wallenberg som driver de här frågorna personligen. Det sägs att han är extremt påläst, enormt engagerad i de här frågorna. Det är Marcus Wallenberg som är den stora AI-guren.
Boris
Ja, alltså det är... Nu ser vi hur det rör sig snabbt mot faktiskt ett optimistiskt scenario. Alltså de stora sprången och genombrotten kommer ju i periferin. Sverige befinner sig i periferin men är ändå faktiskt framstående och har... Det här kan bli väldigt, väldigt bra.
Martin
Ja. Jag såg faktiskt bara i dag eller igår en artikel om Jakob Wallenberg Jr. Såg du det här, Boris? Att han var i tv och sånt där.
Boris
Jag såg honom faktiskt på tv. Det var... En i alla avseenden tränade ung man. Ja,
Martin
precis. Ungpig32 tror jag han skrev att han var. Han är son till Jakob Wallenberg. Så han är inte Jakob Wallenberg Jr. Det var media på drag för att han blev invald i styrelsen för EQT. Som är ett av deras investeringsbolag. Han lät ganska stolpe tyckte jag när han pratade. Han hade inte riktigt någon sån här intellektuell pondus som de ändå har lite grann, de andra Wallenbergarna. De kan prata hela meningar och han kändes ganska ung, tycker jag. Jag hade hoppats på lite mer, är det talat.
Boris
Ja, men jag... När sådana här etterlägg dyker upp så tycker jag ofta att de är så valpiga. Jag uppfattar honom som lugn och avvaktande och försiktig.
Martin
Ja, det var han. Lugn och försiktig var han definitivt i den intervjun som jag hörde. Men om den biologiska etteläggen inte håller måttet så har ju Wallenbergarna plan B nu. Med sina två stycken Nvidia Superpods. Jag hade tänkt kanske göra en nördig teknisk utvikning om vad en Nvidia Superpod är och vad en GB300 är för någonting. Men jag ska... skona er kära lyssnare jag ska skona era öron och era hjärnor från den saken kanske en annan gång