Transkribering
Trump satsar allt på att accelerera AI-utvecklingen men ingen president hade kunnat bromsa kapplöpningen mot Kina
Martin
Vi är mitt uppe I den största och viktigaste teknologiska transformationen I mänsklighetens historia. Och den som vägleder oss genom den här extremt känsliga och riskabla situationen är den ultrakorrupta grisen Donald Trump. Och han ser det här såklart enbart som ännu ett sätt att berika sig själv och hela hela hans familj. De är väldigt djupt investerade I AI-boomen.
Och jag tror, vid det här laget, eftersom vi vet litegrann om Trump funkar, jag tror att alla alla varningar som kommer om om risker med med AI, AI-system som spårar ur och börjar orsaka väldigt mycket problem och så där, jag tror Trump uppfattar det där enbart som personliga attacker mot honom själv. Så där säger de bara för att de vill skada mig och mina barn ungefär.
Så istället istället så tar han den... I princip den sämsta tänkbara linjen man kan ta och gå all in på att accelerera utvecklingen. Blocka alla tänkbara regleringar, skydda AI-företagen från stämningar och åtal som de säkert hade drabbats av under en rimligare regim och så vidare. Det här är väl 2:a saken som har fått mig att att fundera lite. Jag tror... Nånstans så tror jag att...
Kanske är så att varje varje amerikansk president hade behövt hålla en liknande linje. Och säga liksom att till varje pris måste USA bygga skyinet innan Kina hinner bygga skyinet. Men ja, men min entusiasm är dämpad.
Boris
Martin
Nej, jag behöver... Du vet jag... Jag är en AI... AI-skeptiker, en AI-aj-domer. Och man hade åtminstone kunnat drömma om att den viktigaste politikerna I världen hade haft kanske nån nån typ av nyanserad hållning här och inte inte omedelbart liksom med med maximal krafthoppad I sängs med de här AI-företagen som beter sig på ett väldigt liksom radikalt och oansvarigt sätt just nu.
Boris
Och det är just det jag grubblar på, om man tänker sig en 1... För det det ska man ju säga om demokraterna. De är onda, men men de lyckas ändå ha en ganska stabil djup stat och och regleringar som på nåt sätt är bra för den djupa staten och deras önskade helhet. Kan... Skulle du kunna tänka dig en...
Hur skulle... Antar att demokraterna tar över nästa val, vilket ju är ganska troligt. Vad vad skulle de gå... För förmår de stå emot den stora AI-bolagens accelerationism?
Martin
Nej, nej det gör de inte. Jag har väldigt svårt att se Väldigt svårt att se det. Jag menar man kan tänka sig nån typ av kanske nån nån sån luddigtisk vändning. Det finns det finns en hel del liksom populistisk energi som man skulle kunna bygga upp kring kring det här. Och jag tror att det finns delvis en sån rörelse I USA. Men om du pratar med liksom tacka Karlsson eller Steve Bannon eller nåt sånt där, de är de är absolut inte några AI-accelerationer, tvärtom.
Boris
Martin
Nej, Nu har inte jag lyssnat på nånting han har sagt på väldigt länge på några år, men jag antar att han yrar nu om liksom demonerna som kommer in från från AI-burken och det ena och det 2:a liksom. Han verkar gått väldigt starkt I en sån sån riktning. Men alltså det jag tänker på är att tacka Carlson han är en väldigt han är stark motståndare till automatisering, till mekanisering och automatisering.
Och han han han har pratat om till exempel trackers. Och vi måste måste rädda alla lastbilschaufförer. Får absolut inte ha självkörande lastbilar som fraktar saker fram och tillbaka. Därför att... Därför att vi har liksom miljontals amerikaner som som är beroende av sin brödflöde att få manuellt köra de här bilarna och så vidare. Och det där kan jag tycka är lite snäppet. Jag delar inte dem den liksom riktigt den moraliska intuionen. Men den typen av sentiment kan vara användbara. Ja ja.
Boris
Jo men det var lite det där foro efter, kan man inte tänka sig en... Att att den... Det det förvånar mig lite grann att Trump inte har den fingertopp -känslan. Därför att jag jag har ju liksom inga så där tycka synd om lastbilschaffisar-känslor I sig. Fint folk, men men men är det inte politiskt rationellt att tänka sig att fan, vi vill inte 242000 arbetslösa trackers drivande omkring och vara sura. Vi reglerar så att man inte kan automatisera lastbilstransporter. De ska jobben kvar. Och då har vi deras röster också.
Martin
Ja, alltså för all del, för all del. Det det låter inte så aptitligt för mig för jag är fortfarande så pass mycket en liksom en libertarian. Hur jag tänker kring de här sakerna. Men men absolut... Jag kanske skulle tänka på det som till exempel nationalism. Jag har själv ingen sån här stark nationell känsla. Jag är inte liksom en emotionell nationalist. Men jag kan se att nationalism som fenomen och som rörelse är väldigt positivt och väldigt användbart.
Så jag hoppas jag hoppas att resten av samhället ska vara liksom mer nationalistiska än vad jag är. Tror du finns en stark nationalistisk rörelse och så vidare. För det skulle kunna lösa väldigt många problem I I samhället. Jag kanske skulle tänka på ett liknande sätt kring såna här liksom mer så här ludditiska anti-antitknologiska initiativ. Men men egentligen det vi har nu är nånting annat. Alltså jag tycker lastbilschaufförerna är en total skitfråga. Jag kan väl bara säga det, jag tycker det en total skitfråga. Jag bryr mig inte ett smack om de ska köra lastbil eller göra nånting annat. Det är oviktigt jämfört med det som det som faktiskt händer nu.
Och det det som händer är att vi har en skenande utveckling av grundläggande AI-teknologi som håller på att bli väldigt väldigt kraftfull och den utvecklas väldigt snabbt hela tiden. Och det som är farligt är att vi släpper in den här AI-tekniken på exakt alla fronter. Så att man skulle kunna tänkt sig ett alternativt scenario en gång I tiden, att att vi närmade oss den här tekniken med nån typ av måttfullhet.
Att vi tog det liksom steg för steg. Men det vi gör istället är att att vi vi vi lämnar över, vi lämnar över hela planeten till de här AI-systemen dag ett. Det 1:a vi gör är att vi lämnar över nycklarna till till allting. Släpper in dem överallt. Och det jag tror är att jag tror att anden är ute ur flaskan, det har redan gått alldeles för långt, det går inte att stoppa den utvecklingen.
Därför att det redan är en kapplöpning mellan oerhört mäktiga grupper. Så det spelar ingen roll vem som är president I USA. Den här tekniken finns nu, det är alldeles för sent att stoppa korka igen flaskan med anden I den där ute. Och det är delvis en internationell kapplöpning och I USA kommer man alltid uppfatta det som att det är en kapplöpning mellan USA och Kina och därför kan man av nationella säkerhetsskäl inte inte bromsa utvecklingen I USA om man inte är helt säker på att den också bromsas I Kina, vilket man aldrig kan vara.
Och oavsett vad det finns för rimlighet bakom den där ecemangen så tror jag att det är så det kommer vara oavsett vem som är president I USA. Och jag skulle också säga att det finns en rimligheter där. Det är inte helt orimligt att säga här att vi måste bygga stygnet innan Kina hinner bygga stygnet. Ja, det kanske det kanske är lite större chans att vi klarar oss eller att våra värderingar överlever och sånt där, om det är vi som gör det och inte kineserna. På samma sätt som att det finns en rimlighet I det som det som open AI och Antropic gör. Sam Aaltman och Daria och Elon Musk och Demis Asibis kanske.
De de de de vet alla liksom att antingen blir det jag som som får får liksom lotsa oss igenom singlariteten eller så blir det nån av de 2:a. Det klart de tror att det blir bättre om de själva får göra det. De vet att ingen av de 2:a kommer sluta bara för att jag slutar. Så att det är som spelteoretiskt, överdeterminerat.
Boris
Ja nej, jag tror att det är... Jag tvivlar inte på att det det är I den riktningen allt det kommer rulla. Jag jag förundrades tidigare mest över den bristande politiska fingerfärdigheten I att kanalisera olika typer av, det du kallar, luddistiska strömningar för att själv erövra politisk makt. Och även om man erövrar den politiska makten så kan man inte göra nånting åt det där. Men det det mest oroande tycker jag väl är att alla de personer du räknar upp, det det är lite obehagligt att tänka säga sig att framtiden vilar I händerna på på människor, men ändå ett ganska begränsat synfält faktiskt. Annat än att jag jag ska komma först. Det är ju där det kokar ner till. Det är...
Martin
Det är väl då... Ja. Det är förmodligen så att nån av de 4 personer som jag just räknade upp kommer vara liksom den kanske viktigaste personen som formar formar framtiden. Det finns ganska stor sannolikhet. Och så vem vem av de här 4 4 killarna liksom vill vill man ha? Vid vid ett kosmiskt roder här. Det är ganska spännande. Men jag skulle kunna rangordna dem själv, men det är liksom...
Ja politiskt politiskt så tror jag så här att jag tror jag tror, som du är inne på, Boris. Jag tänker så här att om det finns en stor teknologisk ekonomisk utveckling som är ondviklig, vi kan inte stoppa den, då finns det en ganska intressant manöver man kan göra genom att motsätta sig den utvecklingen och till exempel så här reglera den, bygga upp massa så här byråkratiska strukturer, bygga upp såna maktstrukturer som syftar till att opponera sig mot den utvecklingen. Man kan beskatta den väldigt mycket, dra in väldigt mycket pengar till staten och så vidare. Och man vet att man inte kan stoppa den, men man kan liksom rida vågen motströms.
Ja. Och på så sätt så kan man liksom delvis liksom sakta ner den och man kan få den att liksom... Att det går lite långsammare, man kan få lite mer transparens. Och det är nånting som jag känner generellt, att det skulle vara bra om vi kunde vinna lite tid nu. Att vi inte omedelbart lämnade över allting till maskinerna. Men, ja. Jag jag jag ska inte säga att jag tror att en demokratisk president hade gjort det här bättre än kanske liksom Burny Zanders.
Boris
Eller nån sånt? Han han pratar Conof Ek. Men det du beskriver är just, det är ju till exempel Theodor Rooswells... Han redde ju den tiden. Och det var liksom mycket, jag ska reglera trösterna och så vidare. Och och han fick pengar, kunde... Alltså det blir jävligt mycket teater men man får politisk makt genom den teatern och man bromsar lite lite. Ja, och från också ett generellt maktperspektiv,
Martin
man bara ser det här som ett maktspel där både staten och kapitalet finns med I spelar roll. Just nu finns det en väldigt stor risk att vi går mot en enorm maktkoncentration I händerna på de här så kallade AI-labben. Företag som kontrollerar AI-tekniken, företag som kontrollerar robotttekniken, som är liksom nästa stora grej som de kommer de kommer rulla ut.
Och där finns det generellt en sån fråga om balans I samhället. Ska vi låta de här nya sektorerna som växer fram teknologisk och så, ska vi låta dem ta över fullständigt eller ska vi 2:a saker också? Och man är såhär, jag är liberal, så jag är väldigt benägen att säga bara, låt låt det gå som det går. Men från ett... Om jag ska leva in I ett lite mer normalt perspektiv, om man inte är en sån sån sån extremist som jag är, så skulle vi normalt sett ha mycket starkare motkrafter mot en så här potent, teknologisk och ekonomisk utveckling. Bara från ett rent exempel maktperspektiv, bara hur mycket pengar, hur mycket inflytande kommer vara koncentrerat I väldigt få händer. Vill vi verkligen att Sam Altman ska ha så mycket makt och så mycket så mycket pengar? Det måste ju finnas massa människor som tycker att det är en motbjudande tanke.
Boris
Ja, samtidigt... Alltså nu tillmäter du människor I gemen långt större handlingskraft än de har visat på på väldigt länge, oavsett vad I världen vi pratar om. Därför att, alltså jag jag ser nästan lite men ganska stor nyfikenhet fram på det som kommer och framträda när de 4 har utkämpat Ragnarök och vem som går upp I ringeln mot kineserna och I världen kommer det se ut då. Men men fråga om de motkrafter är nästan omöjliga att ställa när det gäller det här med AIs frammarsch och segatåg.
Därför att om om vi lever I en värld, åtminstone inte inte bara I västvärlden, där människor I gemen har överlämnat sig till sin mobil, Ja, det det den är ju deras portabla husaltare. Det är klart att de de inte kan kan uppgåda nån kraft och motsätta sig AIs segertåg och totala inträngande överallt. Nej. Då de har redan förlorat liksom.
Martin
Ja, så så är det förstås, det en väldigt viktig poäng som du gör Boris. Jag vill gärna understryka den. Alltså på många sätt är det så att slaget är redan förlorat sen en väldigt lång lång tid tillbaka. Just för att vi har redan givit oss åt teknologin för länge länge sen. Väldigt väldigt länge sen. Alltså så här industriella revolutionen, allra senast då så så så körde vi på. Det fanns ingen återvändo förmodligen.
Och vid det här laget så är vi så enormt nära intimt integrerade med teknik. Att ja visst, kan ju man kan ju vara en man kan ju vara en luddigtisk rebell, man kan liksom inte pilla på sin mobil hela tiden. Man kan till och med drömma om att gå full amish och liksom sluta med teknik och sånt där. Men vi vi... Som som art, som civilisation, så valde vi väg för väldigt längesen. Och människor har inte haft kontrollen på det sätt som vi ibland vill föreställa oss att vi har på väldigt väldigt länge. Och de flesta, inte...
Mycket av problemen som vi ser nu med artificiell intelligens och så vidare, det är bara samma problem som vi haft väldigt väldigt länge. Och som redan har accelererat nånting oerhört, framför allt I och med internet. Datorer givetvis, men framför allt I och med internet som har skapat en sorts... Som skapat den här globala monokulturen. Som alla människor som spelar nån roll är totalt injackade I, totalt formaterade av. Så att det... Men vi hade behövt gå väldigt långt tillbaka I tiden om vi skulle vi skulle välja en annan väg. Ha nån sorts kollektiv, amishid eller nåt sånt där.
Boris
Ja, och och det värsta är ju att det inte bara är nån som är in... Som spelar roll är injackade. Det värsta är att alla är injackade. Förutom industrialiseringen så var ju demokratiseringen inne... Innebär ju att vi sitter där vi sitter. Och själva lanseringen av av... Eller själva propaganda för internets välsignelse bygger ju just på tanken att det är ett demokratiskt verktyg. Redan där så borde även jag dragit då öronen åt mig, oj, aj, hjälp, farligt. Det här är ju ett vapen för att sprida den så kallade demokratin. Det det är ju inte... Alla borde aldrig från 1:a början haft tillgång till eländet.
Martin
Ja. Och sen och sen så... Ja, det är det är som en flummig filosofisk diskussion diskussion. Var drar man gränsen och sånt där. Ja alltså man kan väl åtminstone... Jag skulle inte dra gränsen långt bak I historien. Jag skulle inte säga liksom att, nej men vi borde aldrig funnit datorer till exempel. Men kanske nånstans med internet kanske man skulle börja dra I bromsen.
Ska vi verkligen ha internet, ska vi verkligen ha gigantiska internetbaserade institutioner som till exempel Facebook som kanaliserar liksom så här enorma mängder av all kommunikation, all kognitiv verksamhet, all kommersiell verksamhet. Går igenom de här enorma monopolistiska internetplattformarna.
Och man skulle kunna tänka sig att man hade... Man skulle tänka sig att man har datorer utan internet. Man kan också tänka sig att man har internet utan AI. Och nånstans, I nåt sånt härad, under utvecklingar som hänt hänt I min livstid... Alltså man skulle ändå teoretiskt åtminstone tänka sig att man drar en gräns där nånstans. Men problemet är att då kommer man alltid tillbaka till såna här saker som det du säger med mobilen. Vad är du säger? Mobilen det det är vårt vårt personliga altare som vi som vi tillber och så vidare.
Så att ja, det är väldigt svårt. Det det är som som en 1 mycket klok filosof sa en gång I tiden, att det går inte att skilja de dåliga delarna av teknologin från de goda delarna av teknologin. Det är omöjligt.
Boris
Ja, om om man inte... Det här är hur vi ser en lite flummig diskussion, men jag tror ändå att att att det går va? Det därför att hade vi haft kvar hierarkiska samhällsmodeller och inte de hade motsats av demokratin och USA, då skulle vi då skulle kunna tänka sig en samhällsutveckling där, som jag varit inne på förut, där där faktiskt alla inte har tillträde till den teknologiska utvecklingen.
Och problemet vi har nu, det är att de som leder den... Tidigare genom historien så har det varit enkelt uttryckt genier som driver på utvecklingen. Men men nu så har vi bara... Det är väl det som stör mig mest av att det det är så jävla underliga människor som driver på detta, såna man inte vill ha på middag. Såvida man inte vill dela akademin med dem.
Det är... Det där felet ligger och det är därför jag liksom tycker att det här får väl rulla på, därför att jag tror att ur det hela... Det kommer att bli ett jäkla ragnarök, men ur det hela... Och tekniken kommer finnas kvar, fortsätta utvecklas, men ur det hela kommer också insikten att födas hos människor att, nej men alla ska inte ta tillträde till det här. Och vi börjar om, men på en högre teknologisk nivå. Och vi kommer att se en härlig högkultur växa fram.
Martin
Ja. Det är det är en fin idé och alltså man kan för all del... Man kan man kan tänka sig såna här gränsdragningar och och begränsningar. Jag kan ju tänka till exempel att nån gång, kanske så här 20 23 20 23 när de när de släppte en språkmodell som kallades för gpt 4. Ungefär då hade de kunnat dra I bromsen tycker jag och säga liksom att okej wow, här har vi nån riktigt kraftfull teknik.
Låt oss låt oss låt oss använda gpt 4, experimentera med den, men inte hur som helst på ett reglerat sätt liksom och inga mer inga mer språk med dörren, ingen mer AI-utveckling nu utan vi kör på gpt 4 och det kommer ändå ta liksom 10 år, 20 år att utforska och förverkliga allting som är möjligt med bara den språkmodellen. Och en annan sak som det pratas ganska mycket om nu, det är att förr eller senare så kommer man... Kommer språkmodellerna att implementeras I hårdvara snarare än mjukvara.
Då kan man ta en modell, till exempel gpt 4, implementera den som hårdvara I chip. Det kallas för för asic, ASIC, med specialdesignat mikrochip som kör en viss en viss programvara. Det finns för alla möjliga syften. Man skulle kunna ha såna för AI också. Och då har man en 1 teknologi som är lättare att kontrollera för att man har de här chipen då. Det finns bara så här många chip. Man kan se till att liksom de de distribueras kanske på ett rimligt sätt.
Men tyvärr tyvärr, alltså vi har kommit långt långt ifrån allt det där. Därför att vid det här laget så finns det... Kineserna har släppt såna här open source-modeller som är mycket kraftfullare än gpt 4. Som finns... Som som varenda kotte har på sin hårddisk nu och kan köra på vanlig konsumenthårvara. Så att den där drömmen om att begränsa tekniken, den tyvärr återigen, andeln är ute I flaskan. De öppna vikterna är redan redan utspridda överallt. Du kan inte samla in dem och ta bort dem från folks datorer. Inte ens om du förbjuder dem med hårda straff och så vidare.
Boris
Ja, men det är det att det är det jag utgår ifrån. Jag förutspår profetiskt att när jag pratar om ragnarök så är det ragnarök. Och på 2:a sidan så kommer man rätt att skjuta folk som har det... Som använder det där utan... Alltså vi vi kommer att börja om I verklig mening, men jag ska inte spekulera mer av detta.
Martin
Synd, för det det låter ju hoppfullt. Det låter låter inspirerande. Ska vi egentligen börja börja skjuta folk? Kanske nånting Ja, det är på tiden.