Martin

Du skickade en artikel till mig häromdagen Boris från LLRB, kan det vara London Review of Box? Jajamän. Ja. Och den var ju lite den var lite rolig. Den är skriven av en Mimi Jiang som jag antar är en kvinna med kinesisk bakgrund. Ja. Hon skriver om det här, hon pratar om att ja, mina kompisar I den kinesiska AI-industrin de de de pratar inte ens om singlariteten längre.

Därför att därför att såvitt om anbelangar så är vi redan I singlariteten eller vi vi är väldigt snart där liksom. Det är är passé. Singlarteten är redan passé. Vilket jag håller med om. Alltså jag... Det är rimlig inställning. Och sen säger hon så här att, ja eftersom hon redan är på den här vägen, det finns ingen återvändo, så har jag bestämt mig för att för att försöka vara optimistisk. Jag försöker förbereda mig nu för en värld där AI har tagit över.

Men där AI också har valt att inte utplåna oss människor utan låter oss leva vidare Som kanske museiföremål eller som husdjur eller nåt sånt där. Och jag tycker det här är en ganska bra inställning. Jag tror jag tycker hon har rätt. Jag tror hennes kinesiska AI-kompisar har rätt. Och jag jag försöker själv jag försöker själv tänka på på ett liknande sätt.

Alltså min min magkänsla, det är ju då som bekant då att det här kommer inte gå så bra. Min magkänsla är att artificiell intelligens kan mycket väl bli mänsklighetens undergång. Och även om även om vi överlever så kommer AI totalt korrumpera den mänskliga naturen. Därför att ja, människor kommer kommer liksom primärt interagera med AI-system.

Barn kommer bli uppfostrade av AI-system. Folk kommer att konsumera AI-genererad underhållning istället för liksom material som är gjort av människor. Så även om vi överlever så förlorar vi oss själva som vi känner oss idag. Vi vi smälter ihop med maskinerna, I bästa fall en sorts symbios, nån sorts någorlunda stabil symbios.

Men den mänskliga komponenten I symbiosen kommer att vara begränsad. Därför att det kommer finnas många fler artificiella intelligenser än biologiska intelligenser. Och de artificiella kommer vara då vara mer intelligenta, de kommer vara snabbare, mer energiska, de sover aldrig och så vidare. Så att så att jag tänker att det blir det blir frågan om huruvida vi kan karva ut en liten mänsklig nisch inom ramen för en mycket mycket större maskincivilisation eller nåt sånt där.

Och jag tycker att det låter lite långsökt. Men vem vet? Vem vet? Då kan vi säga att det är verkligt försök. Det är en grej som som jag tänker på en del, att det finns inte riktigt nåt alternativ. Jag kan inte se nåt alternativ. Men det är också så att även om vi tänker oss ett alternativ, om vi tänker att vi kan stoppa den utvecklingen... Jag jag är inte sådär jätteoptimistisk vad det gäller mänsklighetens och civilisationens chanser utan AI.

Jag jag... Det låter ju väldigt dystert här, men min min grundinställning är ju att det det är kört oavsett. Och om om det ändå är kört, då kanske vi lika gärna kan ge AI en chans. Låt maskinerna bygga om allting, inklusive mänskligheten. Låt dem låt dem omforma hela den mänskliga kulturen hela den mänskliga naturen för den delen. Våra kroppar, vår genetik och så vidare. Hur mycket sämre kan det bli jämfört med alternativet?

Det vill säga att köra rakt in I en global Sovjetstat och släppa in 1000000000 afrikaner I Europa. Om det är vad som finns bakom ena dörren, varför inte glänta på den 2:a?

Boris

Ja, jag tror man ska vara väldigt fördomsfri där. Men jag tror också att mitt bejakande av utvecklingen beror inte så mycket på att jag tror att det finns inga alternativ. För jag tror inte heller att det finns några alternativ. Men min min tankegång är att alternativen finns först på 2:a sidan det jag kallar Ragnarök. Det vill säga det ett tillstånd som du beskriver.

Alltså att man kan inte man kan inte tillkämpa sig... Man kan vare sig som individ eller som samhälle bli någon... Bli nåt annorlunda förrän AI har har tagit över det på det sättet du beskriver det. Ja, det det blir... Just nu blir det bara smått I kamp när man går över till en gammal knockia istället och såna 2:a saker. Jag ska aldrig beställa nåt på internet, Jag ska begränsa mitt sociala mediebruk och så vidare. Det blir såna grejer.

Eller jag flyttar ut I ett torp utan vatten. De de stora dragen kan... Kan och motståndet... Eller motståndaren... Att att bli människa igen. Det kan man bara bli när motståndaren har segrat. Och det det är då jag menar man får börja om. Den springande fråga, punkten då är ju om AI kommer att tillåta detta. Människor som väljer att att bygga en annan slags samhälle och använda AI på ett annat sätt. Men där tror jag att AI I sin visit kommer att tillåta detta.

Martin

Alltså det... En 1 sak en sak som jag känner liksom talar väldigt starkt för din poäng här, Boris, det är att just nu befinner vi oss I en situation med med en extremt snabb teknologisk utveckling. Jag tror att folk som inte jobbar nära AI, folk som inte jobbar I I branschen så att säga förstår nog inte hur extremt snabbt utvecklingen går. Alltså hur mycket bättre modellerna blir månad för månad.

Så det är liksom en enorm, enorm förändringstakt. Och nästan inget av det här har ju diffunderar ut I samhället igen. Så att vi har framför oss... Om vi om vi överhuvudtaget överlever så har vi framför oss ett antal år, kanske årtionden, med liksom extremt hög förändringstakt. Så att vilken anpassning du än kan kan hitta till, vilken lösning du än kan hitta nästa år på de här frågorna, den kommer vara helt irrelevant om om 3 år, om 4 år och så vidare.

Så att så att man kan inte egentligen liksom ta ett nytt avstamp förrän förrän man har kommit igenom. Och det är samma sak som om du det... Ditt samhälle genomgår kanske en politisk revolution. Och revolutionen kommer pågå I 3 år. Om du 3 månader in I den revolutionen säger att, ja, nu ska vi se vad vi ska göra efter revolutionen, det är helt meningslöst.

Boris

Ja. Sen en annan Man behöver man behöver inte vara för processen. Det det är bara att konstatera att den det är som det är. Den kommer att rulla på helt enkelt.

Martin

En annan aspekt som som jag tänker på en del. Ibland jag har vissa vänner som tycker att jag är lite lättsinnig och kanske orealistisk. Som inte som inte är ännu mer liksom pessimistisk. Men jag har lite en inställning som jag har haft väldigt länge sen jag var väldigt ung, med att man man kan inte kan inte planera för ett scenario där man inte finns längre.

Där man är död. Är där mänskligheten utplånad eller du själv är död eller är allting I... Vad betyder det ens? Ska du ska du... Med AI så ska du tänka ut några riktigt heroiska sista ord som du ska vråla innan en robot slår ihjäl dig. Ja, så att så att det är ganska meningslöst bara. Så att så att det enda vi har att tänka på är livet. Oavsett om chansen att behålla livet är väldigt liten. Även om det bara är en procents chans att vi överlever AI-aj-transformationen så är det ändå bara den procenten som är relevant för oss att tänka på och planera för. För att om det inte blir så, då då då tar allting slut. Så att oavsett hur sannolikt det verkar att att det fortlever så är det den möjligheten som måste vara grunden för allt framåtblickande, om vi ens ska försöka blicka framåt. Och det tror jag är en oundviklig del av vår natur. Definitivt är det så för mig personligen. Jag deppar inte ihop över de här sakerna. På samma sätt som jag inte deppar ihop över jobbiga politiska utvecklingar. Att det är många saker som går I fel riktning.

Politiskt och demografiskt och så vidare. Det är bara inte I min natur att sitta sitta och hänga läpp över såna saker. Och jag menar inte jag menar inte liksom att säga nåt nedsättande här om de som känner sig deprimerade över såna saker. Men jag tror att för mig och för dig bor det så för många 2:a så är det bara oundvikligen så att att vi måste blicka framåt och hålla fast vid de möjligheter som finns oavsett hur hur marginella de är. Och därför är det här det rationella perspektivet.

Boris

Ja och det är bra att du har nått... Alltså jag vill nog vara så drastisk och säga att det är bra att du har nått den här punkten. Eller kommer att nå den punkten. Och är på väg mot den. Det det... För tittar man på människans utveckling hela genom hela historien så har har det ju alltid varit, när de väl börjar formulera sig lite, frågan om vilken typ av samhälle och styre och hur ska lagar skrivas och allt sånt där.

Och så så fixar man till nåt nytt och så byter man efter 100 år. Men men nu nu står vi inför den stora härliga frågan faktiskt. Inte vad är ett bra samhälle utan vad är en bra människa? Och och det och på det sättet är ju AI en värde motståndare. Jag tror vi kommer att... Vi... Den här bortom förargnade ö kommer vi att tvingas att höja oss, de som fortfarande kan tänka. Och det som är bekymmersamt tycker jag är att tidigare I historien som har alltid såna här kaotiska perioder, allting rör sig snabbt framåt.

Så har liksom alltid de... Det... I efterhand kan man säga att de här högkulturella öarna, den stora konsten, den stora byggnaderna, monumenten och så vidare som skapas. Den stora litteraturen och dikterna som skrivs. Hur... Jag vaknar varje morgon och spanar ut över världen och letar efter de där glimtarna.

Men men de är ju märkligt frånvarande, alltså. Det kommer inte finnas mycket värt att bevara de senaste 20 åren när det gäller kultur eller byggnader. Det det är lite trist och och det förmörkar göra mig ganska lite mer dyster hur man ska hantera allt på 2:a sidan, Ragnar och men det kommer att gå.

Martin

Men men samtidigt, för att knyta an till nånting som vi redan har har berört. Det påminner litegrann om en 1 politisk eller ideologisk diskussion som vi har ibland om konservatism. Så det finns det finns nån sån här liksom fin mysig känsla kring konservatism. Ja, oj, en återgång till ett mer traditionellt, autentiskt sätt att leva eller nåt sånt där. Men I den värld vi lever I, I den värld vi har levt I de senaste 100 åren, vad fan finns det att konservera?

Nämligen en enda sak som du vill konservera. Nämligen en enda sak som du vill som finns nu som etablerad nu som du vill ta med dig årtiondena in I framtiden. Och det där är ju det där kan ju bli en befriande tanke. För det gör att såhär, ja, det det är... Man ska en sund skepsis mot radikalism. Men jag jag jag är radikal. Jag har alltid varit det och jag jag känner att jag får jag får vatten på min kvarn på många sätt. Och om det är så att till exempel att kulturen har stagnerat på grund av mekanisering och på grund av masskommunikation, accelererat av internet och så vidare. Ja men desto bättre. Då behöver vi ju inte tassar så försiktigt när vi bygger om saker och ting.

Boris

Nej, men just det där med konservatismen, den den är ju... Alltså varje tillbakablickande innebär ju bara att man måste hitta på hur det var. Alltså förläna, gångna perioder, epoker. Eller årtionden med med en aurat innehåll sånt som de aldrig hade. Och det är... Vi kan ju inte gå in I framtiden och lura oss själva att att samhällsformationer vi har sett har varit bra eller att människor har varit varit bra. Vi vi är en ganska usel art och vi behöver en värdig motståndare. Nu har vi fått en nästan övermäktig motståndare, men det är bra för oss. Både som individer och som art.