Transkribering
Människor önskar sig det sämsta från AI
Martin
Och det och det är viktigt tror jag också att förstå att det här är inte ett problem som handlar om AI-systemens kapacitet. För det... Man kan ha... Man kan ju tänka sig det att, ja men ett hopp som finns kvar då för för innovation och utveckling är att de här språkmodellerna. De kanske kan vara innovativa. Och och det och det kan de. De de kan vara innovativa. Att det finns det finns ju nånting I språkmodellernas natur som gör dem liksom naturligt bakåtblickande eftersom de är tränade på saker som har hänt I det förflutna. Så att allting de gör bygger I nån utsträckning på på det material som som de är tränade på. Och det är ju sant, det är ju liksom trivialt sant. Men det är också trivialt sant för människor.
All mänsklig innovation bygger även den på saker som har hänt tidigare. Att man man modifierar och kombinerar existerande idé. Att man man tar ett mönster från en domän, applicera det på en annan domän och så vidare. Inte ett nytt under solen. I slutändan så kommer alla mönster från naturen bortom människan. Eller om man så vill, från Gud. Men I alla fall inte från människan.
Men det som jag tror är ett större problem, att man man skulle absolut man skulle absolut... Alltså dels så tycker jag att AI-system redan nu är väldigt kreativa och innovativa om man ber dem att vara det. Och man skulle absolut kunna bygga nya AI-system som är särskilt byggda för att vara mycket mer mycket mer kreativa och det det skulle förvåna mig om det inte fanns interna språkmodeller på AI-labben som hade en sån inriktning. Till exempel för att de behöver brainstorma fram nya kring hur man kan bygga bättre AI-teknik så vidare. Det det... Jag ser inga som helst tekniska hinder till det. Men det stora problemet är att vi inte vill att språkmodeller ska vara innovativa. Eller åtminstone inte för innovativa.
Därför att därför återigen då, orsaken till att världen översvämmas av slätstruken AI-slask just nu, det är att folk gillar det. Ja. Så orsaken till att alla tänkbara texter är uppenbart skrivna av språkmodeller, trots att det är lätt att maskera, det är att folk föredrar en välbekant och förutsägbar stil. Så att även om det finns kreativa språkmodeller eller kreativa sätt att använda språkmodeller så kommer de inte att användas.
Eller rättare sagt, de kommer att utgöra en promille av all användning av språkmodeller och därför kommer de drunkna I slaskigt. Och dessutom så är det så att av de fragment av mänsklighetens kulturella produktion som fortfarande görs av människor kommer bli mer och mer starkt influerad av AI-stilen.
Redan nu så kan man se hur folk hur folk skriver... De skriver liksom manuellt. De sitter och knackar med fingrar på ett tangentbord. Men det som kommer ut ser ut som om det är Claod som har skrivit det. Det vill säga att de använder samma typ av ordvändningar, samma konstiga grammatiska egenheter, samma slättskrutna stil och så vidare. Därför att de har bara kanske absorberat den som genom oss mås. Eller så gillar de den. De tycker bara så här, jag är Claude, sen jag började använda Claude så har jag lärt mig att skriva mycket bättre för Claude skriver jättebra och jag hämtar instruktioner från honom och så vidare. Det är en sån här ofattbart pervers tanke. Men jag är helt säker på att det är så det funkar I huvudet på på många människor. Så att det finns väldigt starka krafter... Mänskligheten I allmänhet kommer att dra oss väldigt starkt I den här riktningen.
Boris
Ja, men det finns ju etablerad författare som I debatten nu går ut och berättar vilket hur underbart väckte ju Claude och vilka härliga samtal de har med Claude och det är... Och och man påverkas alltid av sin miljö va? Det det är därför man man måste liksom, om man vill skapa nåt, minimera sin sin kontakt och sitt läsande och såna där 2:a saker och och och själv läsa det som de här som skrevs på riktigt eller skapades på riktigt förr. Men just det här med...
Även om... Det viktiga här tycker jag I sammanhanget är det du säger om om de som äger de stora plattformarna och mega-mediabolagen. Alltså de de vill ju... Av ekonomiska intressen vill inte de ha nån begåvad, alltså nån innovativa AI-texter som som rör om I huvudet på läsarna. Det det det är med text som är mat alltså. Människor väljer dålig mat och äter den med nöje även om de skulle kunna köpa bra mat I samma pris och äta den. Alltså det det är nånting I det dåliga som appellerar till till massmänniskan.
Martin
Ja. Ja, jag jag kan nästan inte förstå. Alltså jag är verkligen diskombobulerad av av vad jag ser framför mig. Jag är inne ytterst sällan nu på sociala medier, men jag försöker gå in kanske en gång I veckan nu på Facebook för att hålla lite koll. Och kanske 2 gånger I veckan så är inne på X och tittar. Och varje gång så blir jag blir jag helt framför allt på X faktiskt.
Jag känner att det är värre. Det är värre på X än på Facebook till och med. Helt helt, åtminstone mina flöden. Jag har eller jag vet inte, 3, 4 X-konton som jag använder för att det är olika olika kontaktytor och sånt där. Men alla alla är... Jag kan inte ens beskriva hur långt det har gått. Det är inte bara att allting är AI-slask, utan allting är liksom värsta sortens AI-slask. Och jag vet ju att att Elon Musk pushar på för det här väldigt hårt och han tycker att det han tycker det är väldigt bra att man ska ha AI. En sak som han gillar till exempel, som letar sig in hela tiden I mina flöden trots att jag tycker att det det är vederstyggligt, är a ai-driven erotik I olika former.
Alltså inte kanske inte kanske liksom som som porr, men ändå liksom material med olika typer av erotiska undertoner. Liksom titlerande bilder, sånt som Elon själv brukar dela med såna här liksom sexiga bilder på så här tecknade tjejer och sånt där. Liksom konstiga som noveller, antydningar. Det där är nånting som de har liksom... Som de verkligen har jakat in I. Antalet det där funkar väldigt bra på människor att man man kopplar in I den typen av kretsar.
Jag tycker att det det är så väl... Alltså jag får verkligen såhär fysiskt illamående när när det där kommer in I mitt... För jag vill kanske läsa en samhällesfråga eller nånting. Och sen kommer såhär vart 4:e inlägg är nån sån här sak. Så att det blir... Det känns också för mig som att det blir värre och värre. Och jag vet att jag sa idag, det ju bubblar för jag vet inte, några månader sen sa jag liksom att det alltså jag känner mig optimistisk då för det här kommer ju det här kommer ju knäcka de här plattformarna.
För att det det... Männen som kommer sitta och läsa plattformarna är AI-bottar, Det kommer vara AI-bottar som bottnar efter AI-bottar. Och plötsligt så kommer annonsvisningarna vara helt värdelösa. Men jag var jag var för optimistisk. Ännu en gång var jag för optimistisk. Ännu en gång överskattar jag mänsklighetens intelligens och smak. I själva verket så är vi bara... Vi är på väg nu att att avtäcka hittills oanade djup av mänsklig depravering.
Boris
Men men som alltid har funnits där, men men som har kunnat döljas av att vi har ändå haft nån form av civilisationsprocess som nu är, I den fysiska världen, avbruten. Och och det är lättare för internet och plattformarna att... Då och då upprättas direktkontakt liksom med de här marianer, djupa, mörka gravarna I människosjälen. Och det är inte kul det som kommer upp till ytan.
Martin
Det är inte kul, men det är viktigt. Det är viktigt att vi inte stänger ögonen, att vi tittar på det och tänker på det. Och att vi upprätthåller vår förmåga till observation, som är så oerhört viktigt.
Boris
Martin
Och vi fortsätter att göra våra... Jag jag ser det här det här samtalet, flera 2:a samtal som vi har haft. Det är väl ingen det väl ingen som missförstår vad vad det handlar om, vad jag är ute efter. Jag ser det här som förstudier till diskussioner som vi måste ha framöver om artificiell intelligens. När vi försöker anticipera hur den tekniken kommer att förändra den mänskliga kulturen.
Vilket kommer att beröra oss alla på väldigt väldigt stora sätt. Och vi kan inte hoppas att få grepp om de här sakerna om vi inte har en modell för hur kulturen fungerar och hur den har utvecklats historiskt. Kanske särskilt under de senaste årtiondena, men såklart från ett längre längre perspektiv också. Och och en av de röda trådarna, som som vi varit inne på många gånger tidigare I tidigare sändningar, och som vi kommer återkomma till, det är att många av de här effekterna som tillskrivs AI är I själva verket mycket äldre.
De har ofta att göra mer generellt med teknologisk utveckling och de accelereras främst av av artificiell intelligens. Men med det sagt så vill jag gärna säga att jag tror att man man ska verkligen inte underskatta hur radikal AI-tekniken är, hur annorlunda den är. Den kommer att förändra samhället mycket mer än de tidigare iterationerna.
Mycket mer än till exempel datorer och internet. Och jag vill gärna jag vill gärna betona att det är, som it mig anbelangar, fundamentalt omöjligt att förutsäga vad AI-tekniken kommer att föra med sig eftersom det skulle innebära att man förutsäger agerandet hos en intelligensform som är mer avancerad än vår egen. Vilket är nånting I stil med en logisk omöjlighet.
Så att jag jag vill inte att nån ska tro att vi förstår oss på de här sakerna. Ingen förstår vad som är på väg att hända. Inte ens de mest centrala spelarna som driver på utvecklingen. Sam mot Daniel och de 2:a. Inte ens de har ett hum om vad som är på väg att komma. De de ligger liksom några månader före kurvan. Och de vet mycket om vad som kommer hända nästa år som vi inte vet och så vidare.
Men de har ingen aning om vad som kommer hända om 2 år. Så att att att trots den här extrema osäkerheten och den den extrema potentialen för för katastrofala konsekvenser, katastrofala konsekvenser som vi enligt min mening fort... Redan nu ser omkring oss. Trots det så ångrar man på för full kraft. Därför att man ser det här som ett slags ödesbestämd utveckling.
Och jag säger inte att de har fel I den analysen, men det det är... Jag tycker det är väldigt skrämmande att det här pågår. Vad ska vi göra då? Så en sak som vi kan göra är att fortsätta tänka. Fortsätta skrisera scenarier, fortsätta dra linjer genom historien. Och som jag tänker på saken, alltså ju fler scenarier vi kan överväga och kanske I nån mån förbereda oss för, desto bättre rustade är vi för en osäker framtid, även om de de faktiska specifika utvecklingarna är helt oförutsägbara för oss.
Och på sätt och vis så kan man säga att det är en återgång till 1 1 1 och tidlöst ideal till en människa för vilken inget är främmande. Som som ser till att lära sig väldigt mycket om nästan allting och som därför är redo för vad som än kan komma över horisonten.
Boris
Gud så vackert. Jag kan... Men då kan jag nästan inte tillägga nånting. Jag spar till nästa program. Det var här, nåbla slutord.