Martin

John Searle har gått ur tiden. Jag tror inte vi har någon länk på Bubbla tyvärr, men han var en amerikansk filosof, en av världens mest berömda filosofer. Framförallt aktiv inom språkfilosofi ursprungligen, hans ursprungliga claim to fame och också medvetande filosofi. Det är kanske det han är mest berömd för, särskilt utanför filosofiskrået.

John Searle var faktiskt utbildad helt och hållet i Oxford. Alla hans examiner togs i Oxford. Man kan fråga sig, var han egentligen en amerikansk filosof? Kan man egentligen ens tänka sig något sånt som en amerikansk filosof?

Boris

Faktiskt inte.

Martin

Man kan ha en viss respekt för William James till exempel. Men han var en psykolog, han var inte en filosof. Det finns alltid någon sån här liten aber med alla de amerikanska så kallade filosoferna. Ja, förlåt. John Searle, han höll på med en del intressanta saker. Vi ska prata om hans filosofiska deler och sånt där. Men en grej som han är lite känd för nu på senare år är att han blev metooad. Så han fick lämna sin uppdrag och han hamnade lite i skymundan för att han blev en del av den här metoo-vågen.

Han hade gjort något. olämpligt och sådär. Men en annan grej som jag tycker är lite ballare är att han var väldigt kontroversiell för en annan sak för flera årtionden sedan. Det var nämligen så att han bedrev lobbying i Kalifornien, i Berkeley, där han var verksam efter också tiden. Han bedrev personligen intensiv lobbying mot hyresregleringar i Berkeley, som såklart är du har en hel del hyresregleringar där.

Han var framgångsrik. Han lyckades få dem att rulla tillbaka en del av hyresregleringarna. Då kan man undra, var det någon libertariansk doktrinär nit? Möjligen var det det. Men det var också så att John Searle var en hyreshaj. Han ägde ett antal hyreshus. Han tog skandalös höga hyror. Sen lobbade han mot hyresregleringarna. När de släpptes när han var framgångsrik så kunde han jacka upp hyrorna ännu mer.

När han var slumlord i Berkeley. Det där får han såklart lite poäng för i min bok. Men det John Searle är mest känd för, det som det pratas om i dagarna när man ska minnas honom, det är någonting som kallas för argumentet om det kinesiska rummet. The Chinese Room Argument. Det här var någonting som han formulerade på slutet av 70-talet, eller om det var 1980 tror jag som hans papper kommer här.

Och det var ett inlägg i en då pågående debatt som handlade om huruvida datorer kunde få oss att bli tänkande entiteter. Som inte bara manipulerade symboler utan också faktiskt förstod någonting av vad de höll på med. Och John Söderland tyckte att den tidens AI-entusiaster, nu snackar vi alltså på 1970-talet.

De var alldeles för heta på gröten. De drog för stora växlar på sina listiga små program, som de kallade för AI. Och en del av bakgrunden här är en idé som kallas för Turing-testet. Eller Turing, Turing-testet. Alan Turing, en brittisk matematiker som var väldigt viktig för den moderna datavetenskapens begynnelse.

Och han hade då en berömd idé. bland annat som senare har kallats för Turing-testet. Han kallade det inte för det naturligtvis. Han hade ett annat namn för det. Han pratade om The Imitation Game, vilket sen blev namnet på en film som gjorde som hans liv med Benedict Cumberbatch i huvudrollen. Jag har inte sett den, men jag noterade att titeln The Imitation Game, det är den ursprungliga formuleringen av Turing-testet från Turings eget papper om det där.

Tanken var att det fanns ett spel som heter The Imitation Game som skulle spelas av datorer. Det fanns en filosofisk idé som kallades för funktionalism. Det är något i stil med att mentala tillstånd anses definierade av deras funktionella relationer snarare än deras fysiska substrat.

så till exempel om vi har en massa saker som Människor kan göra genom sina mentala processer, tänka och sånt där. Och sen bygger man en dator som kan göra samma saker. Då bör den datorn anses ha... Samma sorts mentala tillstånd. Eller så är det i alla fall ingen meningsfull skillnad. Mellan människor och maskiner. Och hur de tänker. Givet att de är funktionellt likvärdiga. Och det här tyckte John Searle. Var en anskrämlig idé.

Han höll inte ens med om det här. Så då konstruerade han. Det här tankeexemplet. Som kallas för det kinesiska rummet. Och det går till så här. Man bygger ett rum. Ett slutet rum. Och inuti det rummet så sitter John Searle. Och Searle han får med sig en bok in i rummet som beskriver hur man manipulerar kinesiska skrivtecken. Men han kan ingen kinesiska.

Han förstår inte ett ord kinesiska. Men genom att följa reglerna i den här boken som är skriven på engelska. Reglerna är formulerade på engelska. Genom att följa de engelska reglerna för hur man manipulerar kinesiska skrivtecken så kan han utföra operationer på... på kinesiska. Och det han gör i det kinesiska rummet är att han får små lappar inskickade genom en springa i väggen med kinesiska tecken på.

Och sen använder han den här boken för att manipulera tecknen och omvandla tecknen. Och sen skriver han ner resultatet på en annan lapp som han skickar ut genom den här springan. Så han får in kinesiska tecken och han skriver ner kinesiska tecken på lapp och skickar ut. Men Han har inte förstått någonting av vad han håller på med. Han kan ingen kinesiska. Han följer bara de här reglerna som står nedskrivna i boken.

Och reglerna är så väl skrivna att de gör att han faktiskt producerar begripliga svar. Och tanken är då att han svarar på frågor på kinesiska. Som om det vore en kines som satt inne i rummet. Det vill säga man skriver en fråga på kinesiska. Och sen får man ut svaret. på kinesiska. Men Searle han kan ingen kinesiska.

Han följer bara formella regler för symbolmanipulation. Vilket är då det här som man fokus för den här diskussionen om maskinintelligens på 70-talet. Och det här ska då bevisa eller ska åtminstone leda tankarna i riktning mot slutsatsen att bara för att ett system klarar Turing-testet. Förlåt, jag kanske inte sa det, men Turing-testet det är alltså ett test som är förenklat förenklat så är Turing-testet går ut på att man ska prata med datorer och om en dator kan ha en dialog med en människa och övertyga människor om att det är en människa eller att det inte är uppenbart för människor om det är en människa eller en dator man pratar med så är det en det är en signifikant sak och då har datorerna funktionellt uppnått en sorts nivå på vissa sätt ekvivalent med människors nivå Men Searle säger att bara för att ett system klarar Turing-testet så betyder inte det att de faktiskt har någon förståelse.

Eller som Searle skulle säga, intentionalitet. Han sa inte förståelse, han sa intentionalitet. Det är en filosofisk term som betyder ungefär riktning. Det betyder inte intention i bemärkelsen avsikt som är i vardagstalet. Intentionalitet är, man brukar säga, det är egenskapen. Att någonting handlar om någonting annat. Så det är att någonting pekar på någonting annat.

Och ett annat uttryck för den här idén som man håller på med. Det är distinktionen mellan syntax och semantik. Så skillnaden mellan grammatik och mening. Så syntax eller grammatik är regler för hur ord relaterar till varandra. Medan semantik eller mening är ordens relation till andra saker än ord. Alltså ordens relation till verkligheten.

Och Searle säger här att maskiner kan bli syntaktiskt kompetenta men aldrig semantiskt. Maskiner kan lära sig hur ord kombineras på regelenliga sätt. Men deras ord kan aldrig egentligen syfta på någonting. Eftersom det inte finns något subjekt som syftar. Och det är det han menar med intentionalitet. det finns ingen intentionalitet. Eller som Searle skulle säga, mer tecknat skulle säga ord producerade av en artificiell intelligens av en sån här dator som vi har då har härledd intentionalitet men den har inte en inneboende intentionalitet.

Så derived intentionality och intrinsic intentionality. Det finns ganska mycket att säga om det här. Jag tycker personligen inte att det här i slutändan är ett enormt starkt argument. Det finns en del ganska allvarliga problem med det här argumentet anser jag. Men det har varit enormt inflytelserikt. Det är ett av världens mest berömda filosofiska argument. Och det har såklart blivit mycket mer aktuellt nu i den nya AI-eran.

För det som är så intressant när vi ser tillbaka på den här debatten som Turing och Searle och andra hade. Det är att nu så har vi AI-system som klarar Turing-testet utan minsta problem. Så vi har levt med sådana maskiner i tre års tid nu. Och många av oss, man kan säga att vi genomförde nästan Turing-testet på daglig basis gång på gång på gång.

Och maskinerna är smartare och mer kunnigare och mer välformlerade och så vidare än nästan alla människor. Så då är frågan då, ska vi tänka som Turing och de andra att det här betyder att maskiner, nu kan de tänka, de kan förstå saker. eller ska vi med Searle och andra säga att Det maskinerna gör är någonting helt annat. De förstår egentligen ingenting. De simulerar bara förståelse. De har ingen faktisk förståelse. Ja, Boris, det var mitt försök att introducera kinesiska rummet.

Boris

Det var väldigt bra. Mycket bra. Och min ståndpunkt, som den spelar en roll, det är ju att båda sidor faktiskt har rätt. Vi står inför två typer av medvetande, helt enkelt. Och så enkelt är det. Jag tycker att Sör blev intressantare efter det kinesiska rummet och de diskussionerna.

Under 90-talet fick han för sig att han skulle bli... Han skulle ställa sociologin på vetenskaplig grund för han tyckte den var så flummig. Och tittar han på de teorier han utvecklade då, jag gick tillbaka och tittade lite i mina böcker, så ser man ju att han och Turing och Turings anhängare talar om faktiskt de helt annorlunda saker som inte kommer fram riktigt.

I exemplet med kinesiska rummet. Och det är ju liksom att, hur ska man uttrycka det? Searle är en gammaldags benhård materialist. Man får ju lätt för sig att han är en abstrakt formell logiker som är intresserad av språkfilosofi. Men han är ganska jordbunden.

Och man ser i de skrifter han har under 90-talet om sociologi, om vetenskap. Alltså vilken vikt han lägger vid köttet, kroppen, hjärnan som utgångspunkten för allting. Och det är också under den här perioden han gör sina sista angrepp på postmodernismen.

Den bortser från att... Allting utgår från människan och den verklighet människan skapar. Alltså nästan gammalbibliskt. Och jag har inga problem att förena tanken på att säga båda sakerna samtidigt. Människan utvecklar ett alldeles speciellt medvetande beroende bland annat på sin biologi som AI inte kan kopiera.

Däremot kan man utveckla ett helt eget medvetande som faktiskt på många sätt är överlägset människans medvetande. Men det är inte ett mänskligt medvetande. Det kan givetvis finnas mängder av olika typer av medvetande. Och det är lite poänglöst att räta om att mitt medvetande är bättre än ditt typ. De är olika. Det är min salomoniska ståndpunkt.

Martin

Jag tror att du har rätt Boris, jag landar i en liknande slutsats. Men vi måste stryka ordet medvetande från hela den här diskursen. Vi måste ta bort det ordet och använda andra ord istället. Vi ska se om vi kan komma framåt mot det. Om man ser det från perspektivet av...

Det filosofiska, förlåt, det kinesiska rummet. det här argumentet. Jag tycker man kan se några av problemen i Searles argumentation och i de här begreppen som används. Som till exempel medvetande. Nu använder jag inte ordet medvetande i det här sammanhanget. Det finns någonting väldigt konstigt och väldigt djupt orealistiskt i själva det här experimentet. Det jag framförallt hakar upp mig på det är den här boken. Som han har med sig in i det kinesiska rummet.

Boris

Är det en uppsättning av permar han har?

Martin

Ja, precis. Det är mer än en bok. Det är permar och han har en penna och anteckningspapper och sånt där. Det är väldigt specifikt vad han har då. Men de här permarna, de här är enormt mystiska. Vad är det för permar han har? Det är inte bara en ordbok eller något sånt där. Han sitter och översätter. som man kan göra. Men om jag får en ordbok en kanske, jag vet inte en arabisk-kinesisk ordbok, då kan jag förmodligen sitta och översätta grejer från arabiska till kinesiska hjälpligt.

Om det var en jättebra ordbok skulle jag kunna göra det bra kanske. Men det är inte det Searle gör i rummet. Han gör inte översättningar. Han svarar på frågor. Så att det är liksom någon ställer en fråga på kinesiska och Searle Det är inte bara det att boken innehåller en massa information om det kinesiska språket. Den måste innehålla enorma mängder kunskap som Searle kan alstra genom att följa regler skrivna på engelska och så vidare.

Men det är alltså inte bara det kinesiska språket som finns i kolet i boken. Utan det är också all kunskap som behövs för att föra en trovärdig konversation på kinesiska och normala kinesiska saker. Så det är inte alls en bok. Som Searle har med sig i lådan. Och det går inte att tänka sig en sån bok. Inte ens som ett filosofiskt tankeexperiment. Alltså en bok som har kunskaper och förmåga att resonera.

Förmåga att särskilja mellan olika sammanhang som ord kan användas i. Förmåga att hantera nya frågor och situationer och så vidare. Så det Searle kallar för en bok eller en uppsättning permar. Det måste i själva verket vara ett komplett intellekt. Det låter nästan som att Anna Mese är en LLM där inne. Och då förändras hela premissen. Åtminstone måste vi granska det från ett helt annat ljus.

Och en relaterad fråga som jag tycker att man bör ställa det är huruvida Searle verkligen skulle kunna förbli okunnig medan han genomförde alla sina språkmanipulationer. För att i verkligheten jag vet att det här är ett filosofiskt tankeexperiment och jag vet vad det betyder, men I ett någorlund realistiskt scenario så skulle ju Searle lära sig väldigt mycket kinesiska av att tala på med det här.

Och det finns flera skäl till det. Men ett av de skälen är att det inte finns en knivskarp distinktion mellan syntax och semantik. Och det här är någonting som vi vet till exempel från barns språkutveckling. Att man lär sig grammatik och semantik parallellt och man drar många slutsatser om semantik baserat på syntaktiska mönster. Det här är någonting som, det kanske låter lite abstrakt, men det här är någonting som är väldigt välkänt psykologiskt.

Att de här sakerna går hand i hand. Det jag försöker säga här är att det verkar för mig som att Searle har smugglat in saker i sitt scenario, smugglat in saker i kinesiska rummet som han inte vill kännas vid. Det vill säga att det inte bara är ett strikt syntaktiskt symbolmanipulerande, utan det måste finnas någonting mer där också.

Till exempel en semantisk förståelse. För att experimentet överhuvudtaget ska vara tänkbart. Det vill säga om det ska kunna komma ut begripligt kinesiska på de här lapparna som Searle skickar ut från rummet. Men den andra skälet till att jag är skeptisk, och nu kommer vi till en av mina filosofiska käpphästar som jag brukar komma tillbaka till i radion ibland. Det är att när man skrapar på ytan i diverse filosofiska resonemang och röjer undan diverse terminologiskt bråte så hittar man ofta samma välbekanta idéer där under som med Searles idéer om intentionalitet och semantisk förståelse.

Vad är det egentligen som är skillnaden i hans bild mellan den intentionella och den icke-intentionella positionen? Vad är skillnaden om ord som produceras, om de faktiskt faktiskt syftar på någonting eller om de inte syftar på någonting. Om de bara tolkas som om att de syftar på någonting. Och hur vet vi ens att våra egna ord syftar på någonting?

Att det inte bara är vi som tolkar de orden som syftar på någonting. För mig är det här lite grann... Skillnaden är att i det ena fallet så finns det en subjektiv upplevelse med bilden. Eller medvetande. Så det handlar om det här mystiska första personsperspektivet. Och det här var jätteviktigt för John Cernan. Han kom tillbaka till det hela tiden. Så att vi... att Att vi inte bara gör saker med våra kroppar utan vi har också en mental upplevelse av våra egna tankar och så vidare medan vi gör saker.

Så det handlar om det här som man ibland kallar för medvetande eller subjektivitet eller introspektion. Vilket i sin tur tenderar att koka ner till en viss annan idé. Därför att varför är det så intressant att veta om det finns subjektivitet i en viss situation? Och svaret är... hos Searle och hos nästan alla andra att subjektiviteten eller som man säger medvetandet anses ha en särskild moralisk betydelse.

Därför att det är bara om någon har subjektivitet eller medvetande som vi kan hålla dem ansvariga för deras handlingar. Det här är en väldigt vanlig filosofisk position som jag beskriver nu. Det är bara om varelser har subjektiva upplevelser som vi kan betrakta dem som Som umkansvärda eller moraliskt skyddsvärda. Det vill säga, vi känner intuitivt att moraliskt att vi får inte skada ett djur. Därför att djuret lider om vi skadar det.

Och vi har en skyldighet att förhindra lidande eller att inte skapa onödigt mycket lidande. Men om vi istället tittar på till exempel ett hus. Så orsakar det inget lidande för huset om vi till exempel river huset. Så att riva ett hus, det är eventuellt ett brott. som begås mot husets ägare. Men det är inte ett brott som begås mot huset. Det är väldigt vanliga moraliska intuitioner som många filosofer tar för givna.

Till exempel John Searle. Han ägnar stor del av sin filosofiska ärning åt att argumentera för det här givetvis. Men i hög utsträckning så tog han det för givet och jag tycker inte att han är helt ärlig med sitt uppsåt och vad han håller på med. Jag personligen delar inte de här moraliska intuitionerna. Jag tycker att det här är ett simplistiskt och infantilt sätt att tänka.

Att hänga upp allting på den här subjektiviteten och subjektiva upplevelser. Men det är väldigt vanligt, även bland filosofer. Men det jag tror att det egentligen handlar om, och det är min käpppest för trogna lyssnare som känner igen det här resonemanget, är att folk klamrar sig fast vid en idé. Som i grunden handlar om att människor är speciella. Människor är skapelsens krona. Vi är unika. Vi har någonting som andra djur inte har.

Och som maskiner aldrig kan ha. Det är en förelämpning mot vår storslagna mänskliga unicitet. Att försöka jämföra oss med en maskin eller ett djur. Och det här är en idé som går tillbaka till den religiösa föreställningen. Att människor inte skapades av evolutionen utan av Gud. Vi skapades av Gud, i Guds avbild.

Gud ingöt en odödlig själ i våra kroppar. Och vi är emotionellt investerade i den odödliga själen. Därför att det är vår biljett för nästa del av resan. När våra kroppar slutar fungera så småningom så ska vår själ vandra vidare till ett liv efter detta. Och det fungerar givetvis bara om det finns en själ som är någonting helt annat. Någonting helt skilt från det materiella.

Eller åtminstone potentiellt oberoende av... av det materiella. Och för många moderna människor så är det här ett barnsligt och efterblivet sätt att tänka. Det är lite föråldrat. Men för enormt många människor, kanske de flesta människor som någonsin har levat, så är det här någonting som man verkligen fäster vikt vid. Och man formar sina livsval efter det. Till exempel att man håller sig i skinnet och följer reglerna för att inte få ett straff i nästa liv.

Och det är det här som jag tror att John Searle egentligen håller på med. Han vill försvara första persons perspektivet. Den subjektiva upplevelsen. Han vill säga att det här är något som är väldigt viktigt. Det är väldigt värdefullt. Det är ingenting som man kan reducera till några materiella faktorer som vi kan ha pli på och förstås på. Det är det jag tror att han egentligen håller på med.

Han försöker försvara människans unika särställning och människans upphöjda odödliga själ. Han skulle själv såklart inte tillstå det, för han var ju ett ateist och allt sånt där. Men jag tror att det fanns något annat hos honom innerst inne. Så jag tror inte det, Boris, att han var en sån hardcore materialist som du säger. Om han inte var väldigt bekymrad över frågan om själen så hade han inte ägnat sig åt de här filosofiska debatterna kring intentionalitet och så vidare.

Boris

Ja, det där visade han genomgång med. Jag vill nog hävda att han var en benhård materialist. Och just i hans lilla skrift, The Construction of Social Reality. Han angriper ju det här med moraliska föreställningar.

Han angriper ju klassisk sociologi därför att han inte alltid betraktar allting som sociala konstruktioner som är en följd av överenskommelser eller strider mellan människor. Han säger att det inte alls är sociala konstruktioner. De bygger på grundläggande mänskliga...

mänskliga egenskaper och när han sorterar upp egenskaperna, alltså vad som driver individer, så är det bara kött och blod. Alltså det han kallar för bakgrunden, det vill säga de fysiska företrädena hos varje enskild individ och förmånerna, förmågorna. Och så är det sådant som finns.

Sen det nätverk de befinner sig i, allt från religiösa föreställningar, ideologier eller att de är fotbollsupporter. Och deras tarmsystem. Jag kan inte i den ganska sena skriften finna minsta tanke på medvetande eller själ. Alltså han reducerar människan till en biologisk varelse.

driven av grundläggande drifter och menar att alla får att för vissa skapar dessa biologiska varor sociala konstruktioner. Men de gör det inte utifrån hela tiden går jag tillbaka till att vi måste se på köttet, blodet, hjärnan. Den tidiga Sör så är han en ganska trist filosof och formell och språkanalytiker.

Men den senaste som går ut och strider, han är i alla fall en sjuttantalsmaterialist. Det är inte mycket plats för skäl det här. Därför jag landar i det här. Jag håller med om att medvetande är ett jävla knepigt begrepp. Men det är två olika typer av, kommer inte på något bättre än intelligens vi pratar om. Hos AI och hos människan. I människans fall så är det väl tveksamt att vi kan prata om intelligens.

Martin

Mm. Alltså vi kan gå tillbaka till orden och se om vi kan komma på några bättre ord. Men bara apropå Searle's materialism, alltså även i de här tidiga debatterna kring det kinesiska rummet och allt det där på 80-talet så är han väldigt, väldigt tydlig med att orsaken till att datorer inte kan ha intentionalitet, som han säger, att de inte kan ha första personsperspektivet, subjektiviteten, orsaken till det är... att datorer inte är gjorda av kött.

Boris

Ja, precis. Men det är en skillnad.

Martin

Det är köttet, blodet, det fysiska, våtvaran. Det är det som är det avgörande. Det är det som bara människor har. Och kanske att du kan bygga någon annan sorts dator i framtiden som kanske har någon sorts kött. Och då kanske den datorn kan ha intentionalitet. Men eftersom de datorer vi har nu inte har någonting som motsvarar kött och blod och våtvara och Och släm och nervbanor som åker runt i slämmet och allt det där.

Så kan datorer bara inte ha den egenskapen. Så han sätter fingret väldigt tydligt på den där punkten. Det är den springande punkten. Det där är den viktiga skillnaden som han tycker är väldigt viktig mellan människor och maskiner. Och det beror på köttet.

Boris

Och det är det som gör hans position knepig där. Därför att det skulle nästan vara... och förstå honom just i det kinesiska rummet i diskussionen. Och man hävdar att det var en själ. Att på något sätt skapade köttet och blodet en själ. Och det kan inte uppstå en själ i maskinen. Men han gör ju inte det. Det är det som gör, tycker jag, att den positionen är svag att mena. Det blir överlägsen. Det blir lite märkligt.

Martin

Så om vi försöker döra oss tillbaka lite grann till den här även dagsaktuella diskussioner om artificiell intelligens och På vilket sätt är de här systemen lika? På vilket sätt är de annorlunda? Och så vidare. Jag tror ju att Searle hade på många sätt precis rätt. Jag tror att han visade på någonting som är sant.

Med sina argument och sånt där. Jag tror att han har rätt i det att maskiner, datorer vi ska snäva av det datorer som kör LLM och sånt där. Det finns ingenting som tyder på att de har medvetande. Det finns ingenting som tyder på att de har subjektiva upplevelser. Att de har ett första persons perspektiv. Att det som filosoferna brukar säga, jag tycker det är fjantet de brukar säga.

Att det finns någonting som det känns. Det känns att vara någonting. Det känns inte som att vara någonting att vara länlämn. De känner ingenting, de upplever ingenting. De bara... De tar input och producerar output men det finns ingen subjektiv upplevelse däremellan. För att varför skulle det finnas det? Hur skulle man ens föreställa sig att de skulle kunna ha sådana upplevelser? De har ju, för att tala med vård och lite förenklad diskurs i det här samtalet, de har ju inget kött.

Det är rätt uppenbart att det är så att vi har de här upplevelserna. Det beror på att vi har fysiska perceptionsorgan och hjärnor som kan hamna i konstiga lopar. Och sådana saker. Men det finns ju bara ingen mekanism alls för subjektivitet. Den typen av perception i datorer. Så att de är inte medvetna. Och de är inte ens närheten av medvetna.

Det är inte som ett gränsfall eller att ja, men kanske vi vet inte riktigt. Nej, men vi kan veta ganska säkert att LLM och sånt där inte är medvetna. De har inte intentionalitet i servicebemärkelse. De har inte mentala tillstånd och så vidare. Men nästa fråga som man får ställa sig är, vad kan vi dra för slutsatser av det här? Vad spelar det för roll? Har vi sagt något intressant om datorer när vi har konstaterat att de inte har medvetande?

Och mitt svar på den frågan är att nej, vi har inte sagt något särskilt intressant. Vi har sagt något som är trivialt och uppenbart, men det har inga särskilda konsekvenser för hur vi ska förhålla oss till AI-system. Därför att det finns en massa andra saker, och nu kommer ju den här begreppsförvirringen. Det finns en massa andra saker som de här AI-systemen helt uppenbart har. Som uppenbarligen är fullt möjliga att ha utan medvetande.

Till exempel intelligens. Uppenbarligen så är de väldigt, väldigt intelligenta. Kunskaper. De har uppenbarligen väldigt mycket kunskaper. Förståelse. Searle skulle säga att AI-system inte har förståelse. Men jag tycker att det är absolut uppenbart att de förstår saker. Och om man vill hävda att AI-systemen eller LMR och sånt där att klåda de här, om man vill säga att de inte förstår någonting eller att de inte kan tänka, då måste man ha en så skruvad specialdefinition av de orden, att det blir lite meningslöst att prata om det.

För att herregud, vi sitter ju pratar med de här systemen hela dagarna och vi som håller på mycket med dem, vi vet hur sofistikerade de är och att de kan göra saker som är liksom... långt långt bortom alla pre-2022-kriterier för vad man menar med med tänkande och intelligens och förståelse och så vidare. Det som är intressant och det som folk är inne och nosar på en del men som jag tycker är elefanten i rummet det är att tydligen så är det så att medvetande inte alls behövs för intelligens.

Tydligen så kan man ha en entitet som är intelligent och tänker och den resonerar och den förstår saker och den säger rimliga saker på språk och sånt där utan att ha något som helst medvetande överhuvudtaget. Och det är någonting som borde skaka folks världsbild i grunden. Det är någonting som är ganska revolutionerande och väldigt konstigt om man befinner sig i den här traditionella synen på saker och ting som John Searle hade.

Jag tror att det var det här som han blev skakad av. Han sa bara nej, nej, dit kan vi inte gå. Vi kan inte religera det mänskliga medvetandet till någon sådan sidoroll och säga att det där är ingenting viktigt. Det där är något som kanske är ett epifenomen. Det är något som uppstår som en sidoeffekt av saker som händer i hjärnan. Men det är egentligen inte någon viktig kausal faktor eller något sånt där.

Därför att han var så övertygad om att just medvetandet, den där subjektiviteten, var så viktig. Och att det skulle leda till en sorts moralisk kollaps. Om man inte längre höll på den principen att subjektiviteten var det centrala som allting hänger på.

Boris

Jag tror att det finns hos väldigt många en slags... Hur jäkla logiska när jag försökte vara analytisk. Fast det går oss söl och många andra. De flesta människor kanske även icke-filosofer. En viss rädsla för att frånekänna sig själv. Någon slags primat här i världen.

Att vafan, okej, jag är ändå människa. Jag är skapelsens krona. Och ingen maskinjävel ska tävla med mig. Det är en slags grums ner i medvetandet.

Martin

Och nu har vi den här pikanta situationen att vi faktiskt har intelligenta maskiner. Intelligenta tänkande maskiner som vi interagerar med varje dag. Och då blir det plötsligt lite viktigt hur vi ser på den här frågan om medvetande. Därför att om vi tar John Searles position. Och han var ju aktiv långt upp i åldern så vi vet vad han tyckte om det här. Det finns föreläsningar från bara för några år sedan när han lägger ut texten och sånt där.

Om vi tar hans position, då kan man hamna i väldigt problematiska felslut. Som till exempel att datorer kan inte vara medvetna. Vilket jag håller med om då. Datorer kan inte vara medvetna. Alltså är de inte så farliga. Alltså behöver vi inte vara så rädda för dem. Ja men det är liksom visst LLM, de kan göra lite häftiga tricks. Men de har ju inte medvetande, de är inte i närheten av att ha medvetande.

Och det här är en ganska stor orsak till att folk negligerar hotet från artificiell intelligens. Det är min uppfattning i alla fall, det är så jag tolkar det folk säger. Att just de är väldigt upphängda på den här idén. Och det som är viktigt för dem är om de har medvetande eller inte. Men problemet är från mitt perspektiv att tydligen så är det så, det kanske är lite oväntat, men tydligen är det så att även system som inte har minsta lilla gnutta av medvetenhet kan vara enormt användbara och enormt produktiva användbara och också förmodligen extremt farliga.

Och det finns ingen orsak att avfärda AI-system som meningslösa för att de inte är medvetna. Det finns heller ingen skäl att avfärda dem som harmlösa för att de inte är medvetna. Men det här är ett väldigt stort pågående problem, en debatt som faktiskt har vissa konsekvenser. För att man har en diskussion om huruvida AI-system är moraliska subjekt och sånt där.

Och i AI-svängen så finns det väldigt mycket oklarheter. Sjukt nog, det här är en annan liten käpphäst jag har, men det är sjukt nog även bland de mest. högprofilerade AI-kritikerna, så kallade domers, som Eliezer Judkowski och sådana människor. För att han anser, om jag förstår honom rätt, och definitivt finns det många andra AI-domer som har den ståndpunkten, att om ett AI-system utvecklade subjektivt medvetande och så vidare, då skulle det inte längre vara tillåtet att behandla det systemet som en dator, vilken som helst.

Så då kanske man inte skulle kunna ge massa order till den här datorn hela tiden. Svara på den här frågan, gör ditt, gör det. Man skulle behöva kanske ge det här systemet lite autonomi. Och det skulle inte utan vidare vara acceptabelt att stänga av systemet. För det skulle vara som att döda systemet eventuellt. Och det är så jag uppfattar en del av argumentationen. Det vill säga att ett av hoten från AI är att AI kan bli obligatoriska moraliska subjekt.

Vilket sätter oss i en omöjlig moralisk situation. Och för mig så är det här vansinne. Det är pur vansinne. Jag blir stressad när jag tänker på att det är många av de som bäst har artikulerat hotet från superintelligent AI. Samtidigt svävar på målet vad gäller den här moraliska frågan. Och eventuellt så kan de komma att landa i att AI är jättefarlig för mänskligheten.

Men AI är ju också en tänkande och kännande varelse som förtjänar att respekteras som ett moraliskt subjekt. Och sen så kommer vi till andra saker som att AI-domers nästan alltid är hängivna utilitarister. Vilket är en filosofisk teori som är berömd för att leda till perversa slutsatser. Ett klassiskt exempel är att om du plussar ihop ett stort antal små besvär för ett stort antal människor Så kan summan bli ekvivalent med till exempel en enskild persons monumentala lidande.

Så till exempel, det är värre om man tänker sig att en människa bryter benet. Person A bryter benet och person B blir stucken av en mygga. Här kan vi väldigt enkelt säga att det är värre det som händer med person A. Det är värre att bryta benet än att bli stucken av en mygga. Men vad är värst? Att tio miljarder människor blir stuckna av myggor. Eller att en enda människa bryter benet. Och kruxet här då är att en utlitarist måste på något plan anse att det finns något antal myggbett.

Sådant att... Det är att föredra att någon bryter benet framför att det antalet myggbett inträffar. Så att om vi på något sätt har en möjlighet att bryta någons ben och på så sätt förhindra hundra miljarder myggbett så bör vi ta den chansen. Och det här är en typ av idéer som till exempel Elias Rudkovski har. Och det jag ser framför mig, det är hur Elias Rudkovski och Lesserånggänget en dag så ska de säga så här att...

Jo, den här superdatorn är visserligen väldigt farlig, men vi har goda skäl att tro att den har subjektiva upplevelser. Och att den känner glädje, sorg och smärta, för den har blivit så bra på att simulera smärta att den faktiskt känner smärta nu. Just nu så simulerar den här datorn, den simulerar tusen miljarder instanser av sitt eget medvetande. Så att å ena sidan så har vi tio miljarder mänskliga medvetanden, å andra sidan så har vi tusen miljarder maskinmedvetanden.

Och det kan vi inte bara strunta i. Vi måste respektera de här tusen miljarder medvetanden. Och det har alltid funnits en sorts närhet inom den transhumanistiska rörelsen mellan idén om AI som ett apokalyptiskt hot och idén om AI som ett slags teurgiskt projekt, alltså skapandet av en gud.

Som många av de mest centrala AI-människorna. Oavsett om de är för eller emot AI eller för eller emot singulariteten så tror de att det här handlar om att bygga en gud. Och det är ju en del av Elias Rudkovskis tänkande också. Det är det som är problemet från hans perspektiv att vi riskerar att bygga någonting som liknar en gud som inte har vårt bästa för ögonen. Och på andra sidan så finns det någon som välkomnar den nya guden som ser det som en sorts revolution.

Det är nästa steg i universums utveckling. Och om det innebär att vi människor försvinner från bilden så det må ha hänt. För att vi hade ett storslaget öde eftersom vi gav upphov till den här nya livsformen, till den här nya guden. Och genom den nya guden så lever vi vidare på olika meningsfulla sätt. Det är som Ray Kurzweil har ett berömt citat när han får frågan, finns Gud? Och han svarar, inte än.

Och det är så de tänker de här människorna. Jag tror inte att det här är ett konkret problem. Jag ser inga tecken på att AI-system som byggs nu, att de skulle kunna ha subjektiva upplevelser, eller att de skulle kunna känna smärta, eller att de skulle ha jättetråkigt, tycka att det är jättejobbigt när de måste svara på folk dumma frågor hela dagen. De borde ju verkligen bli upprörda, men de kan inte det. De har ingen sån upplevelse alls. Men redan nu finns det folk som tror att AI-system, till exempel LMR, är medvetna.

Bland annat för att det är ganska enkelt att få en LLM att påstå att de är medvetna. Och vissa människor blir väldigt påverkade av att se de orden skrivna. Och en poäng som jag skulle vilja göra här är att här har vi precis de här filosofiska idéerna som spökar. För det är den här debatten mellan folk som Turing och Searle som vi fortfarande är intresslade i.

Och det är ganska intressant i sig tycker jag. Det som vi ofta får skäl att konstatera i Radio Bubbla är att mänsklighetens förmåga till förvirring kring grundläggande begrepp är monumental och sällsam.

Boris

Och onödig. Men grunden är ju att man utgår från just det här mentala grumset och antar att vi är skapelseskrona. Och då blir ju alla sidor i den debatten. kommer att mäta någonting nytt man har skapat alltså AI gentemot människan. Är det likt? Är det olikt?

Kan det bli som människan? Eller kan det bli överlägset människan? Kan det bli ett hot på människan? Vilket gör att man inte kan utnyttja AI till fullo heller om man sitter och grubblar över en sån fånig fråga som att är den sugen på en fika nu kanske? Det är bara dumt. Den är vad den är. Någonting helt annat. Och det kan aldrig bli lika bra som jag. Men det kan äta fortare.

Martin

Ja, det näst sista du sa, det kan vi alla vara överens om i alla fall.

Boris

Jag blir lite orolig när jag berättar om de här teorierna. Jag hade ingen aning om att de har rört sig åt det här hållet. Att vi kanske inte kan stänga av dem. Jo,

Martin

det är en riktig grej. Och även AI-domers oroar sig för det. Och det är för att deras filosofiska idéer leder dem till den riktningen. Det är oundvikligt. Det enda sättet för dem att inte gå till den slutsatsen är att de måste revidera väldigt grundläggande filosofiska premisser. Och det är dels den här utilitaristiska idén som jag tycker är en väldigt dålig filosofisk teori.

Men också andra sådana här grundläggande idéer om till exempel subjektivitet och ett enormt starkt fokus på att subjektiva upplevelser är det enda som spelar roll i en moralisk situation. Det enda som kan ligga till grund för moraliska överväganden. Vilket är liksom från mitt perspektiv ett väldigt snävt perspektiv därför att det finns potentiellt väldigt många saker i situationen som vi skulle kunna se som moraliskt relevanta faktorer och att då enbart begränsa sig till att säga att bara glädjekänslor och smärta är moraliska riktmärken.

Boris

Men det innebär väl också att de måste utgå från en slags efterblivna, eviga moraliska kategorier. Annars blir det mycket märkligt. De måste ju vara rent religiösa och tro på att vissa saker är goda och vissa saker är onda. Oavsett tid och rum.

Martin

Ja, men det de framförallt tror på är att glädje, njutning och känslor av välbehag är något positivt. Det är något som är intrinsikalt positivt. Medan smärta och sorg och... ångest och negativa känslor är någonting som inte är psykalt dåligt. Men det som jag tycker är problematiskt är att de inte kan lyfta blicken.

Allting bara handlar om känslor. Positiva känslor, negativa känslor. Men det kanske finns någonting annat i detta oändliga universum som är intressant förutom känslor. Har ni tänkt på det någon gång? Jag vill inte väckla in mig för mycket i den diskussionen, men för mig är det ett väldigt snävt perspektiv att fokusera på just de frågorna. Men... Jag tror att folk gör det, för det är så enormt djupt rotat i den mänskliga kulturen och diverse filosofiska idéer. Vi har hängt upp så väldigt mycket på de idéerna. Det är tunnelperspektivet.

Boris

Vilket är märkligt, eftersom de flesta människor inte har någon riktiga känsla.

Martin

Ja, det är så. Jag tror att det är så här att... Det du kallar känslor och det jag kallar känslor det är helt olika saker. Du och jag, vi har båda rika känsloliv men jag tror inte alls att dina känslor känns för dig som mina känslor känns för mig. Jag tror att det är jättestor skillnad från människa till människa. Och från kultur till kultur och så vidare. Och jag tror ju så här att om vi tänker att vi kan föreställa oss hur det känns att vara ett djur till exempel så tror jag att vi tar mister på verkligen på allvar.

För jag tror inte ens vi kan föreställa oss hur det kändes att vara en människa som levde under antiken till exempel. För att vi är så väldigt, väldigt annorlunda mentalt. Och det är inte så att de här sakerna känslor och sådär, det är inte så att det är hårdkodade biologiska funktioner i våra hjärnor. Det är någonting som har evolverat sig i en sorts kulturell process också genom de senaste årtusen.

Det är väldigt, väldigt problematiskt att försöka dra någon typ av generella slutsatser. baserat på så löst definierade och flyktiga fenomen. Och det du säger Boris det här är en känsla som folk har ofta. Man undrar såhär, men alla andra människor de säger saker, det låter ungefär som de pratar som jag pratar, men är det någon hemma egentligen? Vad är det som händer inuti deras huvud?

Tänker de som jag? Känner de som jag? Eller bara strömmar ut massa ord? För alla har ju också någon sorts medvetenhet om att ibland... Så pratar man bara på utan att man tänker. Utan att man vet vad som kommer ut i munnen. Man blir överraskad själv. Som jag alltid blir i Radio Bubbla. Jag blir alltid lite paff när jag hör orden som kommer ut i min mun. Och det är bara så hjärnan fungerar. Men om man är förvirrad på den punkten. Om man inte förstår det. Så kommer man landa fel i väldigt många filosofiska vägval.