Martin

Tesla Model X som dödskraschade 23 mars mot en betongbarriär i Kalifornien hade autopilot aktiverat uppgerbidtillverkaren. Systemet lyckades inte väja från barriären trots 5 sekunder och 180 meter frisikt innan olyckan. Ja, som brukligt är så ansluter vi även denna sändning med en teknikrelaterad nyhet, även om föregående om Spotify också är relaterad.

Den här gången handlar det om Tesla och deras automatstyrda bilar. Och Martin, du har höjt ett varningens finger här i tidigare radiosändningar. Bland annat när du påpekat vilka moralfilosofiska bekymmer som programmerarna av de här bilarna ställs inför. Det hela blir liksom multidimensionell trollyproblem av hela grejen.

Nu erkänner Tesla att dödskraschen den 23 mars förorsakades av autopilotens mjukvara. Även om det kanske i det här fallet inte var någon komplext moralisk dilemma. Nu väntar ju alla lyssnare såklart på din analys. Vad är din kommentar Martin?

Johnny

Den här nyheten om den här Teslabilen och den relaterade nyheten om Uberbilen i Arizona förändrar egentligen ingenting vad gäller analysen. De bekräftar bara det som mina förutsägelser och analyser som står fast sedan tidigare. Det vill säga att vi kommer att se fler av de här märkliga olyckor som kommer att väcka etiska dubbel för att av olika skäl så känns det annorlunda för oss.

Det är enkelt att en robot dödar någon, än att en människa gör det. Någon kör rattfull och kör igen någon och så vidare. Det är lättare för oss att hantera det på ett sätt, än att en mjukvara gör ett märkligt fel. På lite längre sikt kommer de robotstyrda bilarna med stor säkerhet leda till mindre antal dödsfall. Mindre olyckor, mindre antal döda, mindre antal skadade.

Men de som dör, de som blir skadade, de blir skadade. De olyckor som faktiskt sker, de kommer ske på ett mycket mer spektakulärt sätt. De kommer att bekymra oss mycket mer på ett känslomässigt plan och de kommer också se mer slumpmässiga ut. Det kommer vara svårare för oss att förklara för att de här corner cases som ändå kommer att finnas kvar i ahimjukvaran kommer innebära att när det väl blir en olycka så kommer det bli spektakulärt och mystiskt och skrämmande för människor.

Så att det är en del saker som vi har sett på det här. Vi kan ofta förklara varför människan körde fel. Jo, men han kunde inte se i ögonblån att den här grejen hände. Men datorn kommer att vara väldigt mystisk. Vi kan inte empatisera med datorn på samma sätt. Det är å ena sidan och å andra sidan, men i slutändan är det ändå så. Det är min övertygelse i alla fall. Det går inte att stoppa trenden att mänskliga förare byts ut mot mjukvara.

Det är bara utopiskt, för det är en liten del av en mycket större trend av automatisering och digitalisering. Där automatisering och mjukvara ersätter människor på punkt ut, punkt ut, punkt ut. Om man ser till internationellt, hur många människor sitter och kör bilar och hur mycket alternativ kostnaden är för de här människorna.

Så det finns bara inte på kartan. att de ekonomiska intressenterna här kommer att acceptera till exempel ett förbud mot självkörande bilar. Det går inte, för tänk bara på alla lastbilar som kör runt, alla långtvariga chaffisar som kostar jättemycket pengar i lön jämfört med att man ersätter dem med mjukvara. De som behöver frakta saker över land, de är alldeles för rika och mäktiga för att de inte ska kunna lobba igenom.

Att tillåta de här grejerna på vägarna. Och det är hela taxibranschen som Uber handlar om och även andra applikationer. Som gör att det är helt enkelt alldeles för ekonomiskt effektivt att ersätta mänskan för det. Så det kommer att hända oavsett. Och det kommer leda till mindre olyckor och färre som dör i trafiken. För att självklart så kommer datorer i långa loppet vara bättre än människor på att köra bil.

Men det kommer också vara skrämmande. Det kommer också vara dystopiskt och skrämmande och förvirrande och skapa obehagliga känslor. Och jag personligen vill inte leva i en stad eller samhälle där det kör runt en massa robotar på vägarna. Jag vill händerligare leva med lite fler dödsolyckor. Men jag behöver inte ligga bakom på nätterna och fundera över om jag kommer att bli översörd av en algoritm.

Martin

Vad säger miljörörelsen om det här? Det måste ju vara enorma miljöbesparingar också om man automatiserar. Stora transporter bara en sådan grej som man väger själva förar hytten. Så man tar bort den och det här med att vi vill ha rödljus, att alla långtradare kan starta exakt samtidigt istället för en i taget. Det måste vara helt otroligt mycket bränsle man sparar på att automatisera allting.

Johnny

Jag har aldrig tänkt på det faktiskt, men nu när du säger det så, ja det måste vara så. Det måste vara en väldigt stor vinst miljömässigt. Vad är fredolin när man behöver honom? Man kan ju sitta i fosterställning med kognitiv dissonans.

Martin

Eller också att han blev överkörd av en algoritm.

Johnny

Kanske därför han är i Budapest. Ligger på en sån här het källa och får ungersk massage för att få ihop alla bostydliga idéer.

Martin

Nu fick jag en obehaglig bild på nätinnan.