Martin

Schackrobot bryter fingar på sjuårig motspelare under turnering i Moskva. Arrangör förklarar att det var sjuåringen som orsakade händelsen genom att röra en pjäs för tidigt. Det är en annan schacknyhet som faktiskt har fångat min uppmärksamhet just nu ännu mer än att Magnus Carlsson gjorde upp sin världsmästartitel som vi pratade om alldeles nyss.

Och det är den här fasansfulla berättelsen om dödsroboten i Moskva. Det var en schakturnering om Skåne, där bland annat sjuårige Kristoffer spelade. Namnet har bara getts som Kristoffer. Jag vet inte om det är en riss, jag antar att det kanske inte är en riss med tanke på namnet och stavningen. Och av något skäl hade de också en robot som deltog i turneringen.

Och vid ett tillfälle i turneringen så greppade den här roboten ett tag om lille Kristoffers finger och krossade det. Han försökte få loss fingret, flera personer rusade fram och försökte hjälpa honom. Men roboten klämde sönder hans fingrar, han fick åka till sjukhus och liksom få fingret omplåstrat. Det finns många saker i den här historien som är skrämmande och också bara så otroligt dumma.

För det första att man ens har en robot som fysiskt flyttar pjäser. En sak är schaktdatorer, det är en intressant teknisk utmaning. Att bygga en robot som fysiskt flyttar pjäser är fullständigt trivialt. Helt, totalt ointressant från ett tekniskt perspektiv. En mycket simplistisk person för att bli imponerad av att en robot kan flytta ett föremål liksom några centimeter åt det enda hållet.

Eller tycka att det är intressant att titta på en sån robot. Det har ingenting att göra med schack eller tekniska utmaningar eller något annat. Det är bara som en riktigt puckad gimmick. Sen för det andra, om man nu ska bygga en sån robot då måste man för allt i världen se till att den är någorlunda säker. Det ska vara helt omöjligt, helt tekniskt omöjligt för en schackrobot att bryta ett mänskligt ben.

Alltså den ska inte ha så mycket kraft, den ska inte ha motorer och så vidare så att den ens kan göra det. Men det ser ut som här, jag kan inte bakgrunden, men det ser ut som att man lyfter ut en industrirobot från någon rysk fabrik någonstans och släpp ner den bland de mindreåriga schacksnillen. Alltså det är en sån här robotarm som man kanske använder normalt för att tillverka bilar eller sånt där.

Det ser ut som att det är den typen av teknik. Normalt sett så har man rejäla, nästan extrema säkerhetsföreskrifter kring sådana robotar. Enkelt kan man säga att människor får inte bara i närheten av sådana robotar. Man har en total åtskillnad mellan sådana robotar och människor. Det är helt olika volymer av luft där de får röra sig.

Det är så potentiellt farligt för att de här robotarna är jättestarka och de är gjorda av avlixom. solid metall och det är väldigt lätt att dö om någonting går fel. Men nu har man alltså ställt upp en sån framför en sjuåring och sagt åt sjuåringen att använda sina händer i samma lilla volym där roboten opererar med sina metalliska dödsklor.

Så det är totalt sinnessjukt att det här ens har hänt, att den här situationen har uppstått. Men jag åker för en tredje då. En schackrobot måste klara av normalt spel. Man ska nu bygga en sån här robot, och även när det går snabbt. Det som händer i den här situationen. från en schackperspektiv. Jag tittade ett par gånger på den här videon för att se vad det var för någonting. Jag tror att det som hände var att det var ett antal drag som gjordes i snabb följd, vilket ofta händer mellan kapabla schackspelare, därför att båda spelarna förstår hur en viss linje kommer att spelas.

Därför kan man göra dragen snabbt och rutinmässigt. Tjof, tjof, tjof, tjof. För att sen komma vidare. För att man till exempel ska byta pjäser i ett par sekvenser. Alla som spelar schack vet hur det går till. Och det går ofta väldigt snabbt, man gör ofta väldigt snabbt på brädet. Och då kan det hända att man tar en motståndad pjäs innan motståndaren har flyttat den andra pjäsen.

Eller vad är det för en ting? Eller bara gör det samtidigt. Man gör det samtidigt i stort sett på brädet. Och jag tror att det var det som hände här. Det vill säga att den här pojken förutsatte av gammal vana att motspelaren skulle vara införstådd med den här snabba sekvensen. Vilket är en totalt rimlig förväntan. Men roboten hängde inte med och när den skulle plocka upp en pjäs så var pojkens finger där och hamnade i kläm och klämdes sönder.

Men sen toppas allting av reaktionen från arrangörerna. Och det är det mest groteska av allt. Det är ännu mer groteskt än att ställa in en industrirobot. I ett schackrum med en massa barn. De skyller rakt av på den sjuåriga pojken. Problemet är inte att de har ställt in en industrirobot i rummet som är livsfarlig och absolut inte anpassad för direktkontakt med människor. Problemet är att pojken rörde en pjäs för tidigt och inte gav roboten tillräckligt med tid att analysera saker och ting.

Det är deras officiella linje. Det är oerhört ryskt om man får säga så. Men det är också oerhört ruskigt. Vi ska se också om det är någon som oroar sig. att Kristoffer, sju år, han återhämtade sig ganska snabbt. Han spelade klart turneringen, men då hade han fingret i någon sorts bandage i den sista delen av turneringen. Så det slutade ändå någorlunda okej för honom. Han fick åtminstone en ärvfull avslutning på turneringen. Hur det gick för benkrossaroboten, det vet jag inte, men den lever kvar i våra minnen och våra mardrömmar.

Boris

Första gången känner jag behov av att uppsöka en psykoanalytiker. Varje gång jag läser om det här så börjar jag gapskratta. Varje gång tycker jag att det här är så jäkla roligt. Jag förstår inte varför, men jag får hålla mig för att fnytta när du drog historien igen. Det kan vara ett panikslaget skratt också. Jag ska inte gräva mer i det.

Martin

Så det är mitt del. Det är komiskt. Jag tror att det beror på att det var de här multipla lagren av extrem stupiditet som krävdes för att komma till den här situationen. Och det totalt otillständiga sättet som folk reagerade på genom allting. Jag ska inte delta i den russofobiska hetsen, rasismen, mot ryssarna. Det här grejen hade inte hänt i något av de andra stora schackspelande länderna.

Det tror inte jag. Men jag tycker det är väldigt intressant också för att det är en sorts komisk, svart komisk nyhet. Men jag gillar typen av nyheter också därför att de är värdefulla påminnelser om om hur farligt det är när modern teknik sätts in som ersättningar för för människor på ett godtyckligt och rättviddigt sätt.

De verklig stora hoten från den tekniska utvecklingen är egentligen inte den här typen av enkla fysiska hot som att bli krossad av en robotarm. Men de direkta individuella fysiska hoten, de finns också. Och de påminner oss om de övergripande problemen. Ett annat exempel som dyker upp då och då är de här självkörande bilarna där datorerna i bilarna fattar beslut om liv och död i komplicerade trafiksituationer.

Och det kan vara liksom, teoretiskt sett så kan det vara liksom, ska jag döda föraren som sitter i min bil eller passageraren i min bil? Eller ska jag döda liksom de människorna som är framför på vägen och riskerar att bli överkörda eller något sånt där? Och det är en realitet eftersom de här bilarna är redan ute i trafiken i viss tillsträckning och det kommer definitivt komma upp fler och fler sådana fall. Och jag tror att, alltså rätt snart så tror jag att vi har betydligt värre saker att tampas med.

Det är sant, men... Jag tror vi kommer ha sådana här Robocop-liknande maskiner, alltså autonoma polisrobotar som har rejäl våldskapacitet och lyckas ut för att patrullera och göra ingripanden istället för mänskliga poliser. Det börjar säkert med militärrobotar, det finns redan militärrobotar, olika slags drönar och så vidare. Den tekniken kommer migrera snabbt in i det civila livet, bland annat för att poliser kommer upptäcka att det är precis som det är med militärrobotar.

världen över upptäckt att det är mycket bättre att sitta i ett kontrollrum och styra en drönare på distans än att faktiskt sitta i stridsplanen själv och riskera livet. Så man blir konfronterad inom polisväsendet. Och jag för min del ser verkligen inte fram emot att konfronteras med mördarmaskiner som går runt på gatorna och kan döda folk om de gör en felberäkning.

Eller till exempel om de blir hackade. Men jag tror vi får se sådana roboter. Textning.nu Och sen har vi såklart det mer svårgripbara hotet från det som kallas för artificiell generell intelligens. Alltså vad händer när vi har entiteter som inte bara är liksom robotar som går runt och robotar som kan spela schack utan entiteter som är långt mer intelligenta än människor och som kan programmera om sig själva för att bli mer och mer intelligenta.

Rätt snart efter att en sån... en sådan utvecklingspiral uppstår, så kommer vi människor vara som som apor jämfört med den artificiella intelligensen. Och sen kommer vi vara som myggor. Och sen kommer vi vara som gruskorn på marken. I jämförelse i termer av intelligens och kapacitet. Det ligger i saks natur att det är omöjligt att förutsäga vad en vida, överlägsen intelligens kommer att ta för sig.

Men det verkar troligt att den kommer att bry sig ungefär lika mycket om oss som vi människor bryr oss om. Av t.ex. Apor myggor eller grus så att det är bra tycker jag blir påmind reflektera då och då över de här de här fasansfulla sakerna som förmodligen finns finns i vår nära framtid. Goda råd är dyra. Vad säger du både delar du min oro för robot apokalypsen och ser du något sätt att hantera de här problemen.

Boris

Ja, eftersom jag har sett alla Terminator-filmerna flera gånger så vet jag precis vad som behöver göras. Men, så jag är orolig. Men, som sagt, det är bara att man ser om dem och så vet man. Men jag är ju inte bara skrämd över att någon ska hacka dem. Eller att det ska vara någon liten glitch i styrsystemet och de vider halsen av mig.

Jag är minst lika rädd för deras normala funktion. För antar nu liksom att... För det som ni säger, det här kommer ju spilla in i polisväsendet fort som ögat alltså. Och så ska vi tänka på vilka polischefer och polisledningar och vilken inrikesminister vi har. Och nästa inrikesminister blir inte bättre. Alltså, det är illa nog med tanke på hur de här kommer att programmeras.

Alltså, det finns inte min föreställningsvärld att de här kommer programmeras på ett sånt sätt. Att det inte blir någon... att de här robotarna aldrig kommer att anklagas för rasprofilering, till exempel. Det kommer snarare vara så att de programmeras för att enbart söka vita brottslingar. Vi kommer ha politiskt korrekta, livsfarliga polisrobotar.

Mänskliga poliser är, trots alla invändningar jag har mångt om, är det ändå, mildt uttryckt, något bättre än något som ytterst svenska polisledningen. ansvara för programmeringen av.

Martin

Jag tror att du, om jag förstår dig och säger rätt på det, så tror jag att du har fel på en av punkterna. Det är det här med rasprofilering. Därför att vi har ju sett många exempel i många års tid på att AI-systemer av olika slag, om man inte anstränger sig oerhört mycket för att styra dem i rätt riktning, så blir de snabbt väldigt, väldigt rasistiska. Om man inte programmerar in någon antirasistisk krets i systemet så tenderar de att bli superrasistiska.

Och det kan ju vara sådana saker som till exempel rasprofflering i ett polissammanhang. Jag tror det är väldigt svårt att bygga artificiell intelligens i en sak och artificiell antirasism i en annan. Det har visat sig vara en stor utmaning, trots att Microsoft, Google och andra har jobbat specifikt på det problemet. Det var ju en AI-bot från Microsoft som gjorde...

Just det. Den botten som vi pratade om, som började bara några timmar efter att de slog igång och släppte loss den på Twitter, så började de prata om hur mycket de älskade A.V. Fitte och såna här saker. Så att, och de var inte bara tvungna att stänga ner det projektet. Det finns inte kvar längre, de stängde ner det efter, jag tror liksom, har kort tid, kort tid har stängts ner för att den var bara för extremt rasistisk och nazistisk.

Det berodde på att folk exploterade den och matade den med den typen av idéer. De sa åt den vad den skulle säga och så pushade den ut de här nazistiska budskapen. Men det är också såna här saker om att... Till exempel ansiktsigenkänning. Det finns system för ansiktsigenkänning. Det blir vanligare och vanligare för övervakningskamlor eller låssystem.

Låsa upp en dörr med ansiktsigenkänning. De systemen har svårt att se skillnad på svarta människor. för vita människor i praktiken i många fall. Å ena sidan så kommer de kanske vara mer rasistiska men det kan bli en broms för den här utvecklingen. Att det kommer inte gå så snabbt som det skulle kunna gå. För att man helt enkelt måste kämpa mot AI-systemens inneboende rasism. Så det gör att vi kommer att vinna lite tid och klara oss lite längre.

Boris

Nu blir jag lite rättad. Och nu är jag ute på synnerligen lös mark i mitt fall. Jag hade glömt bort det där med AI-experimenten och hur de började hylla Hitler. Men var det inte också så att där strävar man efter så intelligenta partners till människan som möjligt? Tänkte jag att istället...

Alltså ingen kommer vilja bygga intelligenta polisrobotar. De ska ju vara dumma som spån. Och det borde ju rimligen gå att... gissa jag... Programmera dem så att... De överhuvudtaget inte ser svarta, bruna och gula människor. De ser bara vita människor. Då har de ju kommit ett långt steg på vägen.

Martin

Ja, det är väl nästan det som händer. Svarta människor identifierar sig inte som människor av de AI-systemen. De funkar precis som de ska göra när vi snackar om polisroboter. Det var min poäng faktiskt. En tanke jag har på det här med vinnartid som jag har på min webbsida. Jag tänkte passa på att lufta den i Radio Bubbla. Det är en tanke som har förts fram då och då och som jag sympatiserar med.

Tanken är så här att det här kanske är ett av få områden där det vore bra om staten gick in som en tung aktör. Framförallt med massiva regleringar, myndigheter som granskar och godkänner alla AI-projekt. Tungrodda byråkratiska regler för vad AI-system får göra och så vidare. Inte för att staten skulle kunna styra upp sådana projekt i en bra riktning.

Det är såklart ljussår bortom deras kompetensnivå. Utan helt enkelt för att sakta ner utvecklingen. Lägga en våt filt över de här livsfarliga teknikerna. Och göra så att alla som experimenterar med artificiell generell intelligens måste sakta ner. Då måste... De måste vika av från autoban och istället vada knähögt genom ett tjockt träsk av regleringar och byråkratiska trakasserier.

På det stället kan vi åtminstone binda lite tid, kanske övertyga tillräckligt många personer i ansvarig ställning, det vill säga på de stora IT-företagen, att ta AI-säkerhet på allvar. Så jag har hittat ett område där jag faktiskt känner mig positiv till statlig intervention.

Boris

Måste jag tänka på. Ja,

Martin

lite tanke. Hoppas vi kan ha lite mer diskussioner om de här sakerna på BBSen över Lider.