Martin

NYPD använder Kinas Skynet-teknologi för ansiktsigenkänning i stor skala. Tekniken utvecklad av kinesiska företaget Hikvision har varit installerad i kommunala bostadsområden i Bronx sedan 2014. Systemet identiskt med det som används i Kina vilket möjliggör för staten att identifiera vem som helst på tre sekunder.

Hikvision är ett kinesiskt företag, en mycket stor aktör inom övervakningsbranschen i Kina. Tekniken som de använder har sitt ursprung i kinesisk akademisk forskning på ett par kinesiska universitet, men har sedan kommersialiserats om man kan säga det i Kina där allting är statligt ägt.

Hur som helst är det Hikvision som har byggt det. numera världen över ökända system som kallas för Skynet. Det är svårt och man vet inte om kineserna omedvetet, oironiskt, tog namnet Skynet eller om det var någon sorts väldigt cynisk flört med Terminator-filmerna, de kända Hollywood-filmerna, där ett AI-system som heter Skynet uppnår någon typ av självmedvetande och tar över världen och startar ett stort krig mellan maskiner och människor, något åt det hållet.

Och Skynet var alltså namnet då som kineserna valde för sitt övervakningssystem. Men man har nu bytt namn från Skynet till Safe Cities, vilket ju låter lite mer beskedligt. Hur som helst, det här systemet då består just nu av 170 miljoner kameror som är kopplade till maskiner. till en och samma central kan man säga.

Och under de kommande två åren så kommer man lägga till ytterligare 500 miljoner extra kameror. Så att det i stort sett hela Kina ska vara täckt av de här Skynet, förlåt, Safe Cities kamerorna. Och de använder då väldigt sofistikerade njukvara för att identifiera personer. Det är en av de revolutionerande sakerna här. De kan göra ansiktsigenkänning.

Man kan också känna igen kroppsformer, rörelsemönster och andra. indikatorer som gör att de kan identifiera exakt vilken person det är som rör sig framför en kamera. Och det här är då det som de här kineserna har forskat på och paketerat via Hikvision. Själva hårdvaron är i hög utsträckning amerikansk, vilket är bara en intressant liten anteckning i marginalen här apropå det som artikeln handlar om, att det är kinesisk mjukvara och amerikansk hårdvara, lite hårddraget.

Är det själva kameran som rör sig? Ja exakt, kan man säga kameror och sensorer för att de till exempel då behöver de särskilda kameror som är väldigt ljuskänsliga så att de kan identifiera vem folk är även när det är mörkt och sånt där. De använder mycket sensorer och andra mer sådana här high end komponenter som tillverkas i USA.

Nicholas

Även när det är mörkt och även när personerna är mörka vilket de tydligen haft problem med enligt artikeln.

Martin

Ja, det där är också en jätteintressant aspekt va? Att det finns en rasdimension till skynet-teknologi som aktualiseras när man använder den här tekniken i USA. Om man ska packa upp den lite mer så gör det sig så att man använder nu HikVisions Skynet Safe Cities övervakningsteknik i USA.

På flera ställen i USA, man har gjort det länge också. Det här är nytt för mig och det är tillräckligt nytt för allmänheten för att man ska publicera artiklar om det. Jag hoppas att jag inte ligger brutalt efter här, men bland annat då ett bostadsområde som heter River Park Towers i The Bronx i New York. Det här är alltså The Project, motsvarigheten till miljonprogrammet kan man säga i Sverige. Alltså stora högutbyggda för att fattiga människor ska bo. i lägenheter som subventioneras av staten. Men man använder också...

Nicholas

Mycket värre än Miljonprogrammet ska vi påpeka då.

Martin

Ja, Miljonprogrammet är som värsta bullerby-idyllen kan man säga jämfört med de värsta projectsområdena i USA. Den som vill få en riktigt dystopisk känsla kan bara googla River Park Towers och se hur det ser ut där. Man använder också samma system för att övervaka vägar, bland annat Route 1 som är en amerikansk motorväg som går längs östkusten i nordsyrde riktning.

Man har också använt de här systemen på amerikanska ambassader och militärbaser. utomlands, men i takt med att man har infört mer sanktioner mot kinesiska teknikföretag så har man börjat stänga av kameror som kommer från Hikvision-företaget. Så där håller man på att rulla tillbaka, men civilanvändningsområden används fortfarande flitigt i USA och där kommer då den här rastimensionen in.

Som så alltid när man pratar om amerikanska angelägenheter. Kruxet då är att de här ansiktsigenkänningssystemen har tidigare kalibrerats med hjälp av bilder på vita människor, människor av europeisk härkomst. Därför har de varit bra på att identifiera europeer. När man riktat samma system på folk med asiatiskt eller afrikanskt påbrå så har systemet påverkat det.

Enkelt uttryckt tyckt att alla svarta människor ser likadana ut och alla gula människor ser också likadana ut. Så den kan inte skilja en kines från en annan. Och inte bara, nu pratar vi inte om det kinesiska systemet, utan om ansikts- erkänningsteknologi i allmänhet. Ett annat exempel var när Google rullade ut den här tekniken på Google. och fick göra en maximal puder och totala utanförbehållda ursäkter.

Därför att när de gjorde sin ansiktsigenkänning snurra på svarta människor så sa systemet att bilden föreställde en gorilla. Kära lyssnare, ni förstår vilken sorts upprördhet som ett litet misstag kan väcka i USA. Så därför var det väldigt, väldigt viktigt för amerikanerna att övervakningssystemen är finkalibrerade på alla sorters raser.

Och det är det kinesiska systemet. Inte bara kan det skilja på kineser. naturligtvis under kinesisk jämnare är dessutom anpassad för att funka på svarta människor och den kinesiska leverantören bedyrar att den funkar helt perfekt, inga som helst problem, även i The Bronx där det huvudsakligen bor svarta människor.

Nicholas

Jag är lite nyfiken på åt vilket håll incitamenten går här. Är det liksom... rasistvinkeln folk är oroliga för. För i så fall är det verkligen att skjuta sig själv i foten. Någon studie visade att det fanns en mjukvara som kunde ta vita män med i princip 100% träffsäkerhet medan den hade en felmarginal på 20% för svarta kvinnor. Vilket innebär att om du tillhör vissa grupper så kan du gå fri från massövervakningen.

För kamerorna känner inte igen dig. Du kommer inte kunna använda den nödvändigtvis i rättsfall om inte kamerorna kan ge dig en rättsfall. Pinpointa dig, de kan inte lokalisera dig i staden, blandar ihop dig med en massa andra människor. Det är ju jättesmidigt och det sämsta som kan hända är att det kommer en massa kinesiska ingenjörer och styr upp det där. Å andra sidan så kan man ju tänka mig att det finns en och annan person på polis i New York som säger Om den här mjukvaran inte kan köra igenkänning på de här grupperna, vad ska vi då ens ha den till?

Martin

Det är särskilt problematiskt om ni inte klarar afroamerikaner. Men du är inne på att snarare än att vara kränkt och indignerad över att ansiktsigenkänningssystemet inte klarar av ens egen ras, så att säga, så ska man vara glad och känna sig privilegierad. För det innebär att man inte kan massövervakas i samma utsträckning.

Nicholas

Precis. Det är väl fantastiskt om... övervakningskamerorna tror att man bara är en förrymd gorilla då kan man gå omkring där och göra vad man vill och den registrerar inte ens som att det är en medborgare som går där.

Martin

Mycket tänkvärt. Intressant i alla fall tycker jag att läsa om att vilket nära partnerskap det finns mellan USA och Kina i de här övervakningsfrågorna. I Kinesiska staten tar fram teknologi, De rullar det ut på hemmaplan och så säljer de det till USA. USA tillhandahåller hårdvara. USA tillhandahåller lite kravspecifikationer apropå ras och de fixar så det funkar med svarta människor i de Bronx.

Och en av de saker som jag tänker på när jag läser den här artikeln är att jag får lite vatten på min kvarn. Jag brukar säga att Kina är ledstjärnan för utvecklingen i väst. När ledare i Västeuropa och USA funderar på hur vi ska ha det i framtiden, i vilken riktning vi vill att samhället ska utvecklas, vilka stora förändringar vi vill göra och så vidare.

Då är det Kina framförallt som de tänker på. De tittar på Kina och ser, jäklar, Kina är det bra. I Kina har de lyckats kombinera kapitalistiska mekanismer med en stark stat som har jättemycket inflytande i samhället. Det vill vi också ha i Europa och i USA. Och naturligtvis tittar man på poliser i USA, tittar på Kina och säger kolla vilka verktyg de har.

De har övervakning överallt, de kan kolla på kamerorna, vem som har gjort det och spåra människor när de rört sig från landet. Det är jättebra när man ska fånga vovar. Och sen importerar man den tekniken. Vi har också andra saker som pågår i Kina just nu, som ligger flera steg före vad vi har i väst. Till exempel den här. Den totala integrationen av allting som händer med internet och sociala medier.

Att man sköter alla typer av ekonomiska förehavanden via den kinesiska motsvarigheten till Facebook. Och sen samlar man in en sån här social poängsättning. Så baserat på alla hans interaktioner så får man en poängsumma som indikerar hur pass hur pass redig och trovärdig person man är.

Och den poängsumman påverkar sen ens tillgång till olika typer av statliga system och andra saker. Så att du är alltid övervakad och allting du gör kokas ner till såna här poängsummor som sen... Social Credit Systemet. Social Credit Systemet, ja. Brukar man kalla det för. Så att det är ett exempel då på någonting som vi har hållit på med Kina nu, som inte finns på samma sätt.

sammanfattat till väst. Men enligt min tes då så kommer det komma under de närmsta åren så kommer man börja rulla ut den typen av system även i väst. Och generellt allt annat som de gör i Kina kommer importeras till väst för det är det som politikerna vill, det är det som är deras våta dröm. Vad tror du Niklas, finns det någonting som kommer stoppa den här typen av teknik och komma till Sverige till exempel?

Nicholas

Nej, Sverige har ju en giftig kombination av vissa faktorer. Vi har en auktoritetstilltro, vi litar på staten. Vi är prylnördar och ingenjörer som är lätt imponerade när det kommer till teknologi. Och så är vi också väldigt måna om Sverigebilden och därför är det viktigt att man, särskilt i offentliga platser då, måste man städa upp brottsligheten så att man åtminstone kan sopa in den inomhus där utlänningar och utländska medier inte kan se den.

Välket å. Samlingen av de här tre sakerna gör att Sverige är det perfekta övervakningssamhället. Folk säger, åh, wow, vad bra, vi har teknologi som kan övervaka alla, det är ju perfekt. Det kommer folk att älska. Det är också varför Sverige har en av de mest långtgående övervakningsapparaterna i västvärlden. Det är Sverige och Storbritannien som är USAs största samarbetspartners när det kommer till övervakning.

GCHQ och FRA då, framförallt signalspaning och sådär. Men jag är lite nyfiken på det här. Social Credit-systemet därför att jag tänker mig att det inte är ett system byggt för dubbelmoral, eller? Jag menar kineserna har inga... De har inga etniska kvoter, de går inte att oroa sig för att det är för få kvinnor i den ena eller andra partistyrelsen. Så jag tänker mig att om vi inför social credit-systemet i Europa och i Sverige kommer det att ha väldigt många negativa konsekvenser.

Men en väldigt uppenbar konsekvens som jag tror de flesta av oss kan förutse är att det kommer bli väldigt svårt för många minoritetsgrupper. Alltså om du tillhör någon så här kaosgäng ute i orten. och så inför landet social credit. Det kommer bli nöjdrestade i allting, vi kommer inte ha tillgång till några tjänster alls. Vi kommer inte kunna ta tunnelbanan in till stan för att hålla på och kausa. Det skulle ju lösa en del problem, men det skulle ju också sticka lite i ögonen på politikerna och inse att, oj då, hoppsan.

Martin

Men sådana här social credit poäng då som folk skulle få, vi borde förbättra ett bättre svenskt ord för det där, de skulle ju fakturera in många olika aspekter. Jag skulle förvänta mig i Sverige till exempel att... Om du inte är svensk, om du är afrikan eller arab eller afghan eller någonting, då kommer du säkert få ordentligt med plus. Du kommer inte börja från nolls och säga att det är social credit, utan du kommer få en massa pluspoäng för att du har en mörkare hudfärg eller att du kommer från någon som skyddsvärd kultur.

Nicholas

Man kanske får minuspoäng för att rösta ner sådana personer också. Då kan man sätta extra skräck i svenskarna. Det har du rätt i.

Martin

Ja, precis. Det är ett jättebra sätt att upptäcka och straffa rasism. Men det finns ju det här problemet som du är inne på. Det uppkommer ju om man låter maskinerna, låter AI-system och maskinerlärning och så vidare, arbeta helt fritt utan några andra ingångsmärden än rådata. Då tenderar det att bli på det sättet. Man har testat det här till exempel för att utvärdera kandidater för anställningar och sånt där. Men man slutar använda de systemen för att...

Det blev väldigt påtagligt att systemet sålde bort människor på ett sätt som uppfattades som rasistiskt. Det var stor andel, till exempel afroamerikaner som blev bortsålade. Men det är därför man inte låter dem köra helt automatiskt. Så det är bara att lägga på, liksom köra hundra plus poäng på alla som kommer från Afrika så att de automatiskt...

ligger ganska långt upp i listan. Så kommer man säkert tänka i Sverige. Intersectional social credit. Ja, det blir en väldigt komplicerad datamodell för att räkna ihop alla kränkthets- och privilegiepoäng.

Nicholas

Äntligen har man skapat jobb åt alla genusvetare och inte sektionalitetsforskare.

Martin

Dessvärre någonting. Jag hade inte tänkt på det men det är sant, de kommer ju behöva sitta där och skruva på skruvarna i svenska Skynet.

Nicholas

Precis, och så har man äntligen då också ett svepskäl att börja trycka in genus och intersektionalitet i programmerarkurser och sådana här mer hårdare vetenskaper där man har kunnat stå emot lite tidigare.

Martin

Det där var också en väldigt intressant spaning. Kära lyssnare, kom ihåg vad ni hörde först.