Transkribering
Forskare visar att kommersiella algoritmer för ansiktsigenkänning enkelt kan luras
Gustav N
Forskare visar att kommersiella algoritmer för ansiktsigenkänning enkelt kan luras. Med enkla glasögon utskrivna i papper kunde exempelvis en vit man få sig att identifieras som Milla Jovovich med 87,87% exakthet.
Martin
Det här tycker jag är en absolut, jag måste faktiskt säga, inget om de andra länkarna, men det här är den mest fascinerande nyheten som vi har idag. Jag satt och häpnade, jag satt och gapade när jag läste den här artikeln.
Gustav N
Då kanske du vill berätta... mer i detalj vad det handlar om.
Martin
Forskare vid Carnegie Mellon som har uppfunnit en, jag skulle säga vid första anseendet, fullständigt osannolikt sätt att fullständigt tillintetgöra artificiell intelligens specialiserad på ansiktsigenkänning. Det är en sån grej som man använder mer och mer nu, att man har kameraövervakning och sedan identifierar man folk baserat på deras ansiktsuttryck och sådana saker.
Det finns olika, till exempel datortillverkare. som använder ansiktsigenkänning för att låta en logga in på sin dator. Och Alibaba, kinesiska näthandlare, kinesiska Amazon kan man säga, Alibaba har någonting som heter Smile to Pay. Heh! Jag röst när jag såg det, men det betyder tydligen att man, genom att visa sitt leende för kameran på sin dator, så kan man göra betalningen.
Det är en väldigt rolig take på Amazons klassiska one click payment som de har tagit patent på. Det är väldigt smart att gå runt och säga att det är inte att du klickar för att betala utan att du ler för att betala.
Gustav N
Martin
Innan jag läste den här artikeln så hade jag nog inte sagt det. Jag hade nog varit ganska agnostisk och sagt att det där kanske är en bra idé. Det kanske är bättre än ett starkt lösnodd, kanske sämre än ett starkt lösnodd. Jag vet inte. Men om det som står i den här artikeln är sant och om det går att reproducera, och så verkar det ju, då är det ju en katastrofalt dålig säkerhetslösning. Om den här artikeln är sant, då måste vi omedelbart lägga ner allt vad ansiktsigenkänning heter om det har något att göra med säkerhet.
För det är helt värdelöst för säkerhet, för att det är busenkelt att lura de här grejerna. Att få en sån här system att tro, oavsett hur man själv ser ut, att det är så. så kan man få det här systemet att tro att man är någon annan. Och sättet de gör det på är helt otroligt. Kan du förklara, Gustav, vad de gör? För jag kan knappt tro det fast jag har läst artikeln.
Gustav N
Ja, den som tittar på den här artikeln kan snabbt se att det här rör sig i verkligheten om ett par väldigt enkla pappersglasögon som är utskrivna till mycket låg kostnad. Det är en lite pixelerad utskrift. Alltså är det någon som har klippt med en sax och klistrat på på ett par vanliga glasögon. Och så har de mönster med lite varmare och kallare färger.
Och vad som tydligen händer när man då sätter på sig dessa glasögon, det är att eftersom ansiktsigenkänningsalgoritmen är så fokuserad just på området runt näsryggen och ögonen, så kan lite sådana här variationer i inputdata få väldigt starkt genomslag på deras algoritm. Man ser här att de har tagit fram några resultat av matchningen som ser helt osannolika ut för ett mänskligt öga.
Det är män som blir matchade med kvinnor trots till exempel skäggstubb och kort hår jämfört med en kvinna som saknar skäggstubb och har långt hår.
Martin
De har verkligen satt upp roliga exempel. Det är en svart eller mörkig kille som datorn tolkar som en vit. Det är också intressant tycker jag att en människa... skulle såvitt jag förstår aldrig kunna se, man skulle aldrig kunna titta på glasögonen och gissa vem det är. I vissa fall då så har de kändisar. Så att då har de nu känner inte jag igen den här damen men det är någon typ av Hollywood skådis eller något sånt där.
De har också Colin Powell eller John Malkovich och sådär. Mila Jovovich, är den en skådis eller? Hur som helst. Man skulle aldrig kunna se på de här glasögonen att det är hon. Inte ens tror jag att man är intimt bekant med hennes utseende. Skulle man kunna gissa baserat på glasögonen att det är hon. Så att med de här glasögonen så kan du gå mot en sån här ansiktskärnskänningskamera. Och ingen i rummet omkring kan se vad du håller på med.
Ingen kan se att du försöker efterlikna. Det är någon potentat som har ensam rätt att gå in här. Men datorn kommer identifiera dig som den personen. Tydligen har de testat det här också under riktiga omständigheter. Ja, teknik som används för att skydda byggnader till exempel, för att avgöra vem som får gå ut och in genom byggnader. Och de har spötat systemet med en metod som kostar en femtedels dollar per glasögon att tillverka.
Gustav N
Ja, de här papperglasögon är förlåt ganska uppseendeväckande, men man kan mycket väl tänka sig att man skulle kunna designa ett par rätt snygga bågar Som mest såg ut att vara lite coolt, pastelmelerade och få en snar lik effekt.
Martin
Ja, om jag såg någon gå runt med den här på stan, och ni inte vore för de liksom lite tillklippta kanterna, att de är lite konstiga i kanterna för att de är liksom utklippt papper. Gjorde de bara former snyggare, jag tror inte jag skulle reagera om jag såg dem här på stan. Jag skulle tänka liksom, hipstersvin, blir man aldrig av med dem fast man har flyttat till Malta. Men inte mer än så.
Gustav N
Ja, det kanske man ska tänka på nästa gång man ser en hipster. Kan det vara så att den här personen i själva verket har anlagt sitt yttre för att dölja sin identitet? Då kan man känna lite större sympati med deras eventuella skäggväxt och rut-sjurtighet och glasögon.
Martin
Det skulle sägas att när man har ansiktsigenkänning så är det sällan en en-faktor-autentifiering. Man har alltid något annat. För att komma in i det här hemliga huset så måste du dels ha ansiktsigenkänning och dels kanske dra ett nyckelkort eller trycka in en kod eller något sånt där. Om det är en seriös säkerhetssituation. Men om det här stämmer och om det inte finns någon alternativ typ av gensexigenkänning som de inte har testat och som funkar på ett helt annat sätt.
Då måste man i princip bara lägga ner allt vad ansiktsigenkänning betyder. Den är inte ens meningsfull som en extrafaktor i en kombinerad säkerhetslösning. Det tycker jag är jätteintressant. Alltså, verkligen något nyttligt och dramatiskt som jag lärde mig här.