AI i kampen mot terrorismen

Kina har börjat använda AI kampen mot terrorismen, med mycket stor framgång. Vad man gör är egentligen ganska enkelt, och man har varit mycket öppna med sina metoder som främst har tillämpats i Xinjiang, och med goda resultat, vilket har välkomnats av den bredare allmänheten som är trötta på terrorister, våldsbejakande gäng, klaner, och gamla motsättningar.

AI och data kan vara svårgreppat, så låt os försöka illustrera med liknelser.

AI i Kina fungerar som en patrullerande polisman. Han patrullera längs gatan, tar en titt genom affärernas fönster, ser han inget ovanligt fortsätter han. Kanske går han in en affär för en pratstund med ägaren och frågar om dom sett något misstänkt. Ser han en uppbruten dörr och några mystiska individer som inte borde vara där tar han reda på vem dom är och kanske frihetsberövar dom dom.

Det är alltså stor skillnad mot den massövervakning som tillämpas i Sverige, där man placera en polis i alla affärerna som begär legitimation av alla som besöker, och för anteckningar över vad dom köper och vad dom säger. I verkligheten går det knappast att placera en polis i varje affär, men med datateknologin går det. Kontantlösa köp, svarta lådor på kassaapparaterna, mobilövervakning och webbsurf övervakning. Allt noteras i datalagringsdirektivet.

Kina ligger främst i världen när det gäller att utveckla AI, dels började man mycket tidigare än andra, och liksom på många andra fronter, som snabbtåg, elfordon, delningsekonomi, miljö, transporter, solpaneler osv, har man satt in stora resurser för projektet på ett tidigt stadium vilket gett ett enormt försprång i världen. I västra Kina har man byggt en helt ny stad som skall helt fokusera på att utveckla AI. Storleken ser ut att vara ungefär som Husqvarna. Kina är mycket öppna med vad och hur man arbetar, till USA’s stora förtret, medan man i USA ser AI som Top Secret och har hemlighetsstämplat allting.

Kinas nya AI stad. Bild från Kinas eget Street-View

Man har runt om i världen sällan kunnat identifiera potentiella terrorister innan deras dåd, trots att man i efterhand kan konstatera att de hyst och gett uttryck för radikala våldsbejakande åsikter. Gisslandramat i Sydney 2014 är ett exempel då den radikaliserade islamisten Man Haron Monis tog 18 personer som gisslan. Två personer förlorade livet då polis stormade caféet. Sydney och Melbourne har haft ett otal liknade händelser då radikaliserade islamister attackerat. Samma sak med Drottninggatan terroristen Rakhmat Akilov. SÄPO var väl medveten om hans radikala åsikter, men gjorde, och kanske inte kunde göra någonting, därför att våldsbejakande radikala personers ”mänskliga rättigheter” i Sverige värderas högre än de potentiella offrens mänskliga rättigheter, alltså att få leva.

Nyligen har vi Moské skjutningen i Christchurch på Nya Zeeland av Brenton Tarrant och även där har man i efterhand fastställt att han hade visat klara radikala åsikter även om han inte visade mycket av det mot sin omedelbara omgivning. USA har haft otaliga masskjutningar, som ingen har lyckats förutsäga, och därmed förhindra händelserna, trots att man i efterhand har kunnat konstatera att gärningsmannen har sänt mycket tydliga signaler om sina avsikter. Kina har lyckats hitta en lösning på problemet. Det är sådana signaler man nu lyckats identifiera med AI i Kina. Därmed kan man förutsäga och förebygga terrorism.

Vad Kina gör är alltså att med AI identifiera riskpersoner så man kan ingripa och åtgärda risken innan dom gör skada. Det betyder att man olikt Sverige inte massövervakar, utan som Kina regelmässigt arbetar, man punktmarkerar personer som kan utgöra en fara för andra.

Den svenska massövervakningen, även om de flesta vägrar att acceptera att den existerar är, för de mer kompetenta och insatta, välkänd. Sverige lagrar kontinuerligt massiva mängder data om alla i landet, men även utanför Sverige, det så kallade datalagringsdirektivet. Där lagras kontinuerligt alla mobiltelefoners positioner, alla sökningar, all webb surfning, alla telefonsamtal och alla textmeddelanden. Man kan även fånga in information som vilka varor en person köper elektroniskt var och när, vilka sajter på webben han besöker, vilka andra personer han umgås med hur och var, platser han besöker, osv. Från den datan görs en automatisk profilering av individerna. Det blir stora ”Rom-register”. Bas-datan raderas, men inte analysen, vilken regelbundet uppdateras. Det är därför vi kan läsa i media efter ett brott om förövarens surfvanor och vilka sajter dom besökt.

Sådan massövervakning förekommer inte i Kina, dels är den olaglig, men rent praktiskt går det inte eftersom Kina i stort är ett kontantsamhälle, det går inte att registrera köpvanor. I Sverige är alla mobiler bundna till en viss person, vilket inte är fallet i Kina, och alla internet anslutningar är även dom bundna till en person i Sverige, vilket inte är fallet i Kina. Dessutom, i Kina finns det 1.4 miljarder innevånare och inga datasystem kan hantera sådana datamängder.

Kina har dock utvecklat lösningar som bevisligen löser problemet. De som är insatta vet hur en sökmotor fungerar. En sökmotor läser alla sidor på webben och skapar en så kallad index-fil. Skall man söka efter turistinformation om kungliga slottet i Stockholm letar dator reda på sajter som innehåller orden ”Stockholm”, ”turist”, och ”kunglig” och associerade ord och pekar användaren mot dom sajterna.

AI som används som ett medel mot terrorism fungerar på liknade sätt. Systemet läser webbsidor, textmeddelanden, och bloggar och letar efter ordkombinationer och meningsbyggnader som kanske innehåller ord som ”döda”, ”bomba”, ”skjuta”, ”hata” osv. och flaggar sidan som misstänkt. Alltså precis som den patrullerande polismannen, hittar systemet inget går den bara vidare och registrerar inte de användarna. Det är alltså inte en fråga om att massövervaka eller massregistrera, utan att identifiera personer som kanske behöver punktbevakas.

Det är som en patrullerande polis som inte sett något värt att rapportera från passet, då skriver han ingen rapport och sparar ingen information, å andra sidan, en massövervakning rapporterar varenda person och händelse, oavsett om det behövs eller inte. Det är här Kina skiljer sig radikalt från massövervakningen i länder som Sverige. Man identifierar och fokuserar resurserna på personer i riskzonen, inte massövervakar alla med något datalagringsdirektiv.

Fantasifulla journalister har försökt göra gällande att ansiktesigenkänning används, alltså att alla som passerar en kamera på gatan känns igen och deras ID registreras, men det är lögn. Det är helt enkelt tekniskt omöjligt. Ansiktsigenkänning fungerar normalt så att personen först slår in en PIN eller sätter in ett ID kort. Därmed talar han om för systemet vilken person som förväntas stå framför kameran. Systemet letar då rätt på den personens lagrade bild, och jämför den bilden med bilden av personen framför kameran och kan med 50% till 80% säkerhet fastslå om det är samma person. Är den lagrade bilden av en typisk skandinav, medan personen framför kameran är en typisk afrikan går det inte.

Teoretiskt skulle naturligtvis systemet kunna jämföra ett ansikte framför kameran med alla lagrade bilder, men då vi vet hur lång tid det tar för systemet att slutföra processen av en enda jämförelse, förutsatt att systemet vet vilken person som står framför kameran, vilket är fallet till exempel på flygplatserna, då vet vi även hur lång tid det skulle ta omvänt att hitta en viss person i databasen från en kamerabild. Men linjär sökning, tar det upp till 130 år för varje sökning. Använder vi indexering, alltså att bara inkludera personer av samma hudfärg, ögonfärg, ansiktsgeometri osv. och en sannolikhetsalgoritm blir det ändå en fråga om åratal att hitta en enda person. Lägg till noggrannheten, mellan 50% till 80% typiskt, då blir det ändå sådär 700 till 300 miljoner personer över. Det är alltså helt omöjligt att identifiera och logga personer som vandrar förbi en kamera med ansiktsigenkänning. Däremot kan man mycket väl klara av att hitta en enstaka person eller ett litet antal förutbestämda personer med rätt, och mycket dyr, utrustning och under ideala förhållanden. Samma sak gäller för fingeravtryck.

Dessa system registrerar alltså ansiktets och ögonens geometri, ögonfärg, och hudfärg, hårfärg, och därmed personens etnicitet, vilket är något myndigheterna inte gärna talar om.

Röstigenkänning, voce ID, har funnits mycket länge och AI har förbättrat den, men eftersom röstmeddelanden via appar som WeChat har mycket låg kvalitet och röstigenkänning kräver stora dataresurser är det omöjligt att använda detta för massövervakning, med det kan fungera vid punktövervakning. Dessutom kan man lätt använda talförvrängare och det går lätt att kryptera appar som WeChat end-to-end vilket omöjliggör massövervakning. Precis som vid ansiktesigenkänning måste systemet först få veta vilken person det skall jämföra med. Det går på samma sätt inte att identifiera en okänd person med röstigenkänning

System som WeChat kan heller inte knytas till en viss person som sker med mobiltelefoner i Sverige och inte alla mobiltelefoner är registrerade på användaren i Kina. Däremot ger WeChat en viss fingervisning genom att appen kräver inloggning, men det går ändå inte att säkerställa vem som verkligen håller i mobilen. Sedan har bara Kina omkring 1,500 olika språk, och det gör röstigenkänning helt omöjligt att använda för massövervakning.

När Rakhmat Akilov flydde efter dådet på Drottninggatan reagerade personalen omedelbart på hans uppträdande i tunnelbanan. Det är här AI kommer in i bilden. AI kan känna igen onormala uppträdanden, som att en person springer, tar ologiska vägar, eller vandra omkring planlöst, och på så sätt registrera något misstänkt, men inte vem det är. Att identifiera en person genom gångigenkänning, gatemetrics och gait analysis , är heller inte möjligt, utvecklingen har inte kommit så långt att man ens kan säga att det någonsin kommer att bli möjligt. Forskare vet att bara 5 till 15% av alla personer har något slags avvikande gångmönster.

Kinas tillämpning av AI för att motverka terrorism är alltså egentligen ganska enkel och mycket praktiskt orienterad och det är inte en fråga alls om den konstanta massövervakning som Sverige tillämpar. Individer som flaggas letar man rätt på för samtal, och eventuell avradikalisering. Man erbjuder dessutom vidareutbildning, omskolning, Xinjiangs snabbt växande turistindustri ropar efter mer yrkeskvalificerat folk, allt från bussförare, guider, översättare, kockar, hotellpersonal, väktare, och yrkesutbildat folk i all oändlighet.

Kina har även börjat använda AI i fängelser, kallade smartprisons. Man har utrustat ett högriskfängelse, Yancheng i Yanjiao, Hebei, med sensorer och kameror i alla celler och utrymmen och omgivande mark.

Cell i fängelsetMarksensorer som till exempel kan känna av om någon går eller springer i närheten, eller försöker gräva en tunnel. AI kan upptäcka avvikande beteende och ansiktsuttryck, som till exempel en intagen som kanske försöker begå självmord, blir sjuk, förbereder ett flyktförsök eller konflikter mellan intagna. Åtskilliga diplomater och journalister har besökt fängelset. Man kan ha starka åsikter om denna tillämpning av teknologi, men å andra sidan ger det möjlighet att dramatiskt reducera gamla metoder, discipliner och övervakning av intagna, som alltså kan ges betydligt större frihet inom fängelset.

Fängelsets bibliotek med datorer

En del röster höjs över vilken effekt detta har på människan och ylar om mänskliga rättigheter och massövervakning, och visst kan teknologin missbrukas av främst politiker, journalister och myndigheter. Kina är dock det enda landet vi känner till som har lagstiftning och kontroller på plats för att skydda allmänheten från missbruk. Det är även en fråga om att tekniken skall anpassas till människan, och för människan att bli van vid teknologin och lära sig bruka den på rätt sätt.

När telefonen, faxen och internet kom ville polisen och förbuds-sekterna införa polisprövning och tillstånd för att inneha och använda teknologin. Den kunde ju missbrukas. Även nu vill polisen införa en allt hårdare personövervakning. När telefonen kom stressade den folk i hemmen, man visste ju aldrig när någon skulle ringa eller vem det kunde vara. När datorerna kom till kontoren var folk livrädda för dom, man visste ju inte vad maskinen kunde göra. Numera stressar mobilerna många till sjukliga problem, men ungdomen som växt upp med teknologin berörs inte mycket av den. Människan måste helt enkelt lära sig att använda teknologi rätt, leva med den, och tillämpa den på rätt sätt till sin egen nytta, och samtidigt förhindra att den missbrukas.

Artikeln kan fritt återpublicera med angivande av källan. CC0