Exklusivt utdrag: ”Digitala hot och risker som formativ ledstjärna”

Här följer några delar av det kapitel jag skrivit till antologin ”AI & makten över besluten” (red Fjaestad & Vinge). Kapitlet heter ”Digitala hot och risker som formativ ledstjärna” och kretsar kring ett antal exempel där AI, algoritmer och digitala spår smittar över som risker för offentlig verksamhet.

”Större delen av mitt liv har kretsat kring teknikens inverkan på demokrati och mänskliga rättigheter. I perioder har engagemanget varit professionellt, emellanåt snarare som aktivist. Oavsett ”hatt” så har jag ofta mötts av liknande frågor, varav en av de mest centrala varit varför erfarenheter från tekniska sårbarheter i länder långt bort också spelar roll här hemma i Sverige. Gång efter annan har jag tvingats förklara att det är viktigt att förstå hur frågor om privatliv och integritet inte är intressanta enbart om man oroar sig för renhetsgraden i mjölet man har i sin påse.”

”I dagens kommersialiserade digitala verklighet finns också nya sätt att förstå och värdera hotbilder och risker. Säg den verksamhet som idag inte annonserar i sociala medier för att nå ut med marknadsföring eller information. De digitala annonseringsverktygen, eller annonsörernas gränssnitt på socialamedieplattformarna, ger ofta fler ledtrådar än vad man kanske kan tänka sig. Vill man idag annonsera på en plattform som Facebook, X (tidigare Twitter) eller Youtube kan man välja bland en uppsjö av parametrar för att lyckas vara mer träffsäker med sin marknadsföring. Det är inte svårt att rikta en annons mot en målgrupp som exempelvis ”man, 35–45 år, bosatt i villa nära en stor eller mellanstor tätort, förälder till minst två barn och intresserad av samhällsdebatt, bilar och sportskytte”.

Den som en gång sett hur många variabler annonsörer kan välja och vraka mellan blir lätt mer skeptisk till den datadrivna övervakningsekonomin vi allt mindre förmår att undvika.

Det är inte svårt att se hur det här hos läsaren snabbt formuleras frågor om hur ovanstående exempel kan eller ska kopplas till offentlig sektor. Svaret är lika enkelt som självklart: det är mer regel än undantag att privat sektor agerar tjänsteutvecklare åt offentlig sektor. Det är därför av stor vikt att offentlig sektor ser och analyserar de risker det innebär att låta nästan all utveckling av digitala lösningar ske i den privata sektorn.

Den svenska byråkratin har förstås varit intresserad av medborgardata långt innan sociala medieplattformar och digital övervakning blev ett faktum. Många utmaningar vad gäller den statliga centraliseringen av data är också i sig inte primärt resultatet av teknisk innovation.

Som talande exempel tänker jag här på hanteringen av skyddade personuppgifter. Statens ansvar att skydda dess mest utsatta medborgare ställs med viss regelbundenhet på prov när det avslöjas att Skatteverkets egen hantering är en av anledningarna till att känsliga uppgifter röjs. Emellanåt är det rudimentära processproblem som postgången till personer med skyddad identitet som är problemet. Det är svårt att förstå hur man kan säkerställa att det går att skicka fysiska ting såsom brev och paket till personer vars vistelseort och adress ses som kritiskt skyddsvärd. Samtidigt hanteras den känsliga datan i system som tidvis visat sig vara svåra för Skatteverkets egen personal att hantera säkert.

Under en period handledde jag ett antal kvinnojourer i säkerhetsfrågor, och även efter att kvinnojourerna implementerat en lång rad säkerhetsåtgärder för sina skyddade boenden fanns det många oklarheter kring vad man kunde förvänta sig av statens skyddsmekanism. Frågorna kom under samma tidsperiod som Trafikverket outsourcat hanteringen för Polismyndighetens personskydd till Serbien och den leverantör 1177 upphandlat för sina vårdsamtal visade sig ha lagt ut inspelningar publikt åtkomliga på internet.

Att privat sektor och dess datalösningar emellanåt är osäkra är verkligen ett otyg. Men samtidigt kanske man kan förstå, eventuellt även acceptera, att den kommersiella tekniska utvecklingen drivs av vinstmaximering som ledstjärna. Det är ett resonemang som kan, och bör, ifrågasättas – men det är likväl något som genomsyrar stora delar av vårt samhälle även bortom den digitala innovationen. Offentlig sektors drivkraft bör vara en annan, där värdet i verksamheten inte alltid kan vara monetärt. Särskilt bör detta gälla i sammanhang där kapitalet som det offentliga hanterar inte är ett ekonomiskt kapital, utan ett mänskligt sådant.”