De Kaminski Digital s23e43

Hej,

Det händer mycket i världen just nu och det är svårt att sortera allt som dyker upp i ens flöden. Jag blev tidigt i veckan intervjuad till en artikel som Dagens Nyheter publicerade om hur de stora plattformarna allt tydligare misslyckas att skydda sina användare från traumatiserande innehåll. Det är förstås ingen nyhet för många, men det verkar helt klart vara så att fler reagerar negativt på att ens flöden fylls med väldigt grafiskt content från krig och elände. Jag skrev några fler tecken om detta på min LinkedIn under den inte så välavvägda rubriken ”Plattformarna har tappat det” där jag också länkar till lite längre läsning på temat: https://www.linkedin.com/feed/update/urn:li:activity:7121250399323328513/

Vi har också fått spendera de senaste veckorna med att hantera våra yngre barn som blir matade med terror och död via sina flöden på Tiktok. Har du barn så gör du dem en väldigt stor tjänst att prata med dem om hur världen ser ut, och kanske också om vikten att välja bort innehåll som får en att bli ledsen (när det går) eller helt sluta använda de allmänna flödena som finns i de stora apparna eftersom det är där bedrövelsen ofta dyker upp. Men det är också viktigt för oss vuxna att förstå att sekundär-trauma är på riktigt. Jag stötte på en väldigt läsvärd text om hur open source intelligence, alltså efterforskningsarbete via öppna källor, kan påverka dem som försöker debunka eller källgranska påståenden på internet. I tider av källkritik så är det enkelt att vilja ta reda på så mycket som möjligt om det man stöter på, och det är många (mig inräknad) som ofta sitter och jämför känsloladdat innehåll från öppna källor för att bättre förstå samtiden. Samtidigt riskerar man då att själv traumatiseras, ofta på sätt som kommer långsamt smygande. Den här artikeln pekar på några varningssignaler och ger också tips på hur man kan hantera dramatiskt innehåll på säkrare vis, läs den gärna: https://www.dutchosintguy.com/post/vicarious-trauma-osint-a-practical-guide

En helt annan fråga – som dock är ständigt återkommande – är hur vanliga hälsoappar hanterar den personliga, och ofta också känsliga, data som vi frivilligt lämnar ifrån oss för att få bättre analys av vårt välmående, tips på hur många steg vi ska ta eller hur ens menscykel bäst ska förstås. Min kompis Lucy Purdon som tidigare arbetat på den brittiska organisationen Privacy International har som del av ett fellowship finansierat av Mozilla Foundation under en tid forskat i just mens-appar och deras respekt för användarintegritet. Hennes rapport är spännande, och visar bland annat hur över 70% av de appar hon undersökt använder sig av användargenererad information för mer målgruppsanpassad reklam – något som tyder på att de släpper ifrån sig data om användarna på ett sätt som ofta inte alls är transparent. I tider när exempelvis amerikansk aborträtt inskränks till den milda grad att oro uppstått hur data från sociala medieplattformar kan leda till att kvinnor inte vågar söka sig till abortkliniker är det här en fråga som verkligen bör tas på allvar. Läs Lucys rapport här: https://foundation.mozilla.org/en/blog/fellow-research-reform-exploitative-digital-advertising-to-safeguard-womens-health-and-digital-rights-from-deteriorating/

De Kaminski Digital s23e42

Hej,

Veckans så kallade ”hump day” – onsdag – är här, och denna vecka är det också just idag mitt nyhetsbrev skickas ut.

Jag tycker det är så roligt med gamifierad fortbildning kring cybersäkerhet. I första upplagan av nyhetsbrevet (https://dekaminski.recur.email/issues/de-kaminski-digital-s-23-v-40-HjnJ5q) tipsade jag om Shira.app som är tänkt att utbilda kring hur man identifierar phishing. Tidigare denna vecka snubblade jag över ”Trust and Safety Tycoon” där man kan lajva säkerhetsavdelning på en sociala medieplattform: https://trustandsafety.fun/

Från samma spelmakare kommer också ”Moderator Mayhem” som låter en testa på att vara innehållsmoderator. Båda spelen är roliga eftersom de visar på det svåra i att göra korrekta beslut kring saker som vi som användare ofta brukar avkräva just korrekta beslut om. Givetvis ska sociala medieplattformar upprätthålla maximal användarsäkerhet, men det är sällan svart-vita beslut det handlar om: https://moderatormayhem.engine.is/

Från den svenska horisonten kommer två klipp som även de är dataspelsrelaterade. Myndigheten för Psykologiskt Försvar släppte i veckan en rapport som beskriver hur dataspel används för påverkanskampanjer från främmande makt: https://www.mpf.se/2023/10/09/malign-foreign-interference-and-information-influence-on-video-game-platforms-understanding-the-adversarial-playbook/ och som av en händelse lanserade tidskriften Expo sitt projekt ”Fulspel” som synliggör högerextrem spridning av propaganda i gamingvärlden: https://expo.se/fulspel – min hjärna gjorde direkt en parallellkoppling till Stefan Krakowskis superspännande forskning om incel-rörelsen (där hans bok är en bra start: https://www.adlibris.com/se/bok/incel-om-ofrivilligt-celibat-och-en-mansroll-i-kris-9789180062459). Kanske hänger de här frågorna ihop mer än vi vill tro?

Årets Internet Governance Forum är till ända, denna gång från Japan. Jag har varit på flera IGF-konferenser genom åren och det är en rätt spännande plattform, den enda öppna konferensen som med FN-mandat samlar stater, företag, civilsamhälle och akademi för att diskutera internets styrning och framtid. Årets IGF avslutades dock med en bitter nyhet, nästa år planeras konferensen äga rum i Saudiarabien – ett land som i internetsammanhang mest är känt för censur, övervakning, journalistmord och stora begränsningar i vad medborgare får och inte får göra online. Upprördheten i människorättskretsar är stor, här skriver Barbora Bukowska från Article 19 om hur beslutet riskerar att normalisera internetcensur: https://www.linkedin.com/feed/update/urn:li:activity:7117842701093335041/

De Kaminski Digital s23e41

Hej!

Förra veckans smyglansering var kul, och det faktum att nyhetsbrevet på två dagar fick över femtio nya prenumeranter väldigt motiverande. Tanken är att kunna ge begripliga och hanterbara lästips från mina flöden, med fokus på sådant som diskuteras i mina internationella nätverk men som jag själv tycker ett svenskt samtal skulle må bra av att tänka in.

Jag var under ett par år enda svenska representant i Twitters ”insynsråd”, kallat Trust and Safety Council. Tillsammans med ett tjugotal andra experter på teknik och mänskliga rättigheter satt vi i regelbundna samtal med Twitter för att diskutera kommande planer från plattformens sida, utmaningar som kommit till oss från våra internationella nätverk och sådant vi noterat på andra plattformar. Sedan Elon Musk tog över Twitter har det snabbt gått utför. Jag var tidigt ute och förklarade att Musk på tio dagar raserat det som tagit tio år att bygga upp – och är det inte så att förfallet dessutom eskalerat sedan dess? Allt på Twitter som Musk petat på har verkligen kommit att bli bajs, och nu senast är den stora förändringen att nyhetslänkar nu inte längre får med sig någon text utan bara en bild. Tanken är enligt Musk att det blir mer ”estetiskt tilltalande” men i själva verket vill han troligtvis se till att så få som användare som möjligt klickar sig ut från X (som ju Twitter numera heter) – allt för att maximera de stressande låga annonsintäkterna. Här kan man läsa mer om förändringen https://variety.com/2023/digital/news/x-twitter-removes-headlines-from-articles-musk-esthetics-1235745719/ och på Mastodon hittade jag den här samtidsrealistiska kommentaren: https://radikal.social/@Denvitadrogen/111181431840015623

Varje år släpper den amerikanska organisationen och tankesmedjan Freedom House en rapport de kallar ”Freedom on the Net” där de beskriver hur internetfriheten globalt förändrats över året och vilka trender de ser. I årets rapport kan man läsa dystra rader om att internetfriheten dalat markant sedan senaste året, att internetanvändare i 55 av de 70 länder man granskar blivit gripna på grund av innehåll de publicerat på internet och att 41 länder aktivt blockerat hemsidor med innehåll som borde skyddas av yttrande- eller tryckfrihetsprinciper. Mycket fokus i årets rapport ligger inte helt oväntat på AI, och Freedom House skriver bland annat att 21 av de länder man granskat infört AI-styrd digital innehållsborttagning, något som försvårar insyn och analys av vad som tas bort och varför. Läs hela rapporten på Freedom House hemsida: https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence

Vad gäller AI så har året så här långt inneburit många och långa nyheter om hur generativ AI och framförallt användarvänliga chatbotar (såsom ChatGPT) förändrar hur vi tillgodogör oss och hanterar kunskap. Jag snubblade över en rätt intressant text om hur chatbotars digitala hallucinationer (alltså när de kopplar ihop text som egentligen saknar relevant sammanhang till information som av användare lätt tolkas som ”nya sanningar”) nu på allvar börjat förpesta resultaten vi får från sökmotorer. Eftersom flera sökmotorer levererar svar på basis av relevans och tidigare intresse (läs exempelvis mitt inlägg som svarar på en skev utsvävning från Ivar Arpi) så tycker jag detta spår är jättespännande. Om relevant information i allt högre utsträckning är hallucinogent, var gör det då med vår tillit till de sanningar vi tror oss finna på internet? Wired skriver främst om Bing, men problemet lär inte vara begränsat dit: https://www.wired.com/story/fast-forward-chatbot-hallucinations-are-poisoning-web-search/

De Kaminski Digital s23v40

Hej!

Det här är första upplagan av mitt nyhetsbrev, som tills vidare får heta ”De Kaminski Digital”. Tanken är att det ska komma ut en gång i veckan, och att man som prenumerant ska kunna få lite matnyttiga lästips vad gäller digitala frågor utifrån ett rättighetsperspektiv.

Jag har en bakgrund i internetaktivism, har jobbat ett antal år på Sida med att forma det svenska digitala biståndet och kommer nyligen från en roll som chef för säkerhet och innovation på Civil Rights Defenders. Just denna vecka går jag över till Open Technology Fund (https://opentech.fund) som är ett slags stiftelse som finansierar digital säkerhet med fokus på tekniska lösningar mot övervakning och censur.

Eftersom min plattform till stora delar är internationell hoppas jag kunna lyfta in nyheter från min radar till ett svenskt samtal, några länkar i taget. Vill man tipsa om nyhetsbrevet kan man länka till https://dekaminski.recur.email/ där man både kan prenumerera och läsa tidigare utskick.

Phishing och lurmail har kommit att bli ett växande problem. Rapporter om ransomware och andra typer av cyberattacker dyker upp med jämna mellanrum och just mail som lurar användare att klicka på tveksamma länkar är en avgörande bov i dramat. Shira är en snygg web-app som pedagogiskt lär ut hur man bäst kan identifiera phishingmail. Appen är utvecklad i nära samarbete med digitala säkerhetsutbildare i en lång rad länder för att säkerställa att den är så inkluderande som möjligt. Testa själv på https://shira.app

Att ha arkivarier och datanördar i sina nätverk har sina udda sidor. Peter Krantz, som länge arbetat med öppna data i olika former, rensade nyligen sina arkiv och publicerade nyligen tolv års tweets från ryska myndigheter. Eftersom Twitter/X nu snabbt genomgår dramatiska förändringar är arkivet ett sätt att kunna följa vad som skrivits från ryskt håll över tid, säkerligen matnyttigt för den som gillar stora och lite obskyra datamängder: https://dataverse.harvard.edu/dataset.xhtml?persistentId=doi:10.7910/DVN/K4X9S7

Själv är jag väldigt fascinerad av Red team-hackande, det vill säga medvetet (men kontrollerat och kontrollerbart) hackande av digitala tjänster. I tider av AI-framsteg kan det vara ett bra sätt att tvinga fram bättre lösningar, istället för att passivt se på när ”smarta” AI:s lanseras till höger och vänster. På senaste upplagan av hacker-konferensen DEF CON iscensattes bland annat en ”Capture the flag”-tävling för att inspirera besökare att utmana AI-tekniken oftare. Sådant här hoppas jag att vi kan få se allt oftare i Sverige, som ett slags inverterat hackathon där man helt enkelt ska försöka ta sönder saker på så kreativa sätt som möjligt: https://techpolicy.press/can-we-red-team-our-way-to-ai-accountability/

Ha en fortsatt fin vecka!

Ny organisk ”essäsamling” om Googles algoritmer

Den kanske lite oväntade inledaren Ivar Arpi skrev i Svenska Dagbladet den 18/8 2020 om hur ”Google manipulerar dina sökresultat”. Som exempel lyfte han frågan om att sökningar på vita heterosexuella män genererar andra saker än användaren (han) skulle önska.

Bildgooglar du ”gay couple” kommer du få rader av lyckliga homosexuella par. Gissa vad som händer om du söker på ”straight couple”? På varje rad kommer homosexuella par att vara med. ”Black family” ger vad man söker, ”white family” ger något annat, för att uttrycka det milt. Söker man på ”straight white couple” blir det ännu konstigare. Det andra fotot är en inzoomning av knogar som det står ”HATE” på. Den tredje bilden visar ett svart par. Som Murray skriver: ”Frågar man efter detta i plural (”straight white couples”) dyker det upp så bisarra bilder att det är tydligt att något är i görningen”.

Historien skrivs om utifrån våra mycket samtida känsligheter.

Arpi är intressant skribent, men framförallt väldigt erfaren (och framgångsrik) hundvisslare, så kommentarerna lät inte vänta på sig. Sammantaget blev det en spontan och organisk ”essäsamling” om hur Google egentligen fungerar – med Arpi som inledande konversationsstartare.

Johannes Klenell vid Arbetet inledde starkt med att försöka lugna (?) samtalet. ”Ivar Arpi kan vara lugn”! utbrast Klenell och förklarade lustfyllt hur Arpis tes om att Google förvränger verkligheten inte är så allvarlig som det framställts – eftersom man fortsatt kan finna normstärkande sökresultat om man bara googlar rätt.

Hade Arpi efter det orkat göra bildsökningen ”couple” så hade han kunnat pusta ut. Där finns nämligen de rader på rader med lyckliga heterosexuella par han söker.

Det handlar såklart om hur normer i ett samhälle ser ut. Det heterosexuella paret är en sådan norm i vårt samhälle att det inte behöver definieras av sin sexuella läggning. Det bara är.

I Arbetaren antar Annie Hellqvist en folkbildande roll och förklarar hur Google egentligen fungerar. Hon menar att Arpis tes är ett olycksfall i arbetet och försöker ge tips på vägen för att det inte ska upprepas.

För att förklara från kortfattat: Google bilds sökresultat bygger till stor del på ord, inte på vad som faktiskt syns i bilden. Lägger jag upp en bild på en häst och skriver om sälar i tillhörande text kan denna häst komma att dyka upp vid bildsökningar på sälar. Det betyder inte att Google förvrider verkligheten. Det betyder bara att den som googlar behöver vara lite källkritisk. 

Samma approach ser man i Syre där Johanna Buchholtz uppmanar Arpi att gå en googlingskurs.

Att en sökning på Google baseras på komplexa algoritmer och har inbyggda fördomar i sitt system är något som ska fortsätta undersökas och kritiseras. Men att ”white men”, eller ”white straight couple” som Arpi också sökte på, inte resulterar i bilder på enbart vita män och vita olikkönade par behöver inte vara resultatet av en politiskt korrekt manipulation som Arpi tvärsäkert hävdar. Mycket har de ett finger med i spelet på, men den närmaste slutsatsen som kan dras är att det blir så här för att Google inte är en kontrollerad bilddatabas. De flesta som lägger upp material är inte sökmotorsoptimerare, de taggar inte sina bilder särskilt noggrant. Återigen blir det texten som omger bilden som ligger till grund för sökresultatet som presenteras för dig. 

I Aftonbladet bereds Mattias Beijmo rum för att techsplaina Arpi, vilket faktiskt är en läsvärd kavalkad av utmaningar som vi alla borde lära oss mer om. Kombinerat med de tekniska detaljerna som redan nämnts – hur manipuleras egentligen de algoritmer vi utsätts för?

I call center-liknande lokaler i Kina är väggarna fyllda med smartphones. Underbetald arbetskraft står med utslitna pekfingrar framför väggen av små skärmar som spottar fram tusentals automatiserade Googlesökningar. De klickar sedan om och om igen på den sökträff kunden beställt trafik till.

Själv ger jag i ETC faktiskt Ivar Arpi rätt – det finns inte objektiva algoritmer. Jag drog mig lite för att skriva texten när jag fick frågan, eftersom jag uppfattar det inledande inlägget som en trollning snarare än ett kvalitativt inlägg i debatten – men det är samtidigt viktigt att diskussionen om algoritmer och bias på nätet inte blir alltför skev.

Istället bör vi diskutera vad det innebär att man inte lyckats lära algoritmer för ansiktsigenkänning att särskilja nyanser imörkare hudtoner, vilket i takt med utrullning av automatise-rade metoder för policing riskerar att försätta alla som digitalt definierats som icke-vita för misstanke och eventuell fara.

Med rapporten ”Slumpvis utvald”, framtagen av Civil Rights Defenders i samarbete med forskare vid Stockholms universitet, i färskt minne kan vi konstatera att det existerande problemet med etnisk- och rasprofilering inomsvensk poliskår måste hanteras innan tekniska lösningar för rättsliga åtgärder vidare implementeras. Om redan väl­dokumenterade orättvisor inom behandling av rättsvårdan­de myndigheter förstärks av fördomsfulla algoritmer, som i sin tur betraktas som objektiva, har vi att se fram emot en ökade klyfta vad gäller rättstatens principer och våra ge­mensamma demokratiska värden. Ett sådant samtal är vad Polismyndigheten bör engagera sig i, innan man implemen­terar innovativa metoder för brottsbekämpning – metoder som då riskerar att slå helt fel.

Vi bör också tala om hur kommuner som Trelleborg menar att man effektiviserat sin handläggning genom att omstruk­turera delar av sitt system att betala ut ekonomiskt bistånd till att istället för erfarna socialsekreterare låta digitala robo­tar göra bedömningar på vilka livsavgörande beslut sedan fattas. Akademikerförbundet SSR har upprepade gånger de senaste åren lyfte denna fråga, se­nast tidigare i år genom en JO-­anmälan.

Koden till robotens algoritmer är inte tillgänglig för granskning, och i avsak­nad av tydlig delegationsordning så betraktar man därför algoritmen som obehörig. Samtidigt fortsätter robo­ten att gallra bland ansökningar om försörjningsstöd, utan att erbjuda insyn i vilka parametrar den prioriterar. Om programmeringerna skett utan att soci­ala aspekter verkligen tagits omhand har vi alla ett problem, likaså om implemen­teringen av roboten skett av tjänstemän utan rätt teknisk kompetens. Precis dessa frågor var EU-kommissionens särskilda utre­dare av algoritmiskt beslutsfattande oroad för när jag mötte henne tidigare i våras.

Oundvikligt är också att prata om hur vi nu befinner oss i en snabbt ökande kunskapsklyvning där en växande del av befolkningen såväl i Sverige som i andra delar av världen får majoriteten av sin kunskap om omvärlden genom snabba flöden styrda av otillgängliga algoritmer.

Den nu fortsatt eskalerande pandemin behöver ett ökad kunskapsläge baserat på fakta – inte på villfarelser. Den svenska analysfirman Earhart beskrev i ett samtal som den nationella kommittén för Det demokratiska samtalet arrangerade härom­veckan hur de granskat tusentals och åter tusentals datapunk­ter från det öppet sökbara internet beskrivandes olika former av konspiratoriska självhjälpskurer mot covid­-19. Och tyvärr också enormt många exempel på hur personer avlidit ef­ter att ha druckit blekmedel och andra kemikalier i jakten på ett botemedel. Den typen av algoritm­styrd rappakalja drabbar främst den som saknar andra möjligheter att inhämta kunskap.

Som alltid är väldigt lite av allt ovanstående helt nytt. För åtta år sedan skrev jag en text till SVT Opinion om hur ”Google [nu] äger våra liv” just utifrån perspektivet att den verklighet Google sades leverera i sina sökresultat allt mer sällan var sann och istället var vad som betraktades som relevant. Om Google därför åt Ivar Arpi levererar konfliktbetonade resultat med fokus på hudfärg och sexualitet tänker jag att där finns något att betänka.

Att sopa framför egen dörr osv

Jag 2015:

Från DI Digital:

Det finns en fascination att koppla upp saker mot Internet. Fräckt så, förstås. Men ibland kan det kännas lite väl överentusiastiskt. Bara under sommaren har vi exempelvis fått lära oss att det inte är klockrent att koppla upp bilar, eftersom hackare på håll kan tvärbromsa och styra dem. Det har också dykt upp bevis på att det är dåligt att ha wifi-anslutning till prickskyttegevär. Och att skateboards kanske mår bra av att vara analoga.

Nu senast kom rapporter om att även kylskåp går att avlyssna. Så om man valt en modell där man kan kolla kalendrar och e-post (skitsmart med en kyl där man också kan jobba!) så bör man vara medveten om att den inte alltid lyckas upprätta en krypterad anslutning till nätet, varpå den riskerar att läcka allt du gör. Inte så hett.

Jag 2020:

Corona-appar, integritet och dataskydd

Jag har de senaste veckorna kritiserat hur stater och andra använder sig av digital övervakning i kampen mot Corona-viruset. Nyss kändes kritiken allt mer befogad. Ursäkta långt inlägg men det är faktiskt inte mitt fel.

Jag fick nämligen precis en sk riktad reklam för en ”Corona-app” som marknadsförs av Lunds universitet och som enligt egen uppgift har över 100000 användare i Sverige.

Efter en lång rad länkar om hur viktig appen och just mitt deltagande är kan man sedan klicka sig vidare till den brittiska leverantörens ”integritetsmeddelande” (vad är det ens för ord?) som förklarar hur man vill använda sig av de data man samlat in. Nedanstående är direkta citat ur detta.

Vi behandlar två typer av uppgifter som rör dig:

Detta är uppgifter om dig, din hälsa och dina symtom vid sjukdom, samt de uppgifter som din telefon delar, t.ex. IP-adress och plats.

Man är alltså väldigt tydlig med att man samlar in all information du delar med dig om hur du mår, och all information som din telefon delar med sig av. Jag förstår ju någonstans att det inte är riktigt så brett svept som man skulle kunna anta – men problemet är att vi inte vet. Den här skrivningen hjälper inte, snarare väcker den nya frågor.

Vi delar dessa uppgifter med Lunds universitet i Sverige för att genomföra forskning inom hälsa. De kan ha tillgång till den fullständiga information vi delar med dig.

Lunds universitet har enligt uppgift 7600 anställda och 40000 studenter. En grumlig beskrivning som detta ger alltså ingen vägledning till vem på LU som faktiskt kan få tillgång till uppgifterna. Man uppger då också att det kan vara ”fullständig information” som delas. Det känns lite vanskligt.

Efter att vi har delat informationen med Lunds universitet sparar vi en kopia av dessa uppgifter.

Här blir det plötsligt oerhört tydligt att det INTE är forskarna vid Lunds universitet som står bakom appen, och därmed ansvarar för den data som samlas in. ”Vi” i detta fall är det brittiska företaget som gjort appen – och kopian hamnar då i deras företagsdatabas kan antas. Det är eventuellt en formalistisk detalj, men vikten av detta blir tydligt framåt.

Vi arbetar också med andra personer som utför forskning inom hälsa med vilka vi kan komma att dela dina uppgifter, t.ex. personer som arbetar på:

Sjukhus
Folkhälsomyndigheter
Universitet
Välgörenhetsorganisationer inom hälsoområdet
Andra forskningsinstitutioner.

Här finns ingen specifikation alls för vad man menar. Minns nu att det inte är Lunds universitet som säger detta utan det globala e-hälsoföretag som utvecklat det skal man krängt till LU. Din data kan alltså hamna i händerna på folkhälsomyndighetens motsvarighet i något av alla de länder dit företaget lyckats med sitt sälj eller i en ”forskningsinstitution” som genomför något slags helt icke-relaterad och eventuellt etisk högst tveksam medicinsk ”forskning”. Via den här paragrafen meddelar man alltså användaren att datan kan komma att delas med i princip vem som helst med vagt intresse av hälsofrågor (eller något annat helt orelaterat till hälsa som man kan köra datan mot).

”Innan vi delar några av dina uppgifter med någon annan än Lunds universitet kommer vi att ta bort din e-postadress och alla siffror utom de två första i ditt postnummer för att skydda din integritet. En anonym kod kommer att användas i stället.”

Det här är en luring, och som ofta återkommer. Ibland framställs det som att datainsamling bara rör ”metadata” (Lex Obama on NSA) eller så formulerar man sig på andra sätt vagt om vilka uppgifter som sparas och vad som förskjuts. I det här fallet så vågar jag påstå att användares e-postadress och tre sista siffror i postnumret är det absolut minst känsliga av det man sparar, och troligtvis också inte alls relevant om man vill triangulera persondata.

Ibland när vi delar uppgifter med forskare exporteras de till länder som exempelvis USA, som har väldigt annorlunda regler gällande dataskydd och som kanske inte skyddar dina uppgifter på samma sätt som, eller lika bra som, GDPR gör.

Det här är helt sant. Jag är ingen expert på USA:s Cloud Act men jag har förstått att den hanterar dataskydd ”väldigt annorlunda”. Att torrt konstatera det här är INTE gott dataskydd, och jag är väldigt tveksam till ansvarsförskjutningen här.

Vi använder oss av tredje parter som behandlar en del av dina personuppgifter å våra vägnar. (…)

Dessa behandlare innefattar:

Amazon Web Services
Google Cloud Platform
SurveyMonkey
Segment
Google Analytics
Mixpanel
Google G-Suite
MailChimp
Mailgun
Intercom
Sentry
Google Firebase
SwiftyBeaver

Hittills i läsningen hann jag bli lite lagom svettig, men här satte jag faktiskt kaffet i halsen. Jag undrar ödmjukt varför inte leverantören av appen helt enkelt skrivit att de lägger ut datan ”på internet”, för det är ungefär det man gör. Att samla en lång lista av digitala kreti och pleti, lite högt och lite lågt – det är inte informativt på något som helst sätt.

Och här är det viktigt att minnas – allt det här spelar faktiskt roll. Den senaste månaden har jag vid flera tillfällen fått möjlighet att påminna om vikten att värna personlig integritet och mänskliga rättigheten vid utvecklandet av samhällsnyttiga appar. Jag förstår ju givetvis att man snabbt vill komma på och rulla ut smarta lösningar för att få bukt på den pågående pandemin, men innan vi offrar tio-femton år av dataskyddsdiskussioner på Corona-altaret så måste vi ta några djupa andetag och tänka till.

– Det är förstås helt rimligt att man söker nya vägar för att få bukt på något så omfattande och dramatiskt som den rådande coronapandemin, säger Marcin de Kaminski som arbetar med digitala frågor på organisationen Civil rights defenders [till DN].

– Men vi ser en stor risk i att de lösningar som nu växer fram blir mer eller mindre permanenta – det gäller såväl digital övervakning som andra inskränkningar i rörelsefrihet och yttrandefrihet.

– Om man inte ifrågasätter det här kommer det bli en normalitet. Vi som arbetar globalt ser att regeringar hävdar att det är tillfälliga lösningar. Men historien har visat att repression i många sammanhang också blir beständig, säger Marcin de Kaminski på Civil Rights Defenders [till SVT].

Ett liknande resonemang hade jag när jag intervjuades i P3 Nyheter:

– Vi är oroade för vi har sett hur dataregister och digitala tvångsmedel används på ett sätt som inte är förenligt med rättsstatens principer, säger Marcin de Kaminski, chef för Civil Rights Defenders globala avdelning.

Digitaliseringsminister Anders Ygeman (S) förstår oron, men säger att skyddet för data i Sverige är starkt.

– Man ska ta de invändningarna på allvar, samtidigt så har vi ett väl utvecklat dataskydd. Vår utgångspunkt är att individen ska äga sin egen data.

Och precis den poäng Anders Ygeman gör mot slutet är ju det som oroar mig och andra i lösningar såsom den app som släppts av forskare vid Lunds Universitet. Att forskarna själva menar annorlunda spelar på det stora hela när appen och den tekniska datainsamlingen är bortom deras kontroll.

I Arbetaren fick jag utveckla resonemanget något.

Marcin de Kaminski, programchef på människorättsorganisationen Civil Rights Defenders, ser en oroande utveckling i många länder där människors integritet och IT-säkerhet inskränks under coronapandemin. Han menar att många länder runt om i världen tar fram lösningar på kort tid och att viktiga rättsprinciper då sätts åt sidan.

– Vi har haft en innovationsvurm och det är klart att myndigheter försöker hitta verktyg att begränsa smittspridningen i krisen. Men det finns så många problem med att utveckla väldigt integritetsnära tjänster väldigt fort utan att ha några safe guards, säkerhetsspärrar, på plats. Här finns en beröring mellan alla de digitala lösningarna i alla länder, säger han och fortsätter: 

– Vi har också sett att många av de här corona-apparna kopplas till ett digitalt identifikationssystem. Man tänker att informationen då blir mer vidimerad, mer korrekt, men problemet är att om systemet samlar in känslig information om hälsotillstånd genom en säkerställd identifikator som Bank-ID blir det ännu viktigare att fundera över var data tar vägen egentligen. Om det kopplas till enskilda individer genom Bank-ID är det ytterst allvarligt om det passerar genom tredjehandsleverantörer som man inte har koll på, säger Marcin de Kaminski. 

Han säger att exempelvis coronaappen som marknadsförs för forskning vid Lunds universitet, där själva appen i sig är framtagen av en brittisk e-hälsoaktör, är problematisk. Bland annat för att den använder sig av så många externa leverantörer att det är svårt som användare att förstå vem som får tillgång till datan som matas in. 

– Man vet inte om apparna kommer att funka eller hjälpa Sverige framåt i krisen. Man har snabbt introducerat tredjepartsunderleverantörer som man inte har koll på. Risken är också att man implementerar en lösning som man sen har svårt att bli av med. När väl tjänster, appar och tekniska lösningar lanserats, så finns de där för framtida bruk. Därför är det så viktigt att man så långt det är möjligt gör rätt redan från början. Annars riskerar saker som integritet och andra mänskliga rättigheter sättas åt sidan, vilket innebär en risk för såväl individer som grupper som är utsatta och sårbara – men också för en bredare allmänhet.

Och där hoppas jag kunna pausa min del av samtalet för den här gången.

Det demokratiska samtalet i en digital tid

I dagarna släpptes en spännande antologi från kommittén ”Nationell satsning på medie- och informationskunnighet och det demokratiska samtalet”. Så här presenteras antologin av kommitténs utredare, Carl Heath:

I dag befinner vi oss, på grund av covid-19, i en tid av ovisshet och oro. Många experter refererar till en pågående ”infodemi”, där lögner förväxlas med sanningar och där felaktig information sprids snabbare än någonsin tidigare. Att nå ut med tillförlitlig information och kunskap snabbt är i dessa tider viktigare än någonsin. Det visar på betydelsen av att vi skapar oss förståelse för hur vi på bästa sätt kan hantera desinformation och propaganda och hur vi värnar vårt demokratiska samtal i en digital tid.
I antologin har vi gett utrymme till olika röster att resonera om förutsättningar och utmaningar för det demokratiska samtalet i en digital tid. Skribenterna delar även med sig av erfarenheter från deras arbete för stärkt motståndskraft. Utöver att sprida kunskap vill vi med antologin stimulera till en diskussion om hur desinformation, propaganda och näthat påverkar det demokratiska samtalet. Antologin sätter också ljus på allt det goda arbete som görs för att stärka medborgarnas motståndskraft mot desinformation, propaganda och näthat.

Jag bidrar med ett kapitel, som är ganska praktiskt fokuserat. Det har fått namnet ”Strategier för ett samhälle som inte tystnar — erfarenheter från det civila samhället” och i förordet beskrivs det enligt följande:

Marcin de Kaminski, programdirektör vid organisationen Civil Rights Defenders, delar med sig av strategier som aktiva i civilsamhället kan använda för att hålla näthatet stången och undvika att tystna.

Mitt kapitel samlar en del av de lärdomar och metoder jag samlat på mig under åren. Såväl från egen erfarenhet, samtal med andra engagerade i samma sektor som jag och med en lång rad smartskaft. Tanken är i varje fall att försöka erbjuda en början på en mer praktisk ansats till hur man kan hantera näthat, drev och trollförsök. Här är ett utdrag:

Mitt kapitel i sin helhet kan man ladda ner härifrån – och hela antologin kan man läsa på kommitténs hemsida.

Teknik och demokrati på Sida

Under gårdagen fick jag möjlighet att beskriva historiska och aktuella tendenser inom teknik och demokrati, som en av huvudtalarna på ett event på Sida. Här är mitt (okorrade) pratmanus:

Image

I do not want to sound like a boomer, but I started working in the intersection of technology and human rights in 1998. This was when the internet was still very young, and a number of tech savvy activist groups had started to understand how to use technology for good. For many years I was involved in digital projects, some very creative – others more subversive. The common nominator was that we tried to explore how technology and societal change could be further connected. Among the most fun, but most likely not the most efficient, projects back in the days were the ones that were strictly digital. The impact however really showed when me and other understood how to best connect the online with the offline, harnessing engagement and change making in a digital context.

Since then I have been making many rounds within this space. I have done my time within the academy, hacking policy within these very walls and now I am the director of the global department for human rights defenders at risk at the Swedish human rights organization Civil Rights Defenders.

One of the most important terms of my craft is what is called the trinity of digital repression, which the challenges we aim to respond to can be condensed to. We talk about the surveillance, the censorship and the repression. Ten years ago we learned the hard way how these three crucial factors can overlap in the most devastating of ways.

During what was later called “The Arab Spring” I was part of organizing communities of hacktivists – a playful merge of hackers and activists – to provide digital security support for those longing for democracy in the Middle East and North Africa, beginning in Iran 2009 and then spreading in the region. We helped local activists to break through digital firewalls of censorship, to spread their message and to encrypt their communications in order not to get caught. For many – including us, our friends on the ground and global policy makers – this was ground breaking times where the urge for societal change manifested online as it never had done before. However, as we all know – many struggles and sacrifices during that time were unsuccessful, some also made in vain.

Me and my friends, who had engaged because of our conviction of the inherited positive force of the internet, on many occasions came to question our beliefs. The surveillance was more extensive than we had expected. When we hacked regime controlled national telecom companies only to find that they had massive spying networks of interception servers throughout the countries – many built on US and EU hardware – and when our local activist colleagues where taken to interrogation and presented with meter high piles of Skype transcripts collected by the national security services. The censorship was widespread. As soon as we had created a tool to break through one national firewall, a new more efficient feature was presented. The repression was devastating. When people we chatted with on a daily basis in front of our very eyes were abducted by armed men and never returned back to their loved ones. Many things will never be unseen.

Based on many of these learnings, me and a number of fellow internet activists, were invited to form a focus group for the Swedish then Minister of Development Cooperation. I remember this clearly, as it was only a few weeks after the shared anniversary of the fall of the Egyptian ruler Housni Mubarak and the birth of my youngest kids – yes, we got twins. Anyway, the aim was to learn more about how to best support the new emerging actors within activism and democratic change. The Swedish government had understood that the communities of digital savvy activists were crucial for the events during the so called “Arab spring” and wanted to best understand how to provide efforts that could result in better sustainability and continuity of their work.

As we all know, the struggles a decade ago were not all successful. Iran just had a new round of well-needed protests criticizing the ruling class. Civil society in Egypt is still working under great repression. Syrian has just been thrown into yet another cycle of full-scale war. But the activists are still there, both in person and in concept – I am personally working with them on a daily basis, all over the world, as part of the global activist communities me and my fellow human rights defenders are part of.

As responsible for providing rapid response to some of the world’s most targeted human rights defenders in some of the world’s most repressive countries and contexts I am always reminded about how the trinity of digital repression is more relevant than ever. In countries I cannot even mention publicly I work with groups that on a regular basis have their IT infrastructure hacked by state-controlled actors that try to seize their most sensitive data. We have VPNs, encrypted messaging and high-end online resources as part of our standard toolbox to get around the sophisticated censorship routines today deployed all around the world. Our partners on a regular basis suffer from repression because of their online advocacy for human rights.

Now, what we on my end have learned – and continue to experience – is that the oppressors know what they are doing and that they invest a lot of time, effort and resources into doing their oppressing things. Therefor we, and others working with democracy support need to be on top of our things, to be able to outsmart them.

To be swift, responsive and flexible is crucial in our line of work. In attempts to challenge the trend of democratic decline we have set up intriguing but also very complex relocation schemes to keep LGBT activists in Chechnya alive. We have made deep and thorough security assessments of Cambodian human rights networks. When the situation in Ethiopia rapidly changed in 2018 we were the first to provide security trainings for local human rights defenders, and now we are struggling to with very scares resources keep LGBT and SOGIE activists in Tanzania floating during the currently very repressive times. When the repression against journalists and human rights monitoring networks in Venezuela is increasing we have increased our contingency planning supports for local activists, to increase their readiness ahead of next crackdown.

We see the intersection of online and offline materialize in our security work. Ten years ago we and our likeminded were very focused on digital security, mainly because we say the internet as a new arena for democratic change. Today, when we sadly now how the cyber space and the meat space overlap and interact, we understand that we need to work holistically with all kinds of security – combining digital security with personal assault alarm systems, interrogation trainings and well-being efforts. We need to understand that one cannot be made without the other.

What we also have learned is that, even though the internet is a never-ending series of connected networks, many human rights defenders are still working in solitude. One of their regimes most efficient tools to cripple the critical voices is to isolate them and make them feel alone. In my daily work it materializes in several very well-connected bits and pieces.

Firstly, countless are the times I have heard that human rights defenders feel that they stand completely alone in their struggle and that no one understands their challenges. When understanding they have many standing by their side, and that they are part of a larger movement – they stand more confident and are defacto more secure. That is why platforms and network building events are so important, let it be the Stockholm Internet Forum, our own Defenders Days or other regional and global convenings of human rights defenders.

Secondly, international solidarity is key. We work closely with our partners in equally sharing mentoring relations, being there in good and more difficult times. Knowing we have each others backs is of utter importance when building communities. And our work could never be made possible without our close collaboration with fellow international ngos – providing different kinds of complementary support. While we for instance have a long experience of family relocations, others may have better connections with local security firms providing safe housing.

Thirdly, support for actors within human rights need to continue to be creative and flexible. The oppressors are learning from each other, and implementing never-ending tweaks of their previous strategies. We need to keep up with them, be prepared for sudden changes and always be open to new-world solutions to old-world problems.

Understanding the merge of human and digital rights is a key part of the international human rights communities way ahead. I have to admit, ten-fifteen years ago we were quite naïve – hoping that internet would liberate us all. Now we all know better. We know we need to understand how the digital space affects the human rights struggles we are part of. We need to understand how meat space issues as government repression, gender-based violence and personal security are affected by the cyber space preconditions – the technologies we today no longer can choose to relate to – they are there, and we need to stop claiming this is something new. The trinity is real.

The drive for democracy is a joint venture. This is something that needs to be done together, using the wisdoms and learnings of those who have walked the road before. Since the topic of today is “when democracy support works”, let me just mention some of the voice-bearers I really would like to urge us all to continue supporting, as the most important change agents for democracy:

  • Human rights defenders: as the bearers of values, struggles and knowledge for shaping a human rights based society when exactly that is what is lacking.
  • Informal groups and communities: as most of the truly important actors in the repressive contexts of the world never had the opportunity to organize into what we would understand as civil society organisations.
  • Progressive actors: individuals and groups understanding the up-and-coming tools and struggles, because I really want to stress that we need to get-up-to but also maintain speed when challenging the oppressors.

Concluding, I would like to stress that we – all – have a lot to learn. We need to let our proud guard down and realize that the expertise is not something we carry, it is something we acquire. In the realm of digital security and freedom online this is specifically true. With my years of experience I can without hesitation guarantee you that many of the internet related discussions are cyclic. We have all done this before, and we need to learn from that. While the over-arching challenges are similar, the more detailed issues are constantly ever-changing. Being truly defender-centric and building on the learnings of front line human rights defenders is what will help us understand how to best support democracy and human rights, online as well as offline. Thank you.

Riksmötets sekulära öppnande

Idag hade jag förmånen att tala vid Humanisternas sekulära högtidsstund i samband med Riksmötets öppnande. Här är mitt pratmanus:

Image

För femtio år sedan kom mina föräldrar till Sverige. Tvångsförvisade från det land de trodde var deras. De fick höra att de inte längre var välkomna och att deras judiska arv och oppositionella engagemang betraktades som reaktionärt och icke önskvärt. För femtio år sedan fick mina föräldrar ett utresevisum och en enkelbiljett från det totalitära Polen.

Min fars engagemang för yttrandefrihet, demokrati och frihet för alla fortsatte från Sverige. Som del av den östeuropeiska diasporan arbetade han med att översätta, trycka och smuggla demokratirörelsens pamfletter och böcker från väst in över den fysiska järnridå som länge delade Europa.

När muren föll pustade mina föräldrar, liksom många andra, äntligen ut. Demokratin var på frammarsch, och skulle segra mot den totalitära diktaturen. Alla dessa år av förtryck, så fysiskt nära våra liberala demokratier – visst borde vi alla ha lärt oss något.

Jag arbetar vid den svenska människorättsorganisationen Civil Rights Defenders, där jag är chef över vår avdelning för skydd och säkerhet för särskilt utsatta försvarare av mänskliga rättigheter. Många av de 35 länder där våra 200 partnerorganisationer är verksamma tillhör världens allra mest repressiva. Den globala utblick vi har i vårt arbete ger en bra – om än inte positiv – bild av världsläget för demokrati och mänskliga rättigheter.

Och jag måste ärligt säga, jag är orolig. Att läget för mänskliga rättigheter är allvarligt och oroande i Kambodja, i Venezuela, i Tanzania – det är välkänt. Utmaningarna skiftar, men den demokratiska trenden är ur ett globalt perspektiv nedåtgående. Det som oroar mig allra mest är dock hur den negativa utvecklingen återigen kryper allt närmare – utan att vi tycks veta vad vi ska göra.

Jag är inbjuden för att här hålla ett inspirerande högtidstal. Men det senaste decenniet har Europas demokratier utmanats på ett sätt som inte återfinns någon annanstans i världen. Tillåt mig därför istället göra en folkbildande utvikning.

Den trend vi ser spridas över världen där demokratier görs tandlösa och tvingas – eller tillåts – röra sig mot mer slutna samhällen är vad vi kallar autokratisering. Autokratiseringen är en lömsk process, eftersom den – likt de kokande grodorna – ofta kommer smygande. Vi måste lära oss att känna igen dess specifika kännetecken för att i god tid ana fara å färde så att vi alla, såväl i det personliga som det gemensamma, kan agera. Det finns tre signaler vi måste lära oss att identifera, och därefter desarmera.

Ett. Demoniseringen. Populismens frammarsch runt om i världen – inte minst i vårt eget närområde och land – borde vara en väckarklocka. Karismatiska ledare, som utan egentlig politisk analys pekar ut en skapad fiende för att öka den generella misstron mot det vi känner som enande och sant, känner vi alla igen. Vi borde veta bättre. Vi borde aldrig låta oss själva eller våra vänner att köpa idén om den dehumaniserade andre. Analyser som baseras på ”vi mot dem” borde tillhöra det förgångna.

Två. Tystandet. En evidensbaserad och verklighetsförankrad analys måste utgöra grunden till vår gemensamma politiska verklighet. Men det vi känner som sanning utmanas allt oftare, inte minst genom organiserade desinformations- och smutskastningskampanjer. Viktiga röster som bör ligga till grund för ett verkligt rättighetsbaserat beslutsfattande riskerar att tystna. Ett öppet samhälle kan inte existera utan det fria ordet, och dess aktörer måste till varje pris försvaras.

Tre. Försvagandet av våra demokratiska institutioner. När demokratins grundvalar osakligt attackeras och dess tjänstemän ersätts av klåpare till politruker – då är det fara å färde. Vi får inte låta diskursen tas över av nervösa aktörer som har den verklighetsfrämmande samhällskollapsen som sitt viktigaste narrativ. Det är ingen hemlighet att jag och den organisation jag företräder ofta agerar som kritisk röst i det offentliga samtalet. Men, liksom alla aktörer som med självinsikt kan kalla sig demokrater, har vi vår grund i ett försvar av rättstaten, det offentligas oberoende myndigheter och den fria pressens granskande funktioner.

Många av dessa utmaningar har vi länge levt med i vårt arbete i länder långt härifrån. Men den senaste tiden har anledningarna att sopa allt närmare vår egen dörr blivit alltfler. I Ungern utsätts vår systerorganisation för statligt sanktionerade antisemitiska attacker. I Polen monteras rättstaten ner, bit för bit. Även i Sverige utsätts opinionsbildare i rättighetsorienterade frågor för upplevt ökat hat, hot och trakasserier.

I våras släppte vi på Civil Rights Defenders rapporten ”När samhället tystnar” om just hat, hot och trakasserier mot oberoende opinionsbildare. Ta gärna ett eget exemplar på vägen ut. Rapporten ger en smärtsam inblick i vardagen för de skribenter, journalister och opinionsbildande aktivister som engagerar sig i rättighetsbaserade frågor. Att läget var oroväckande visste vi redan innan, rapporten baseras på de kontakter vi under förra året i allt ökande omfattning haft med personer som hört av sig till oss för råd och stöd i hanteringen av hotfulla situationer som resultat av sitt opinionsbildande.

Det som så ledsamt överraskade mig var hur explicit de opinionsbildare som intervjuats för rapporten uttryckte att de aktivt valt bort ämnen att skriva om på grund av en verklig eller antagen hotbild. Hur de är oroliga för att den digitala smutskastningen de drabbas av kan påverka deras möjlighet att uttrycka sig, men också att den kan påverka deras barns fysiska säkerhet. Och inte minst – hur de upplever att de, bortom sina närmaste stöd- och vängrupper, saknar backning från samhället.

Jag skulle vilja vara mer entusiastisk och uppmuntrande. Men allvarliga tider kräver såväl allvar som mod. Den demokrati vi känner som vår måste försvaras, av såväl folkvalda och civilsamhällets engagerade som den bredare allmänheten.

Historien har ledsamt visat att våra friheter för att bevaras aktivt måste försvaras.

Det försvaret, den kampen, är vi alla, gemensamt, en del av. Tack.