Det har varit mycket diskussioner senaste året om spionprogrammet Pegasus som först visade sig vara använt av statliga aktörer i länder där demokratin utmanas av andra mer våldsamma krafter, där Mexiko ( https://www.nytimes.com/2023/04/18/world/americas/pegasus-spyware-mexico.html ) kanske är det mest kända exemplet men listan är lång ( https://en.wikipedia.org/wiki/Pegasus_(spyware)#By_country ). Läser man landlistan är det lätt att överraskas över att våra grannländer Frankrike, Tyskland, och till och Finland finns med – men de gör det ihop med flera andra mer eller mindre trygga EU-medlemsstater. Idag (!) kom nyheten att även Serbien sällar sig till de länder som spionerar på sina egna medborgare, och även här är det det kritiska civilsamhället som kommit att bli offer: https://citizenlab.ca/2023/11/serbia-civil-society-spyware/
Kopplat till till ovanstående vill jag göra en historisk tillbakablick och lyfta den tidigare Piratpartistiska EU-parlamentarikern Amelia Andersdotter ( https://amelia.andersdotter.cc/ ) som för ett antal år sedan gjorde mig uppmärksam på (eller myntade?!) begreppet cyber-osäkerhet. Amelia använde det när hon beskrev samhällskonsekvenserna av den kritik eller nedmontering av säker kommunikation eller beprövad krypteringsteknik som rättsvårdande myndigheter ofta sysslar med. Det kan vara användning av spionprogram som Pegasus (som utnyttjar svagheter, så kallade zero-days, i populära mobiltelefoners operativsystem), lagförslag för att tvinga apptillverkare och plattformsägare att sänka kraven på totalsträckskryptering (svensk översättning av end-to-end encryption) för att möjliggöra påtvingad avlyssning av privatpersoners kommunikation (googla ”Chat Control”) eller ifrågasätta när ungdomar vill använda sig av säkra kommunikationstjänster som den åklagare som är ansvarig för flera stora utredningar mot gängkriminella häromdagen gjorde i TV4 Nyheterna ( https://www.tv4.se/artikel/30bLGakecK34EIZnG3PZRd/gaengaklagarens-uppmaning-till-foeraeldrar-ta-kontroll-oever-barnens-mobiler ).
Att kriminella och andra tveksamma aktörer använder sig av krypterade nättjänster är inget nytt. Men samma krypterade tjänster är helt avgörande för såväl aktivister i repressiva miljöer som vår helt grundläggande digitala samhällsbyggnad. Det här är ett samtal som går lite som på repeat, och jag vill därför påminna mig själv om alla gånger jag pratat om just det krypterade myntets båda sidor – även när jag arbetade på biståndsmyndigheten Sida (radio SR I Lagens namn från 2015: https://sverigesradio.se/avsnitt/578912 med writeup hos SvD: https://www.svd.se/a/0da91e66-7ada-41bf-b2ce-5df58bf5230a/bistandsstod-utnyttjas-av-langare). Jag har inget till övers för knarklangare eller gängkriminella men börjar man talla på kryptona för att komma åt bovar så tar sig snart bovarna in i vårt innersta genom samma (numera osäkra!) digitala lösningar. Och då är vi körda.
När jag börjar skriva det här nyhetsbrevet lovade jag mig själv att inte låta det bli för jobbigt. Vare sig att skriva eller att läsa. Jag är därför väldigt nöjd med mig själv som tillåtit mig själv att hoppa över förra veckan (utan att för den delen sluta skriva) men också över att ha lyckats hitta en tonalitet som gett mig kommentarer så fina som de här:
”Detta var ett informativt och koncentrerat nyhetsbrev som de flesta har tid/energi att ta in, bra jobbat!”
och
”Dina brev är toppen! Bra ämnen, bra tilltal. Tack!”
Jag skriver inte för bekräftelse, men det var fint att få höra att jag träffar hyggligt. Min förhoppning är verkligen inte att ge en djuplodande inblick i något särskilt – utan bara att försöka lyfta en del vinklar eller nyheter som rör digitalisering ur ett rättighetsperspektiv för att kunna bidra till det bredare samtalet från mitt perspektiv.
När jag var på Internetdagarna i veckan träffade jag dessutom Per Axbom (som bla har ett eget https://axbom.se/nyhetsbrev/ ). Vi pratade då en del om långsiktigheten i nyhetsbrev, som kommit att bli en ny sk fluga i digitaliseringssvängen. Vi delade med oss av våra strategier – Per skickar ut sina nyhetsbrev ”lite när lusten faller på”, medan jag valt en utskickstjänst som inte tillåter något slags formatering – två strategier för att göra skrivandet så enkelt som möjligt men också läsandet så tillgängligt som det bara går. Att låta en hel vecka passera men ändå inte släppa skrivandet kändes därför både duktigt och befriande.
Apropå Internetdagarna – jag pratade på temat ”AI för övervakning – från Kina till Sverige” i ett seminarium arrangerat av tankesmedjan Futurion ( https://internetdagarna.se/program-2023/ai-for-overvakning-fran-kina-till-sverige ) tillsammans med forskaren Carl Heath och Kina-kännaren Kristina Sandklef utifrån Kristinas rapport ”AI-utvecklingen i Kina” (särskilt dystopi-kapitlet mot slutet tycker jag är läsvärt: https://futurion.se/ny-rapport-ai-utvecklingen-i-kina-paverkan-pa-svensk-tjanstemannasektor/ ). Jag tyckte själv att rapporten är alltför positivt vinklad, men en del av det som tas upp kan man med lätt kritiska glasögon snabbt omvandla till något mer matnyttigt. Exempelvis lyfte Kristina i seminariet flera gånger upp hur Kina fungerar mer effektivt eftersom man först experimenterar med ny innovation, sedan implementerar brett och först DÄREFTER reglerar – som om det vore en positiv sak. Själv är jag för tematisk reglering för att säkerställa att även framtida teknik inte missbrukar mer än nödvändigt, och tycker ofta det är bra att regleringsprocesser tar lång tid så att de också förhoppningsvis blir mer framtidssäkrade. Som motpol i samtalet om Kina och övervakning rekommenderas den här videon där två experter från projekt finansierade av min arbetsgivare diskuterar Kinesisk övervakning med en amerikansk kongressledamot: https://www.youtube.com/watch?v=_xRcvZ9r_-w&embeds_referring_euri=https%3A%2F%2Ftwitter.com%2F&source_ve_path=MjM4NTE&feature=emb_title
På tal om AI tycker jag emellanåt det går lite inflation i spänningsbeskrivningarna av vad som pågår. Jag kommer inte ge mig på att försöka analysera AI-sektorn utifrån ett företagsperspektiv men tycker den här kommentaren från X (kan kräva inlogg) beskriver turerna kring Chat GPT-ägarna OpenAI där deras VD förra veckan blev först sparkad (enligt vad jag förstått anklagad för att ha undanhållit företagskritisk information), sedan anställd av Microsoft (som redan är majoritetsägare i OpenAI) och sedan återanställd i OpenAI (som nu förlorat värde in absurdum). Jag är ingen expert på företagslogik men jag undrar om det verkligen är rimligt att vår samtid baseras på innovation sprungen ur en så volatil sektor: https://twitter.com/griswold/status/1726599468022452595
I takt med att socialamedieklimatet snabbt förändras vill jag också påminna om det som Fredrik Wass återigen lyfter – kommentarer på Twitter är INTE det samma som en folkstorm: https://www.fredrikwass.se/2023/11/13/ga-inte-pa-trollfabrikernas-nyhetsvinkel-i-nyhetsmorgon/ – jag har försökt påtala samma sak n antal gånger genom åren, och tycker frågan om det assymetriska internetet är något som vi måste lära varandra att komma ihåg. Tio tusen arga tweets är inte samma sak som tio tusen nazister utanför ens hus, brukar jag ta som exempel när jag föreläst om det jag kallar ”Troll-robusthet” (läs mer här i mitt bidrag till den statliga utredningen om Det demokratiska samtalet i en digital tid: https://dekaminski.se/det-demokratiska-samtalet-i-en-digital-tid/ ). Och trettio konton som skriver negativt om intersektionell analys är inte en ”Twitterstorm” som borde kunna stoppa en granskning i public service (vilket SVT lärde sig redan 2015: https://www.svt.se/kultur/twitterstorm-stoppade-svt-s-granskning ).
När det här mailet ramlar in i din inbox är det måndag, men jag lever på att tidszonerna är på min sida – där jag är är det fortfarande söndag.
I förra veckan var jag inbjuden till Svenska Kommittén mot Antisemitism och deras konferens om antisemitism i sociala medier. Det var verkligen en lika intressant som ledsam dag. Mycket av fokuset handlade om hur antisemitismen idag, inte minst efter Hamas attack och massmord den 7 oktober, fortplantas och befästs via konspirationsbudskap i onlinemiljö. Särskilt inbjudna föreläsare var forskarna Monika Hübscher och Jakob Guhl som båda skrivit om vikten av att ”unpacka” och demystifiera de konspirationsteorier som florerar online. De skriver båda ihop med en lång rad andra akademiker i den nya boken ”Antisemitism on social media” (preview-delen ger god inblick i innehållet): https://www.routledge.com/Antisemitism-on-Social-Media/Hubscher-Mering/p/book/9781032059693 – vill man läsa en kortversion av Monikas presentation så gjorde DN en väldigt talande intervju: https://www.dn.se/kultur/det-mest-chockerande-ar-att-bolagen-upplater-sin-infrastruktur-till-terrorister/
Konferensen avslutades också med en bred panel om antisemitism online utifrån en svensk kontext. Bland annat deltog forskarna Hannah Pollack Sarnecki och Katie Cohen från FOI. De har båda publicerat flera oerhört intressanta rapporter på senare år. Hannah släppte med några kollegor tidigare i år rapporten ”Rutten demokrati – konspirationspropaganda, rasism och våld” som verkligen målar upp en bred bild av hur extrema rörelser profilerar sig online och profiterar på nätets slutna gemenskaper: https://foi.se/rapporter/rapportsammanfattning.html?reportNo=FOI-R–5473–SE – Den rapport som Katie skrivit med en grupp andra forskare, ”Antisemitiska stereotyper i digitala medier” är trots att den har några år på nacken ett bra standardverk för de här frågorna: https://foi.se/rapporter/rapportsammanfattning.html?reportNo=FOI%20Memo%207292
I panelen fanns också Daniel Poohl från Expo, som berättade mer om Expos arbete med att belysa den aggressiva högerextrema miljön online. Daniel beskrev med klarhet hur antisemitismen onilne snabbt rört sig från hot mot en minoritet till att vara direkt systemhotande. Detta går att konstatera efter att flera av de senaste svenska skolattackerna (inkl avstyrda sådana) kunnat beläggas varit planerade i konspirationsfokuserade, högerextrema chattar och forum. Flera unga gärningsmän (som för övrigt verkar mer med varandra att göra än man tidigare vetat om) har baserat på antisemitiska idéer om hur världen styrs planerat att göra väldigt många människor väldigt illa. Några har också lyckats. Läs gärna mer om Expos viktiga arbete kring detta: https://expo.se/2023/11/n%C3%A4r-hatet-kliver-ut-fr%C3%A5n-spelplattformarna
Jag har en vän som heter Dragana Kaurin som är etnolog och som främst fokuserar på att dokumentera flyktingars erfarenhet av övervakning och repression. För några år sedan sammanställde hon upplevelser från några av de flyktingar som tagit sig till Europa. Rapporten hon släppte då har fortfarande bäring. I en tid när det pratas mycket om privatliv och integritet är det ännu viktigare att förstå hur sådant som biometrisk datainsamling och godtycklig datalagring slår mot dem som har allra minst möjlighet att skydda sig mot detta:
När ChatGPT gjorde debut började många använda tjänsten för att lattja med AI eller för att förenkla sitt eget arbete. Flera med mig slog bakut och argumenterade för att man i varje fall skulle vara försiktig med att mata in information som kunde vara hemlig. Många företag larmade om samma sak – man ville inte att anställda skulle skriva in affärshemligheter i publika chatbottar för att tjäna en kvart arbetstid. Nyligen dök det upp läckor från ChatGPT. De frälsta verkar vara nöjda eftersom man kan ana nya features som är på gång. Kritikerna konstaterar torrt att allt som matas in i ChatGPT tydligen används som testdata – all information du ger bort ska ses som läckt:
Jag tycker själv också att det pratar alldeles för lite om Amnesty Internationals senaste tech-rapport ”The Predator Files” som leder i bevis hur illasinnade statsmakter (i detta fall Vietnam) använder sofistikerade spionprogram för att snoka på politiska ledare och dissidenter i EU. I skenet av Pegasus verkar Predator vara den mest effektiva spionlösningen för att övervaka mobiltelefoner just nu. Predator har likt Pegasus spridits via klickvänliga länkar som skickats likt lockbeten i meddelanden över exempelvis X och andra sociala medier. Se över ditt klickfinger och håll dina enheter uppdaterade. Jobbar du med känslig information är det en bra idé att ha enheten i låst läge. Här finns rapporten:
Det händer mycket i världen just nu och det är svårt att sortera allt som dyker upp i ens flöden. Jag blev tidigt i veckan intervjuad till en artikel som Dagens Nyheter publicerade om hur de stora plattformarna allt tydligare misslyckas att skydda sina användare från traumatiserande innehåll. Det är förstås ingen nyhet för många, men det verkar helt klart vara så att fler reagerar negativt på att ens flöden fylls med väldigt grafiskt content från krig och elände. Jag skrev några fler tecken om detta på min LinkedIn under den inte så välavvägda rubriken ”Plattformarna har tappat det” där jag också länkar till lite längre läsning på temat: https://www.linkedin.com/feed/update/urn:li:activity:7121250399323328513/
Vi har också fått spendera de senaste veckorna med att hantera våra yngre barn som blir matade med terror och död via sina flöden på Tiktok. Har du barn så gör du dem en väldigt stor tjänst att prata med dem om hur världen ser ut, och kanske också om vikten att välja bort innehåll som får en att bli ledsen (när det går) eller helt sluta använda de allmänna flödena som finns i de stora apparna eftersom det är där bedrövelsen ofta dyker upp. Men det är också viktigt för oss vuxna att förstå att sekundär-trauma är på riktigt. Jag stötte på en väldigt läsvärd text om hur open source intelligence, alltså efterforskningsarbete via öppna källor, kan påverka dem som försöker debunka eller källgranska påståenden på internet. I tider av källkritik så är det enkelt att vilja ta reda på så mycket som möjligt om det man stöter på, och det är många (mig inräknad) som ofta sitter och jämför känsloladdat innehåll från öppna källor för att bättre förstå samtiden. Samtidigt riskerar man då att själv traumatiseras, ofta på sätt som kommer långsamt smygande. Den här artikeln pekar på några varningssignaler och ger också tips på hur man kan hantera dramatiskt innehåll på säkrare vis, läs den gärna: https://www.dutchosintguy.com/post/vicarious-trauma-osint-a-practical-guide
En helt annan fråga – som dock är ständigt återkommande – är hur vanliga hälsoappar hanterar den personliga, och ofta också känsliga, data som vi frivilligt lämnar ifrån oss för att få bättre analys av vårt välmående, tips på hur många steg vi ska ta eller hur ens menscykel bäst ska förstås. Min kompis Lucy Purdon som tidigare arbetat på den brittiska organisationen Privacy International har som del av ett fellowship finansierat av Mozilla Foundation under en tid forskat i just mens-appar och deras respekt för användarintegritet. Hennes rapport är spännande, och visar bland annat hur över 70% av de appar hon undersökt använder sig av användargenererad information för mer målgruppsanpassad reklam – något som tyder på att de släpper ifrån sig data om användarna på ett sätt som ofta inte alls är transparent. I tider när exempelvis amerikansk aborträtt inskränks till den milda grad att oro uppstått hur data från sociala medieplattformar kan leda till att kvinnor inte vågar söka sig till abortkliniker är det här en fråga som verkligen bör tas på allvar. Läs Lucys rapport här: https://foundation.mozilla.org/en/blog/fellow-research-reform-exploitative-digital-advertising-to-safeguard-womens-health-and-digital-rights-from-deteriorating/
Veckans så kallade ”hump day” – onsdag – är här, och denna vecka är det också just idag mitt nyhetsbrev skickas ut.
Jag tycker det är så roligt med gamifierad fortbildning kring cybersäkerhet. I första upplagan av nyhetsbrevet (https://dekaminski.recur.email/issues/de-kaminski-digital-s-23-v-40-HjnJ5q) tipsade jag om Shira.app som är tänkt att utbilda kring hur man identifierar phishing. Tidigare denna vecka snubblade jag över ”Trust and Safety Tycoon” där man kan lajva säkerhetsavdelning på en sociala medieplattform: https://trustandsafety.fun/
Från samma spelmakare kommer också ”Moderator Mayhem” som låter en testa på att vara innehållsmoderator. Båda spelen är roliga eftersom de visar på det svåra i att göra korrekta beslut kring saker som vi som användare ofta brukar avkräva just korrekta beslut om. Givetvis ska sociala medieplattformar upprätthålla maximal användarsäkerhet, men det är sällan svart-vita beslut det handlar om: https://moderatormayhem.engine.is/
Årets Internet Governance Forum är till ända, denna gång från Japan. Jag har varit på flera IGF-konferenser genom åren och det är en rätt spännande plattform, den enda öppna konferensen som med FN-mandat samlar stater, företag, civilsamhälle och akademi för att diskutera internets styrning och framtid. Årets IGF avslutades dock med en bitter nyhet, nästa år planeras konferensen äga rum i Saudiarabien – ett land som i internetsammanhang mest är känt för censur, övervakning, journalistmord och stora begränsningar i vad medborgare får och inte får göra online. Upprördheten i människorättskretsar är stor, här skriver Barbora Bukowska från Article 19 om hur beslutet riskerar att normalisera internetcensur: https://www.linkedin.com/feed/update/urn:li:activity:7117842701093335041/
Förra veckans smyglansering var kul, och det faktum att nyhetsbrevet på två dagar fick över femtio nya prenumeranter väldigt motiverande. Tanken är att kunna ge begripliga och hanterbara lästips från mina flöden, med fokus på sådant som diskuteras i mina internationella nätverk men som jag själv tycker ett svenskt samtal skulle må bra av att tänka in.
Jag var under ett par år enda svenska representant i Twitters ”insynsråd”, kallat Trust and Safety Council. Tillsammans med ett tjugotal andra experter på teknik och mänskliga rättigheter satt vi i regelbundna samtal med Twitter för att diskutera kommande planer från plattformens sida, utmaningar som kommit till oss från våra internationella nätverk och sådant vi noterat på andra plattformar. Sedan Elon Musk tog över Twitter har det snabbt gått utför. Jag var tidigt ute och förklarade att Musk på tio dagar raserat det som tagit tio år att bygga upp – och är det inte så att förfallet dessutom eskalerat sedan dess? Allt på Twitter som Musk petat på har verkligen kommit att bli bajs, och nu senast är den stora förändringen att nyhetslänkar nu inte längre får med sig någon text utan bara en bild. Tanken är enligt Musk att det blir mer ”estetiskt tilltalande” men i själva verket vill han troligtvis se till att så få som användare som möjligt klickar sig ut från X (som ju Twitter numera heter) – allt för att maximera de stressande låga annonsintäkterna. Här kan man läsa mer om förändringen https://variety.com/2023/digital/news/x-twitter-removes-headlines-from-articles-musk-esthetics-1235745719/ och på Mastodon hittade jag den här samtidsrealistiska kommentaren: https://radikal.social/@Denvitadrogen/111181431840015623
Varje år släpper den amerikanska organisationen och tankesmedjan Freedom House en rapport de kallar ”Freedom on the Net” där de beskriver hur internetfriheten globalt förändrats över året och vilka trender de ser. I årets rapport kan man läsa dystra rader om att internetfriheten dalat markant sedan senaste året, att internetanvändare i 55 av de 70 länder man granskar blivit gripna på grund av innehåll de publicerat på internet och att 41 länder aktivt blockerat hemsidor med innehåll som borde skyddas av yttrande- eller tryckfrihetsprinciper. Mycket fokus i årets rapport ligger inte helt oväntat på AI, och Freedom House skriver bland annat att 21 av de länder man granskat infört AI-styrd digital innehållsborttagning, något som försvårar insyn och analys av vad som tas bort och varför. Läs hela rapporten på Freedom House hemsida: https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence
Vad gäller AI så har året så här långt inneburit många och långa nyheter om hur generativ AI och framförallt användarvänliga chatbotar (såsom ChatGPT) förändrar hur vi tillgodogör oss och hanterar kunskap. Jag snubblade över en rätt intressant text om hur chatbotars digitala hallucinationer (alltså när de kopplar ihop text som egentligen saknar relevant sammanhang till information som av användare lätt tolkas som ”nya sanningar”) nu på allvar börjat förpesta resultaten vi får från sökmotorer. Eftersom flera sökmotorer levererar svar på basis av relevans och tidigare intresse (läs exempelvis mitt inlägg som svarar på en skev utsvävning från Ivar Arpi) så tycker jag detta spår är jättespännande. Om relevant information i allt högre utsträckning är hallucinogent, var gör det då med vår tillit till de sanningar vi tror oss finna på internet? Wired skriver främst om Bing, men problemet lär inte vara begränsat dit: https://www.wired.com/story/fast-forward-chatbot-hallucinations-are-poisoning-web-search/
Det här är första upplagan av mitt nyhetsbrev, som tills vidare får heta ”De Kaminski Digital”. Tanken är att det ska komma ut en gång i veckan, och att man som prenumerant ska kunna få lite matnyttiga lästips vad gäller digitala frågor utifrån ett rättighetsperspektiv.
Jag har en bakgrund i internetaktivism, har jobbat ett antal år på Sida med att forma det svenska digitala biståndet och kommer nyligen från en roll som chef för säkerhet och innovation på Civil Rights Defenders. Just denna vecka går jag över till Open Technology Fund (https://opentech.fund) som är ett slags stiftelse som finansierar digital säkerhet med fokus på tekniska lösningar mot övervakning och censur.
Eftersom min plattform till stora delar är internationell hoppas jag kunna lyfta in nyheter från min radar till ett svenskt samtal, några länkar i taget. Vill man tipsa om nyhetsbrevet kan man länka till https://dekaminski.recur.email/ där man både kan prenumerera och läsa tidigare utskick.
Phishing och lurmail har kommit att bli ett växande problem. Rapporter om ransomware och andra typer av cyberattacker dyker upp med jämna mellanrum och just mail som lurar användare att klicka på tveksamma länkar är en avgörande bov i dramat. Shira är en snygg web-app som pedagogiskt lär ut hur man bäst kan identifiera phishingmail. Appen är utvecklad i nära samarbete med digitala säkerhetsutbildare i en lång rad länder för att säkerställa att den är så inkluderande som möjligt. Testa själv på https://shira.app
Att ha arkivarier och datanördar i sina nätverk har sina udda sidor. Peter Krantz, som länge arbetat med öppna data i olika former, rensade nyligen sina arkiv och publicerade nyligen tolv års tweets från ryska myndigheter. Eftersom Twitter/X nu snabbt genomgår dramatiska förändringar är arkivet ett sätt att kunna följa vad som skrivits från ryskt håll över tid, säkerligen matnyttigt för den som gillar stora och lite obskyra datamängder: https://dataverse.harvard.edu/dataset.xhtml?persistentId=doi:10.7910/DVN/K4X9S7
Själv är jag väldigt fascinerad av Red team-hackande, det vill säga medvetet (men kontrollerat och kontrollerbart) hackande av digitala tjänster. I tider av AI-framsteg kan det vara ett bra sätt att tvinga fram bättre lösningar, istället för att passivt se på när ”smarta” AI:s lanseras till höger och vänster. På senaste upplagan av hacker-konferensen DEF CON iscensattes bland annat en ”Capture the flag”-tävling för att inspirera besökare att utmana AI-tekniken oftare. Sådant här hoppas jag att vi kan få se allt oftare i Sverige, som ett slags inverterat hackathon där man helt enkelt ska försöka ta sönder saker på så kreativa sätt som möjligt: https://techpolicy.press/can-we-red-team-our-way-to-ai-accountability/
Den kanske lite oväntade inledaren Ivar Arpi skrev i Svenska Dagbladet den 18/8 2020 om hur ”Google manipulerar dina sökresultat”. Som exempel lyfte han frågan om att sökningar på vita heterosexuella män genererar andra saker än användaren (han) skulle önska.
Bildgooglar du ”gay couple” kommer du få rader av lyckliga homosexuella par. Gissa vad som händer om du söker på ”straight couple”? På varje rad kommer homosexuella par att vara med. ”Black family” ger vad man söker, ”white family” ger något annat, för att uttrycka det milt. Söker man på ”straight white couple” blir det ännu konstigare. Det andra fotot är en inzoomning av knogar som det står ”HATE” på. Den tredje bilden visar ett svart par. Som Murray skriver: ”Frågar man efter detta i plural (”straight white couples”) dyker det upp så bisarra bilder att det är tydligt att något är i görningen”.
Historien skrivs om utifrån våra mycket samtida känsligheter.
Arpi är intressant skribent, men framförallt väldigt erfaren (och framgångsrik) hundvisslare, så kommentarerna lät inte vänta på sig. Sammantaget blev det en spontan och organisk ”essäsamling” om hur Google egentligen fungerar – med Arpi som inledande konversationsstartare.
Johannes Klenell vid Arbetet inledde starkt med att försöka lugna (?) samtalet. ”Ivar Arpi kan vara lugn”! utbrast Klenell och förklarade lustfyllt hur Arpis tes om att Google förvränger verkligheten inte är så allvarlig som det framställts – eftersom man fortsatt kan finna normstärkande sökresultat om man bara googlar rätt.
Hade Arpi efter det orkat göra bildsökningen ”couple” så hade han kunnat pusta ut. Där finns nämligen de rader på rader med lyckliga heterosexuella par han söker.
Det handlar såklart om hur normer i ett samhälle ser ut. Det heterosexuella paret är en sådan norm i vårt samhälle att det inte behöver definieras av sin sexuella läggning. Det bara är.
För att förklara från kortfattat: Google bilds sökresultat bygger till stor del på ord, inte på vad som faktiskt syns i bilden. Lägger jag upp en bild på en häst och skriver om sälar i tillhörande text kan denna häst komma att dyka upp vid bildsökningar på sälar. Det betyder inte att Google förvrider verkligheten. Det betyder bara att den som googlar behöver vara lite källkritisk.
Att en sökning på Google baseras på komplexa algoritmer och har inbyggda fördomar i sitt system är något som ska fortsätta undersökas och kritiseras. Men att ”white men”, eller ”white straight couple” som Arpi också sökte på, inte resulterar i bilder på enbart vita män och vita olikkönade par behöver inte vara resultatet av en politiskt korrekt manipulation som Arpi tvärsäkert hävdar. Mycket har de ett finger med i spelet på, men den närmaste slutsatsen som kan dras är att det blir så här för att Google inte är en kontrollerad bilddatabas. De flesta som lägger upp material är inte sökmotorsoptimerare, de taggar inte sina bilder särskilt noggrant. Återigen blir det texten som omger bilden som ligger till grund för sökresultatet som presenteras för dig.
I Aftonbladet bereds Mattias Beijmo rum för att techsplaina Arpi, vilket faktiskt är en läsvärd kavalkad av utmaningar som vi alla borde lära oss mer om. Kombinerat med de tekniska detaljerna som redan nämnts – hur manipuleras egentligen de algoritmer vi utsätts för?
I call center-liknande lokaler i Kina är väggarna fyllda med smartphones. Underbetald arbetskraft står med utslitna pekfingrar framför väggen av små skärmar som spottar fram tusentals automatiserade Googlesökningar. De klickar sedan om och om igen på den sökträff kunden beställt trafik till.
Själv ger jag i ETC faktiskt Ivar Arpi rätt – det finns inte objektiva algoritmer. Jag drog mig lite för att skriva texten när jag fick frågan, eftersom jag uppfattar det inledande inlägget som en trollning snarare än ett kvalitativt inlägg i debatten – men det är samtidigt viktigt att diskussionen om algoritmer och bias på nätet inte blir alltför skev.
Istället bör vi diskutera vad det innebär att man inte lyckats lära algoritmer för ansiktsigenkänning att särskilja nyanser imörkare hudtoner, vilket i takt med utrullning av automatise-rade metoder för policing riskerar att försätta alla som digitalt definierats som icke-vita för misstanke och eventuell fara.
Med rapporten ”Slumpvis utvald”, framtagen av Civil Rights Defenders i samarbete med forskare vid Stockholms universitet, i färskt minne kan vi konstatera att det existerande problemet med etnisk- och rasprofilering inomsvensk poliskår måste hanteras innan tekniska lösningar för rättsliga åtgärder vidare implementeras. Om redan väldokumenterade orättvisor inom behandling av rättsvårdande myndigheter förstärks av fördomsfulla algoritmer, som i sin tur betraktas som objektiva, har vi att se fram emot en ökade klyfta vad gäller rättstatens principer och våra gemensamma demokratiska värden. Ett sådant samtal är vad Polismyndigheten bör engagera sig i, innan man implementerar innovativa metoder för brottsbekämpning – metoder som då riskerar att slå helt fel.
Vi bör också tala om hur kommuner som Trelleborg menar att man effektiviserat sin handläggning genom att omstrukturera delar av sitt system att betala ut ekonomiskt bistånd till att istället för erfarna socialsekreterare låta digitala robotar göra bedömningar på vilka livsavgörande beslut sedan fattas. Akademikerförbundet SSR har upprepade gånger de senaste åren lyfte denna fråga, senast tidigare i år genom en JO-anmälan.
Koden till robotens algoritmer är inte tillgänglig för granskning, och i avsaknad av tydlig delegationsordning så betraktar man därför algoritmen som obehörig. Samtidigt fortsätter roboten att gallra bland ansökningar om försörjningsstöd, utan att erbjuda insyn i vilka parametrar den prioriterar. Om programmeringerna skett utan att sociala aspekter verkligen tagits omhand har vi alla ett problem, likaså om implementeringen av roboten skett av tjänstemän utan rätt teknisk kompetens. Precis dessa frågor var EU-kommissionens särskilda utredare av algoritmiskt beslutsfattande oroad för när jag mötte henne tidigare i våras.
Oundvikligt är också att prata om hur vi nu befinner oss i en snabbt ökande kunskapsklyvning där en växande del av befolkningen såväl i Sverige som i andra delar av världen får majoriteten av sin kunskap om omvärlden genom snabba flöden styrda av otillgängliga algoritmer.
Den nu fortsatt eskalerande pandemin behöver ett ökad kunskapsläge baserat på fakta – inte på villfarelser. Den svenska analysfirman Earhart beskrev i ett samtal som den nationella kommittén för Det demokratiska samtalet arrangerade häromveckan hur de granskat tusentals och åter tusentals datapunkter från det öppet sökbara internet beskrivandes olika former av konspiratoriska självhjälpskurer mot covid-19. Och tyvärr också enormt många exempel på hur personer avlidit efter att ha druckit blekmedel och andra kemikalier i jakten på ett botemedel. Den typen av algoritmstyrd rappakalja drabbar främst den som saknar andra möjligheter att inhämta kunskap.
Som alltid är väldigt lite av allt ovanstående helt nytt. För åtta år sedan skrev jag en text till SVT Opinion om hur ”Google [nu] äger våra liv” just utifrån perspektivet att den verklighet Google sades leverera i sina sökresultat allt mer sällan var sann och istället var vad som betraktades som relevant. Om Google därför åt Ivar Arpi levererar konfliktbetonade resultat med fokus på hudfärg och sexualitet tänker jag att där finns något att betänka.
Nu senast kom rapporter om att även kylskåp går att avlyssna. Så om man valt en modell där man kan kolla kalendrar och e-post (skitsmart med en kyl där man också kan jobba!) så bör man vara medveten om att den inte alltid lyckas upprätta en krypterad anslutning till nätet, varpå den riskerar att läcka allt du gör. Inte så hett.
