AI och algoritmer på DN Debatt

Antologin ”AI och makten över besluten” som jag skrivit ett kapitel i verkar ha landat väl. Flera kommuner har köpt in större partier av boken, och första upplagan är vad jag förstått näst intill slutsåld.

Under sommaren skrev jag och ett antal av antologins författare på DN Debatt under rubriken ”Sverige måste återta makten över algoritmerna”.

Vi inleder:

Livsavgörande beslut har närmast rutinartat automatiserats. Beslut om boende, försörjningsstöd, vård och ­arbetsförmåga lämnas till automatiserade algoritmer. Ofta är det helt omöjligt för den enskilde att få veta hur beslutet har fattats och på vilka grunder.

Det riskerar att undergräva offentlig­hetsprincipen och möjligheten att överklaga beslut och förstå på vilka grunder de tas. Det offentliga Sverige lyckas inte kombinera rättssäkerhet, öppenhet och teknikutveckling och då riskerar demokratin att bli en svart låda som ingen litar på.

Och beskriver därefter en del exempel på de utmaningar vi sett och ser. Det är exempel såväl från Nederländerna som från Göteborg, och jag tror att de är breda men tydliga nog för att man ska kunna förstå att det här finns något som måste lösas.

Mot slutet levererar vi också tre krav (eller i varje fall pekpinnar):

Nu krävs demokratiskt inflytande över teknik som AI. För att kunna gå vidare mot ett hållbart införande av AI i offentlig sektor har vi tre konkreta förslag:

1. Insyn och transparens. Vårt demokratiska system bygger på att medborgare, tillsynsmyndigheter och medier kan granska och ifrågasätta offentliga beslut. Vi är i Sverige ofta stolta över vår offentlighetsprincip, men den fungerar i dag inte vid automatiserade beslut.

2.Självständighet. Offentlig sektor måste vara en ledande innovatör och kompetent beställare inom digital utveckling, inte en passiv kund. När kommuner och regioner utvecklar egna modeller slipper de fastna i kommersiella modeller och upphandlingar med tveksamma villkor. Lösningarna kräver egen förmåga till utveckling eller stärkt beställar- och tillsyns­kompetens.

3.Staten behöver kliva fram. Reglering och incitament behöver ses över. Stärkt insyn genom tillsyn och revision är centrala redskap för att säkra en korrekt AI-användning i förvaltningens arbete.

Läs gärna hela debattartikeln – och beställ om du är intresserad också boken!