Nytt center för hållbar AI

AI Sustainability Center lanserades i mitten av januari och har sin bas i Stockholm. Tanken är att mäta och styra de etiska och sociala effekterna av AI, så att utvecklingen av tekniken blir mer hållbar.

– AI skapar enorma fördelar, men det är en ny typ av teknik som dels använder mycket av vår integritet och som dessutom har väldigt låg transparens. Det finns flera etiska fallgropar om man applicerar AI utan en hållbarhetslins, säger Anna Felländer, som har grundat centret tillsammans med Elaine Weidman Grunewald.

Centret har identifierat fyra sådana fallgropar. Den första är missbruk av data, som leder till integritetskränkningar. Den andra är att programmeraren avsiktlig eller oavsiktligt bygger in sina egna värderingar i algoritmen, vilka kanske inte stämmer överens med de principer företaget har.

Ytterligare en risk är otränad AI, som antingen på grund av otillräcklig data eller för lite tester blir fördomsfull. Den sista fallgropen är vinklad data, som kan göra att AI inte beter sig som man vill. Ett exempel på det var Amazons HR-applikation som på grund av inbyggda förlegade könsnormer rekommenderade vita män vid rekryteringar.

– Vi har skapat ett ramverk för att hjälpa företag att både upptäcka och kunna minska riskerna. Inom finanssektorn är det här av ytterst stor betydelse. AI används bland annat till att skräddarsy finansiella tjänster där data kring våra beteenden används. Det skapar stora fördelar, men behöver hanteras på ett ansvarsfullt sätt för att undvika fallgropar och se till att etiska principer bibehålls, säger Anna Felländer.

Samarbetspartners till centret är Microsoft, Atomico, Bonnier, Cirio och Telia. Forskare från KTH, Karolinska Institutet, Lunds Umeå och Linköpings universitet har också anslutit sig till initiativet, liksom Skatteverket.