Gå direkt till textinnehållet
Elaine Weidman Grunewald och Anna Felländer

Nytt center för hållbar AI

Fintech Ett nytt center har öppnat för ansvarsfull utveckling av artificiell intelligens. AI Sustainability Center samlar företag, forskare och myndigheter. »Det finns flera etiska fallgropar med AI«, säger centrets medgrundare Anna Felländer.

AI Sustainability Center lanserades i mitten av januari och har sin bas i Stockholm. Tanken är att mäta och styra de etiska och sociala effekterna av AI, så att utvecklingen av teknologin blir mer hållbar.

– AI skapar enorma fördelar, men det är en ny typ av teknologi som dels använder mycket av vår integritet och som dessutom har väldigt låg transparens. Det finns flera etiska fallgropar om man applicerar AI utan en hållbarhetslins, säger Anna Felländer, som har grundat centret tillsammans med Elaine Weidman Grunewald.

Centret har identifierat fyra sådana fallgropar. Den första är missbruk av data, som leder till integritetskränkningar. Den andra är att programmeraren avsiktlig eller oavsiktligt bygger in sina egna värderingar i algoritmen, vilka kanske inte stämmer överens med de principer företaget har.

Ytterligare en risk är otränad AI, som antingen på grund av otillräcklig data eller för lite tester blir fördomsfull. Den sista fallgropen är vinklad data, som kan göra att AI inte beter sig som man vill. Ett exempel på det var Amazons HR-applikation som på grund av inbyggda förlegade könsnormer rekommenderade vita män vid rekryteringar.

Håll dig uppdaterad med Finanslivs nyhetsbrev

Din e-postadress kommer enbart att användas för att skicka ut nyhetsbrev och relevant information som inbjudningar från Finansliv. Du kan när som helst avsluta din prenumeration.

– Vi har skapat ett ramverk för att hjälpa företag att både upptäcka och kunna minska riskerna. Inom finanssektorn är det här av ytterst stor betydelse. AI används bland annat till att skräddarsy finansiella tjänster där data kring våra beteenden används. Det skapar stora fördelar, men behöver hanteras på ett ansvarsfullt sätt för att undvika fallgropar och se till att etiska principer bibehålls, säger Anna Felländer.

Samarbetspartners till centret är Microsoft, Atomico, Bonnier, Cirio och Telia. Forskare från KTH, Karolinska Institutet, Lunds Umeå och Linköpings universitet har också anslutit sig till initiativet, liksom Skatteverket.