Nytt center för hållbar AI
Elaine Weidman Grunewald och Anna Felländer

Nytt center för hållbar AI

Fintech Ett nytt center har öppnat för ansvarsfull utveckling av artificiell intelligens. AI Sustainability Center samlar företag, forskare och myndigheter. »Det finns flera etiska fallgropar med AI«, säger centrets medgrundare Anna Felländer.

AI Sustainability Center lanserades i mitten av januari och har sin bas i Stockholm. Tanken är att mäta och styra de etiska och sociala effekterna av AI, så att utvecklingen av teknologin blir mer hållbar.

– AI skapar enorma fördelar, men det är en ny typ av teknologi som dels använder mycket av vår integritet och som dessutom har väldigt låg transparens. Det finns flera etiska fallgropar om man applicerar AI utan en hållbarhetslins, säger Anna Felländer, som har grundat centret tillsammans med Elaine Weidman Grunewald.

Centret har identifierat fyra sådana fallgropar. Den första är missbruk av data, som leder till integritetskränkningar. Den andra är att programmeraren avsiktlig eller oavsiktligt bygger in sina egna värderingar i algoritmen, vilka kanske inte stämmer överens med de principer företaget har.

Ytterligare en risk är otränad AI, som antingen på grund av otillräcklig data eller för lite tester blir fördomsfull. Den sista fallgropen är vinklad data, som kan göra att AI inte beter sig som man vill. Ett exempel på det var Amazons HR-applikation som på grund av inbyggda förlegade könsnormer rekommenderade vita män vid rekryteringar.

– Vi har skapat ett ramverk för att hjälpa företag att både upptäcka och kunna minska riskerna. Inom finanssektorn är det här av ytterst stor betydelse. AI används bland annat till att skräddarsy finansiella tjänster där data kring våra beteenden används. Det skapar stora fördelar, men behöver hanteras på ett ansvarsfullt sätt för att undvika fallgropar och se till att etiska principer bibehålls, säger Anna Felländer.

Samarbetspartners till centret är Microsoft, Atomico, Bonnier, Cirio och Telia. Forskare från KTH, Karolinska Institutet, Lunds Umeå och Linköpings universitet har också anslutit sig till initiativet, liksom Skatteverket.

publicerad
18 februari 2019
Sista chansen att anmäla sig! Snart är det dags för #finansloppet igen! På fredag är sista anmälningsdagen. Gå in på finansliv.se och boka din plats!
NY SPONSOR. @naprapatlandslaget är på plats när branschen springer Finansloppet den 5 september!
NY SPONSOR. @nicks.se är på plats och delar ut chokladbars till alla som springer Finansloppet den 5/9 på Stockholms stadion.
NY SPONSOR. Nu är det klart - @thenaiainitiative är på plats och delar ut dryck till alla som springer Finansloppet.
Den 5 september springer branschen Finansloppet. ✔️Start och mål på Stockholms Stadion. ✔️3,8 km i Lill-Jansskogen. ✔️Picknick och branschmingel efter loppet. ✔️Spring, jogga eller promenera i skogen. www.finansloppet.se #finans #löpning #bank #försäkring
Följ @Finansliv på Instagram