Nytt center för hållbar AI
Elaine Weidman Grunewald och Anna Felländer

Nytt center för hållbar AI

Fintech Ett nytt center har öppnat för ansvarsfull utveckling av artificiell intelligens. AI Sustainability Center samlar företag, forskare och myndigheter. »Det finns flera etiska fallgropar med AI«, säger centrets medgrundare Anna Felländer.

AI Sustainability Center lanserades i mitten av januari och har sin bas i Stockholm. Tanken är att mäta och styra de etiska och sociala effekterna av AI, så att utvecklingen av teknologin blir mer hållbar.

– AI skapar enorma fördelar, men det är en ny typ av teknologi som dels använder mycket av vår integritet och som dessutom har väldigt låg transparens. Det finns flera etiska fallgropar om man applicerar AI utan en hållbarhetslins, säger Anna Felländer, som har grundat centret tillsammans med Elaine Weidman Grunewald.

Centret har identifierat fyra sådana fallgropar. Den första är missbruk av data, som leder till integritetskränkningar. Den andra är att programmeraren avsiktlig eller oavsiktligt bygger in sina egna värderingar i algoritmen, vilka kanske inte stämmer överens med de principer företaget har.

Ytterligare en risk är otränad AI, som antingen på grund av otillräcklig data eller för lite tester blir fördomsfull. Den sista fallgropen är vinklad data, som kan göra att AI inte beter sig som man vill. Ett exempel på det var Amazons HR-applikation som på grund av inbyggda förlegade könsnormer rekommenderade vita män vid rekryteringar.

– Vi har skapat ett ramverk för att hjälpa företag att både upptäcka och kunna minska riskerna. Inom finanssektorn är det här av ytterst stor betydelse. AI används bland annat till att skräddarsy finansiella tjänster där data kring våra beteenden används. Det skapar stora fördelar, men behöver hanteras på ett ansvarsfullt sätt för att undvika fallgropar och se till att etiska principer bibehålls, säger Anna Felländer.

Samarbetspartners till centret är Microsoft, Atomico, Bonnier, Cirio och Telia. Forskare från KTH, Karolinska Institutet, Lunds Umeå och Linköpings universitet har också anslutit sig till initiativet, liksom Skatteverket.

publicerad
18 februari 2019
Nu kommer ett nytt nummer av #finansliv Läs bl.a. om: ➖Robotarna på @marginalen_bank ➖Intervju med @johannakull ➖Besök på @nordea_sverige i Uppsala ➖Intervju med Sean George, hedgefondförvaltare Foto: @donkadoo
Vi är bra på långa ord. Och på att förklara dem. Läs mer i Finansliv #9, hos våra prenumeranter på fredag ⭐️
Nästa vecka är det dags för #finanslivsfrukost om #vettochetikett och det finns några platser kvar! Boka på Finansliv.se(länk i bio) ☕️
I nummer 8 av #finansliv tar vi ett stort grepp på #fintech 3.0 - ✅De överlevde boomen ✅Trenderna bankerna investerar i ✅Därför måste bolagen ändra inriktning Foto: @donkadoo
Den 19 november bjuder vi in till #finanslivsfrukost om vett och etikett i arbetslivet! ☕️Etikettexperten Annmarie Palm föreläser. Boka din plats nu! Länk i bion. #finansliv #vettochetikett
”Vad som är positivt? Här kanske man ska svara att man ska träffa nya kolleger och utbyta erfarenheter, men vet har tid med det??” —En av de tillfrågade i vår undersökning om aktivitetsbaserade kontor. Läs mer i nya Finansliv! #finans #finansbranschen #kontor #aktivitetsbaserat #aktivitetsbaseradarbetsplats
Sista chansen att anmäla sig! Snart är det dags för #finansloppet igen! På fredag är sista anmälningsdagen. Gå in på finansliv.se och boka din plats!
Följ @Finansliv på Instagram