Nytt center för hållbar AI
Elaine Weidman Grunewald och Anna Felländer

Nytt center för hållbar AI

Fintech Ett nytt center har öppnat för ansvarsfull utveckling av artificiell intelligens. AI Sustainability Center samlar företag, forskare och myndigheter. »Det finns flera etiska fallgropar med AI«, säger centrets medgrundare Anna Felländer.

AI Sustainability Center lanserades i mitten av januari och har sin bas i Stockholm. Tanken är att mäta och styra de etiska och sociala effekterna av AI, så att utvecklingen av teknologin blir mer hållbar.

– AI skapar enorma fördelar, men det är en ny typ av teknologi som dels använder mycket av vår integritet och som dessutom har väldigt låg transparens. Det finns flera etiska fallgropar om man applicerar AI utan en hållbarhetslins, säger Anna Felländer, som har grundat centret tillsammans med Elaine Weidman Grunewald.

Centret har identifierat fyra sådana fallgropar. Den första är missbruk av data, som leder till integritetskränkningar. Den andra är att programmeraren avsiktlig eller oavsiktligt bygger in sina egna värderingar i algoritmen, vilka kanske inte stämmer överens med de principer företaget har.

Ytterligare en risk är otränad AI, som antingen på grund av otillräcklig data eller för lite tester blir fördomsfull. Den sista fallgropen är vinklad data, som kan göra att AI inte beter sig som man vill. Ett exempel på det var Amazons HR-applikation som på grund av inbyggda förlegade könsnormer rekommenderade vita män vid rekryteringar.

– Vi har skapat ett ramverk för att hjälpa företag att både upptäcka och kunna minska riskerna. Inom finanssektorn är det här av ytterst stor betydelse. AI används bland annat till att skräddarsy finansiella tjänster där data kring våra beteenden används. Det skapar stora fördelar, men behöver hanteras på ett ansvarsfullt sätt för att undvika fallgropar och se till att etiska principer bibehålls, säger Anna Felländer.

Samarbetspartners till centret är Microsoft, Atomico, Bonnier, Cirio och Telia. Forskare från KTH, Karolinska Institutet, Lunds Umeå och Linköpings universitet har också anslutit sig till initiativet, liksom Skatteverket.

publicerad
18 februari 2019

#Finansfredag

Finanslivs redaktörer Aron Sigblad och Anna de Lima Fagerlind om det senaste som hänt i finans- och försäkringsbranschen, vilka trender som påverkar branschen och vad Finansliv har på gång just nu. Nytt avsnitt varje fredag.
Se #finansfredag här
Fyra av talarna på Sustainable Finance finns med på tidningen @veckansaffarer lista över näringslivets mäktigaste kvinnor. ⭐️Anna Ryott, Summa Equity ⭐️Maria Mähl, Arabesque ⭐️Anna Felländer, AI Sustainability Center ⭐️Carina Lundberg Markow, Folksam
Stockholm Green Digital Finance vill sänka trösklarna för grön finansiering med hjälp av blockchainteknik. Lyssna till Cecilia Repinski, vd och medgrundare, på Sustainable Finance den 28 mars. foto: Oskar Omne
Vår fotograf @donkadoo fotar @evatrouin på Swedbank. Missa inte intervjun med henne i nästa nummer av Finansliv!
Filippa Bergin, ansvarig för stora kunder och affärsutveckling i Ekobanken, är en av talarna på Sustainable Finance den 28 mars.
I veckan kommer årets första nummer av #finansliv Innehåller bl.a. #lön #paytech #danskebank #fintech #nordea, krönika av @framtidsfeministen och mycket mer! Omslagsfoto: @oskaromne
En av talarna på Sustainable Finance den 28 mars är Anna Felländer, grundare av AI Sustainability Center. @aisustcenter Glöm inte att boka dina biljetter på finansliv.se.
Följ @Finansliv på Instagram