»Chat GPT är en svart låda«

Sedan Chat GPT lanserades i november förra året har det knappt gått en dag utan nyheter om chatboten. Det har handlat om allt ifrån skolfusk till robotrevolution. Hyllningarna är många, varningarna likaså.

Så vad är egentligen Chat GPT? Själva förkortningen står för Chat Generative Pre Trained Transformer. Det är alltså en generativ artificiell intelligens, vilket innebär att den kan skapa – generera – text som inte funnits tidigare.

AI har funnits länge, till exempel i form av olika chatbotar som svarar på enklare kundfrågor på hemsidor. Generativ AI använder maskininlärning för att analysera stora mängder text, bild och data, i Chat GPT:s fall inhämtat från internet. Med hjälp av algoritmer kopplar den ihop den data som är mest sannolik att höra ihop, och skapar meningar eller bilder som inte är fördefinierade.

Chat GPT har skapats av Open AI, ett ideellt forskningsbolag som grundades 2015 av bland andra Elon Musk. Enligt Open AI vill bolaget utveckla artificiell intelligens på ett etiskt och hållbart sätt och göra tekniken tillgänglig för alla.

Om nu AI har funnits länge, varför är det så mycket snack om just Chat GPT? Jo, den är tränad på en enorm mängd data och programmeringen gör den till en av de mest avancerade generativa AI som finns. Chat GPT kan både förstå och svara på frågor inom en mängd olika områden på ett naturligt och relevant sätt. Till skillnad från många andra chatbotar är svaren svåra att skilja från en människas. Dessutom är den i grundversionen gratis och därmed tillgänglig för väldigt många människor.

»Det finns ett före och efter GPT, så enkelt är det.«, skrev Breakits krönikör Mikael Pawlo i början av december, en vecka efter att Chat GPT släppts. Då hade AI-tjänsten redan nått 1 miljon användare. Två månader senare var det 100 miljoner.

– Tekniken har spridit sig exceptionellt snabbt, det är enkelt att interagera med den och man får ganska bra svar på många frågor. Men risken med en hype är att man överskattar den i början. Jag tror vi är i toppen av hypen just nu, där alla tror att Chat GPT ska förändra allt. Det är fortfarande en svart låda, säger Stephan Erne, chief digital officer på Handelsbanken.

Dagens förutsägelser om hur Chat GPT kommer att påverka oss i framtiden är lika otillförlitliga som 90-talets uttalanden om internets framtid, anser han.

– Men att Chat GPT kommer påverka är uppenbart, säger Stephan Erne.

Han ser flera möjliga användningsområden i finansbranschen, bland annat som stöd för kundservice, intern kommunikation och för utvecklare. Alla yrkesgrupper som hanterar stora mängder information och data kan ha nytta av den här formen av generativ AI, anser Stephan Erne, eftersom den kan förstå samband mellan olika datapunkter.

– Det är kanske det mest intressanta med generativ AI. Det finns mycket regelverk och instruktioner i finansbranschen, där tror jag att tekniken kan hjälpa att få rätt information sammanfattad snabbt, och hitta samband och göra det lätt att göra rätt.

Nicolas Moch och Anastasia Varava på SEBx instämmer.

– Vi ser flera möjligheter för Chat GPT. Allt som baseras på analyser av stora mängder text och kod kan den användas till, som compliance och kundservice. Även cybersäkerhet och bekämpning av finansiell brottslighet om några år, säger Nicolas Moch.

Han är chef på SEB:s innovationsstudio SEBx, där Anastasia Varava är forskningsledare. SEBx testar just nu ett antal potentiella applikationer
för Chat GPT, bland annat inom compliance.

Men Chat GPT inte är den enda generativa AI:n, påpekar Anastasia Varava.

– Vi undersöker även andra modeller, som klarar faktakontroll och kan visa var informationen har inhämtats. GPT baseras enbart på internet, och den är inte optimerad för att ge korrekta svar, säger hon.

Det är ett av problemen som lyfts med Chat GPT. Hur övertygande chatbotens svar än låter finns det nämligen inget som garanterar att de är sanna. Om Chat GPT ska användas av företag krävs i nuläget därför en människa som kan verifiera äktheten i informationen. Dessutom riskerar den att förstärka medvetna och omedvetna fördomar, eftersom den baseras på information från internet.

– Nuvarande modeller är inte så transparanta gällande data och hur de har lärts upp. Jag tror de måste komma några steg till för att vi ska kunna använda dem i finansbranschen, säger Stephan Erne.

Även Handelsbanken utreder hur man kan använda Chat GPT och liknande modeller i sina egna system. Stephan Erne tror att Microsoft – som investerat stort i Open AI – kommer att erbjuda företagsanpassade modeller av Chat GPT framöver. Microsoft har redan släppt en ny version av sin sökmotor Bing som har en integrerad Chat GPT-funktion, Bing Chat.

– Vi får se vad vi som bank kommer att bygga själva och vad som kommer vara tillgängligt via de stora teknik­företagen, som Microsoft. Det är extremt spännande att se vad som händer just nu, hur de stora spelarna och kanske nya företag kommer att hantera riskerna och göra generativ AI tillgängligt för många, säger Stephan Erne.

Förutom risken för felaktiga svar, så kallade hallucinationer, finns en annan risk som är avgörande för finansbranschen. Den information som du delar med Chat GPT använder chatboten som träningsdata och kan dela vidare fritt, vilket är ett problem med tanke på banksekretessen.

– Det är en stor begränsning för banker. Det finns inget sätt att kontrollera informationen du delar med Chat GPT, den kan dyka upp någon annanstans, säger Nicolas Moch.

Av det skälet kanske SEB måste bygga en egen modell, enligt Nicolas Moch. Anastasia Varava tror dock att det går att lösa genom att styra var informationen finns.

– Jag tror inte det kommer bli nödvändigt att bygga en egen modell, det är mer frågan om man kan spara och hantera informationen lokalt.

Hon tycker att finansbranschen bör använda de bästa delarna av tekniken, som är just förmågan att bearbeta stora mängder information. Men hon tror inte att Chat GPT eller liknande modeller kommer kunna ersätta människors jobb.

– Jag tror inte att några jobb är i fara. Det handlar mer om att bygga ett supportsystem för våra anställda, som till exempel kan hjälpa rådgivare att snabbare svara på frågor om olika regelverk. Men då är faktagranskning viktigt, säger Anastasia Varava.

Stephan Erne på Handelsbanken instämmer.

– Vi vet att våra medarbetare lägger mycket tid på administrativa uppgifter, och att de gärna skulle lägga mer tid på att prata med kunder. Om de här kan frigöra tid för det så kan det bli ett bra stöd för att hantera enklare uppgifter och kundfrågor. Men det kommer inte ta bort behovet av att prata med en riktig människa.

Finansförbundets ordförande Ulrika Boëthius är försiktigt positiv till generativ AI, liksom alla teknikförbättringar.

– Det här är ytterligare ett steg i teknikutvecklingen som man fortfarande inte vet vad det kommer leda till. Förhoppningsvis kan det avlasta arbetsuppgifter som är monotona och lite tråkiga, så att människan får göra det som är mer utvecklande.

Hon anser att de fackliga före­trädarna bör få full insyn i vilka AI-modeller som används och hur.

– Framför allt om systemen kan användas för att övervaka medarbetare.

Generellt är de anställda i finansbranschen vana vid att anpassa och förändra sitt arbetssätt i takt med utvecklingen, enligt Ulrika Boëthius. Och även om digitaliseringen har inneburit allt färre anställda på bankkontoren har antalet anställda totalt sett i finansbranschen inte minskat nämnvärt, påpekar hon.

– Rena kundmottagare har blivit färre, men å andra sidan har det blivit fler inom till exempel compliance och it. Jag tror inte att Chat GPT behöver innebära några dramatiska förändringar på kort sikt, utan jag tror på en utveckling av arbetsuppgifterna, säger Ulrika Boëthius.

Men generativ AI kommer antagligen få stor inverkan på jobben inom kundservice, enligt forskaren Georg Graetz. Han är docent vid Nationalekonomiska institutionen på Uppsala universitet och forskar på teknisk utveckling på arbetsmarknaden. Han har själv inte studerat just AI, men däremot sammanfattat den forskning som finns på området.

– Vi är ännu i början av utvecklingen för Chat GPT och liknande modeller, men man tror att kundtjänstsystem framöver kommer att bestå främst av AI, med möjlighet att prata med en riktig människa vid behov, säger Georg Graetz.

»Det kanske kommer bli färre anställda på analyssidan, men så fort det gäller beslutsfattande kommer vi vilja ha människor.«

I finansbranschen finns många yrkesroller som hanterar stora mängder data där Chat GPT kan vara användbart, tror Georg Graetz. Men i sista ledet krävs alltid en människa, anser han.

– Det kanske kommer bli färre anställda på analyssidan, men så fort det gäller beslutsfattande kommer vi vilja ha människor.

Chat GPT behöver inte bara ersätta människor utan kan också förbättra anställdas arbetsinsatser, enligt Georg Graetz. Intressant nog visar forskningen att de anställda som hittills gynnats mest av Chat GPT är de som jobbar lite långsammare. När man mätt produktivitet och svarsfrekvens i kundtjänst med och utan hjälp av Chat GPT visar resultatet att chatboten ökar produktiviteten för alla, men mest för de anställda som jobbar långsamt.

– Det här är en spännande ny ingång. Å ena sidan kan Chat GPT påverka många högkvalificerade jobb, men den kan också hjälpa lågkvalificerade, säger Georg Graetz.

Utvecklingen ökar också efterfrågan på personal med erfarenhet och kunskap inom AI, och kan på sikt leda till nya tjänster.

– Vi ser det allt oftare i jobbannonser när företag söker it-specialister och ingenjörer, att de kräver AI-erfarenhet. De som har den kompetensen kommer att gynnas betydligt, säger Georg Graetz.

Samtidigt anser han att det är för tidigt att uttala sig om exakt hur Chat GPT kommer påverka jobben, både i finansbranschen och generellt.

– Det är spekulativt än så länge. Kommer företag att ersätta människor med AI eller bara förbättra deras arbetsvillkor? Det återstår att se.

På längre sikt är det ännu svårare att sia om framtiden för AI. Om Chat GPT och liknande modeller blir ännu mer intelligenta, finns det en risk att de vänder sig emot oss? Kan science fiction-filmer som Terminator och Matrix bli verklighet?

Osannolikt, tror Georg Graetz.

– AI är baserad på vad människor säger åt den att göra. Jag har svårt att se att AI ska kunna stänga av den delen, och bli destruktiv. Men den risken bör definitivt utredas.