Att gestalta forskning om AI och förtroende
I takt med att AI-baserade kundservicechattar blir allt vanligare väcks nya frågor om transparens, förtroende och ansvar. I många fall möter användaren ett chattgränssnitt utan att tydligt veta om det är en människa eller ett automatiserat system som svarar. I mitt examensarbete har jag undersökt hur användare uppfattar AI i ett reklamationsärende, och hur till synes små designval – såsom AI-märkning och olika beteendecues – påverkar upplevelsen av vem man egentligen pratar med.
Som en del av kursen Medieprojekt termin 5 har jag valt att översätta examensarbetets resultat till ett medieprojekt i form av en kort film. Syftet med filmen är inte att sammanfatta uppsatsen i detalj, utan att kommunicera dess centrala insikter till en målgrupp utanför akademin: företag och organisationer som överväger att införa AI-baserad kundservice på sina webbplatser.
Uppsatsens utgångspunkt och samhällsrelevans
Examensarbetet AI-märkning och beteendecues undersöker hur tydlig respektive diskret AI-märkning samspelar med hur en kundservicechatt beter sig – exempelvis genom språkbruk, svarstempo och användning av skrivindikator – i ett konkret reklamationsscenario. Studien tar sin utgångspunkt i ett växande samhällsproblem: samtidigt som AI används för att effektivisera kundservice och minska kostnader, riskerar användaren att hamna i en situation där det är oklart vem som bär ansvar för kommunikationen.
Transparens lyfts ofta fram som en lösning på detta problem, exempelvis genom att märka chattar som AI-styrda. Tidigare forskning visar dock att sådan märkning inte alltid uppmärksammas av användare, eller att den får den effekt som avsändaren avser. Resultaten i studien visar bland annat att tydlig AI-märkning ökar sannolikheten att användaren uppfattar chatten som AI, men att mer mänskliga beteendecues samtidigt hänger samman med högre upplevelser av kompetens, hjälpsamhet och förtroende. Samtidigt tycks medvetenheten om att chatten är AI öka viljan att prata med en mänsklig handläggare.
Dessa resultat pekar på en tydlig spänning mellan formell transparens och faktisk användarupplevelse. Det räcker inte nödvändigtvis att vara transparent på pappret – transparensen måste också fungera i praktiken och upplevas som rimlig i den aktuella situationen.
Från uppsats till medieprojekt
I stället för att sammanfatta uppsatsen kapitel för kapitel valde jag att gestalta ett av dess centrala budskap: att transparens i AI inte enbart handlar om vad som kommuniceras explicit, utan om hur systemet beter sig i mötet med användaren. Medieprojektet består därför av en kort film som lyfter konsekvenser av designval snarare än metod, teori eller statistik.
Filmen är tänkt att fungera som ett reflektionsunderlag snarare än som en instruktionsfilm. Målet är inte att ge färdiga svar, utan att väcka frågor hos mottagaren: Hur påverkar olika designval användarens förtroende? Vad signalerar en chatt genom sitt tempo, sitt språk och sin tonalitet? Och vilka antaganden gör användaren i mötet med AI, även när märkning finns på plats?
Motivering av kreativa val
Målgrupp
Medieprojektet riktar sig till företag, kommunikatörer och webbyråer som arbetar med – eller överväger – AI-baserad kundservice. Det är en målgrupp som ofta möter AI i praktiken, men sällan tar del av forskning om hur användare faktiskt upplever dessa system. Utgångspunkten har därför varit målgruppens behov av ett språk för att diskutera förtroende, ansvar och användarupplevelse, snarare än tekniska lösningar.
Gestaltning och form
Filmen är kort, visuell och avskalad i sitt uttryck. I stället för att introducera akademiska begrepp i detalj används exempel och påståenden som bygger på studiens resultat, men som är formulerade i ett mer vardagsnära språk. Detta har varit ett medvetet val för att undvika att filmen upplevs som teoretisk eller exkluderande.
Arbetsprocessen har i stor utsträckning handlat om att välja bort. Metodbeskrivningar, teoretiska ramverk och nyanser har fått stå tillbaka för att tydliggöra ett begränsat antal insikter som mottagaren kan bära med sig efteråt. Detta har samtidigt inneburit ett ansvar att inte förenkla resultaten på ett missvisande sätt, utan att behålla deras analytiska kärna.
Reflektion
Att översätta ett examensarbete till ett medieprojekt har tydliggjort skillnaden mellan att redovisa kunskap och att kommunicera den. I uppsatsen är det centralt att visa osäkerhet, begränsningar och metodologiska överväganden. I filmen har utmaningen varit att behålla begreppen och de analytiska tydligheten samtidigt som budskapet måste vara begripligt och engagerande för en publik utan akademisk förförståelse.
En viktig lärdom är att gestaltning inte är en neutral förenkling, utan en aktiv tolkning. De val som görs – vad som lyfts fram, vad som utelämnas och hur något ramas in – påverkar hur forskningen förstås och vilka slutsatser mottagaren drar. Medieprojektet har därför också blivit ett sätt att reflektera över forskningens ansvar i mötet med praktik.
Framtidsperspektiv
Arbetet har väckt ett fortsatt intresse för frågor som rör användarcentrerad AI-design, kommunikation om automatiserade system samt relationen mellan etik, transparens och användarupplevelse. Framöver vore det särskilt relevant att arbeta vidare med hur forskningsbaserad kunskap om AI kan integreras tidigare i design- och beslutsprocesser hos organisationer, snarare än först i efterhand som ett etiskt tillägg.