Etik en bristvara när appar designas
Rekryteringsverktyg som sållar bort vissa grupper, sajter som lockar till överkonsumtion, och appar som får oss att evighetsscrolla. Etiska överväganden saknas ofta när digital teknik designas, konstaterar Sharon Lindberg. Det vill hon ändra på.
Innan Sharon Lindberg blev doktorand arbetade hon som digital designer. Hon trivdes med jobbet, men branschens ökade fokus på vinst och mätbarhet fick henne att fundera. Finns det en risk att etiska aspekter av design går förlorade? Lindberg beslutade sig för att undersöka detta ur ett vetenskapligt perspektiv.
– Digitala produkter, system och tjänster påverkar oss människor och vår planet – ofta positivt, men ibland också negativt. Det här har studerats utförligt, men de forskningsresultat som finns kring etisk teknikdesign används sällan i praktiken.
– Jag ville därför undersöka hur yrkesverksamma själva ser på saken. Vilka idéer har de som kan göra digital teknikdesign mer etisk? Min forskning presenterar förslag som är förankrade i praktikers problemförståelser, drivkrafter och kunskap om vad som fungerar i verkligheten, säger Sharon Lindberg som har disputerat på Institutionen för data- och systemvetenskap (DSV) vid Stockholms universitet.
Risk att algoritmer exkluderar
Hon påpekar att varken teknik eller design är neutralt. Vilken teknik vi designar, och hur vi designar den, spelar roll – och kan till exempel bidra till att inkludera eller exkludera människor från att göra saker. Med andra ord: Teknik och design har etiska implikationer.
– Ett konkret exempel på hur digital teknikdesign hänger ihop med etik är det som kallas algoritmisk bias, berättar Lindberg.
Med algoritmisk bias menas en slags inbyggda ”fördomar” i koden som kan förstärka existerande ojämlikheter. Det kan exempelvis handla om att rekryteringsverktyg diskriminerar vissa grupper baserat på kön eller etnicitet. För några år sedan uppmärksammades ett sådant fall på Amazon, där algoritmen sorterade bort alla kvinnor som sökte jobb.
– Andra exempel som visar att etik borde ha en mer framträdande roll inom teknikdesign är de appar vi ser som leder till skärmberoende, eller som manipulerar användare till överkonsumtion.
Vad vi tycker är etiskt förändras över tid
Via intervjuer och workshops har Sharon Lindberg undersökt hur personer som arbetar med digital teknikdesign förhåller sig till etik i sitt arbete. Det är möjligt att de som valde att delta är mer etikintresserade än genomsnittet, konstaterar hon.
– Men med det sagt: De som deltog i studierna tyckte att etik kändes vagt och svårt att sätta fingret på, och det är de inte ensamma om att tycka. Etik är ett komplext begrepp, och vad vi tycker är etiskt förändras över tid och beroende på kontext.
– Tidigare var designmönstret ”infinite scroll” ganska vanligt. Det är när en digital tjänst fortsätter att mata på nytt innehåll i till exempel en nyhetsapp. Det kan locka användare att spendera mer tid i appen. I dag tycker många att ”infinite scroll” är oetiskt och har slutat använda det, säger Sharon Lindberg.
Oklart etiskt ansvar
Hennes avhandling visar att det finns flera trösklar till etisk teknikdesign.
– För det första är designers ovana vid etisk reflektion kopplat till designprocessen och design. Att vara ovan kan göra att man känner sig lite dum och därför undviker att närma sig ämnet – på jobbet förväntas man ju kunna sin sak! Det kan också vara svårt att ens få syn på möjliga etiska problem om man inte är van vid att tänka på sådant.
– För det andra saknar etik en tydlig plats i organisationen och det blir därför oklart vem som bär etiskt ansvar. Etik kan dessutom upplevas som något administrativt och tråkigt som man måste bocka av för att komma vidare.
Designpraktikens fokus på mätbara mål är en tröskel i sig.
– Att ha många debiterbara timmar är ofta högt värderat. Vad finns det då för drivkraft för att ägna sig åt etisk reflektion på jobbet? Och vem ska betala för de timmarna?
Etisk reflektion kan vävas in
Trots att deltagarna i Sharon Lindbergs studier såg många utmaningar i etikarbetet, var de också engagerade i att skapa förändring.
– De delade generöst med sig av både erfarenheter och idéer inför framtiden. De föreslog bland annat att väva in etisk reflektion i praktiker som ändå redan sker på jobbet. När de utvärderar olika designförslag skulle de också kunna göra det utifrån etiska perspektiv, menade de.
I avhandlingen diskuterar Lindberg vikten av den sociala kontext där design sker och praktiker utvecklas, där människor samskapar hur de ser på sitt arbete, vad som är viktigt, vad som är gott, hur man gör vad, och vad syftet med det hela är.
– Kontexten påverkar hur designers ser på etik och gör etik i praktiken. I stället för att producera fler checklistor som man måste bocka av föreslår jag att fokusera på hur designers kan utforska etiska problem och lösningar tillsammans. Jag tror att det kan leda till engagemang och praktiskt genomförbar förändring, säger Sharon Lindberg.
Under de senaste åren har branschen förändrats till det bättre
Hon anser att branschen redan har börjat förändras – i positiv riktning.
– Under de senaste åren har branschen förändrats till det bättre. I dag handlar många branschkonferenser, meetups och workshops om etisk design och teknikutveckling.
Med en färsk doktorsexamen i bagaget ser hon fram emot att bidra till förändringsarbetet på två fronter.
– Jag kommer att fortsätta med ett ben i designpraktiken, och det andra i forskarvärlden. Tillsammans med yrkesverksamma i teknikdesignbranschen vill jag vidareutveckla och testa de koncept som presenteras i avhandlingen – och samskapa nya idéer. Det är också intressant att undersöka om de praktiknära idéerna kan omarbetas till ett teoretiskt ramverk för att stödja etisk designpraktik, säger Sharon Lindberg.
Mer om Sharons forskning
Sharon Lindberg disputerade vid Institutionen för data- och systemvetenskap (DSV), Stockholms universitet, 18 oktober 2024.
Hennes forskningsämne är Människa–datorinteraktion
Doktorsavhandlingen har titeln ”Design Ethics at Work”.
Den kan laddas ner från Diva
Handledare för avhandlingsarbetet är Ola Knutsson, Chiara Rossitto och Petter Karlström.
Opponent vid disputationen var Turkka Keinonen, Aalto University, Finland.
Text: Åse Karlén
Senast uppdaterad: 25 november 2024
Sidansvarig: Institutionen för data- och systemvetenskap, DSV