Forskningsprojekt Etiska och juridiska utmaningar med AI-drivna praktiker inom högre utbildning
AI-tekniker är kraftfulla och har stor disruptiv potential. Men tekniken medför också grundläggande etiska och juridiska utmaningar, inte minst inom högre utbildning. I detta projekt sammanför vi offentliga och privata utbildningsintressenter för att undersöka värderingar och etiska förhållningssätt i praktiken.
Den senaste utvecklingen inom teknikstött lärande innebär att artificiell intelligens (AI) kan användas för att bättre förstå och optimera studenters lärande. AI-tekniker kan också säkerställa en förbättrad utbildningskvalitet och minska studentbortfall.
En större förståelse för komplexiteten i nuvarande utbildningspraxis skulle kunna vara till nytta för både studenter och för utbildningsinstitutioner. Men insamlingen och användningen av studentdata innebär ett antal etiska och juridiska utmaningar som förtjänar att uppmärksammas och utforskas.
I detta forskningsprojekt intresserar vi oss för de etiska och juridiska utmaningar som uppstår när AI-teknik används i högre utbildning. Projektet bidrar till att höja medvetenheten om ansvarsfull användning av AI genom att undersöka diskurser, erfarenheter och värderingar kring dessa framväxande tekniker, i synnerhet i relation till högre utbildning i en svensk kontext.
Projektbeskrivning
Detta forskningsprojekt är grundat i post-fenomenologiska undersökningar av människa–teknik-relationer och anammar en tvärvetenskaplig och relationell förståelse för framväxande AI-baserad utbildningspraxis inom högre utbildning. Projektet ska tillföra kunskap om hur forskningen inom teknikstött lärande kan konceptualiseras samt empiriskt studera etiska och juridiska utmaningar, men också hur olika utbildningsaktörer som är verksamma i Sverige kan hantera etiska frågor i praktiken.
Projektet bidrar till att höja medvetenheten om ansvarsfull användning av AI inom den högre utbildningen. Den övergripande frågeställningen är: Vilka etiska och juridiska utmaningar uppstår utifrån användningen av AI-tekniker i den högre utbildningen, och hur kan direkta och indirekta utbildningsintressenter hantera dem? Mer specifikt fokuserar projektet på AI-tekniker som en del av användningen av framväxande datadrivna metoder inom den högre utbildningen.
Projektet kommer att involvera universitetslärare, studenter, personer med lednings- och administrativa funktioner inom universitet, samt representanter från edtechföretag som utvecklar verktyg som använder AI-tekniker. De konceptuella, empiriska och pragmatiska undersökningar som genomförs inom ramen för forskningsprojektet kommer att bidra till en förståelse för hur AI-baserade tjänster kan fungera på studentdata. Viktigast av allt är att undersökningarna bringar kunskap om risker som kan förknippas med tjänsternas användning i etablerade undervisningspraktiker.
Vår forskning undersöker och utvärderar de möjligheter och utmaningar som AI-teknik för ”learning analytics” och prediktiv modellering via algoritmiskt beslutfattande ger de utbildningsintressenter som i dag utvecklar, underhåller och använder sådana tekniker. Forskningen har också en utblick mot kommande tekniker i högskolesammanhang. I denna anda kommer vår forskning att bidra till kunskap om hur man kan engagera sig i de etiska aspekterna av innovativa utbildningspraktiker där AI-teknik spelar en specifik roll.
Detta projekt, baserat på en post-fenomenologisk ansats, försöker bidra till en förståelse för att etiken i AI-drivna praktiker inte bara är egenskaper hos artefakterna själva (till exempel ”privacy-by design”), hos de olika verktygen. De uppstår när artefakter införlivas i användares aktiviteter och praxis.
Projektmedlemmar
Projektansvariga
Teresa Cerratto-Pargman
Professor
Medlemmar
Cecilia Magnusson Sjöberg
Professor
Cormac McGrath
Universitetslektor
Liane Rose Colonna
Bitr. lektor, docent
Elin Sporrong
Doktorand
Chantal Mutimukwe
Universitetslektor
Alexandra Farazouli
Doktorand
Jaakko Hollmén
Universitetslektor
Clàudia Figueras Julián
Doktorand
Johanna Velander