Möjligheter och svårigheter

Generativ AI används redan av både studenter, lärare och forskare, för många olika ändamål. Här ges bara en kort översikt av de oftast anförda, allmänna för- och nackdelarna med användning av generativ AI inom den högre utbildningen. Tillsammans kan de ge en snabb ingång till diskussionen om möjligheter och risker med generativ AI.

Fördelar med generativ AI

Effektivitet

Generativ AI kan utföra vissa sorters tidskrävande arbete många gånger snabbare än människor: vi kan spara massor av tid. Olika verktyg erbjuder möjligheter att utifrån givna instruktioner t.ex.

• snabbt sammanfatta innehållet i långa och/eller många dokument på ett strukturerat sätt
• bedöma studenters svar på skriftliga uppgifter utifrån uppställda kriterier, och formulera återkoppling på dem
• skapa formella mötesprotokoll utifrån mötesanteckningar
• formulera text till standardmail till studenter
• hitta referenser som stödjer argumentationen i en text

Individualisering av undervisningen

Studenternas aktiviteter i de digitala plattformar där mycket av deras undervisning äger rum, där det material som de producerar samlas över tid och där deras resultat bokförs kan analyseras på individnivå genom avancerad s.k. Learning Analytics och med ledning av det kan generativ AI automatiskt föreslå relevanta stödresurser och -insatser och/eller fördjupningsmaterial. På så vis kan universitetet erbjuda allt bättre stöd för mer individanpassade studiegångar, med både höjd kvalitet och förbättrad genomströmning som förväntat resultat.

Kreativitet

Med verktyg som ChatGPT kan man föra en konversation, där man framkastar idéer, får återkoppling, svarar med en invändning eller precisering o.s.v. AI kan t.ex.

• utgöra ett bollplank för att diskutera möjliga lösningar på ett problem, eller för att lösa upp skrivkramp och komma igång med en text
• leverera förslag på struktur och innehåll för en föreläsning, samt även skapa en tillhörande Powerpoint-presentation
• skapa bilder som illustrerar din presentation
• leverera förslag till text för ett PM, en rapport eller liknande, komplett med referenser

Textbearbetning

Man kan också använda AI för att bearbeta egna texter. Ladda upp en text och

• be AI att göra en stavnings- och grammatikkontroll
• be AI att förenkla en avancerad text så att den förstås bättre av någon med mindre förkunskaper i ämnet
• be AI att översätta texten till engelska (eller något annat språk)

Nödvändig anpassning

Det kan av olika anledningar anses ofrånkomligt att använda AI. Man kan hävda att

• det för ett nyfikenhetsdrivet universitet kan ses som självklart att testa AI-verktygen
• det inte är mer dramatiskt än att använda en miniräknare - kontroversiellt en gång tiden, men snabbt normaliserat
• alla gör det - UU:s utbildningar får inte hamna på efterkälken
• olika sorters generativ AI kommer att bli, eller är redan vardag inom många av de yrken mot vilka studenter siktar
• vi måste inse att vi aldrig kommer att kunna övertyga studenter att lägga ner lång tid på att producera texter som de kan generera på några minuter med AI

Nackdelar med generativ AI

Opålitlighet

En grundläggande invändning rör kvaliteten på de svar som genereras utifrån de olika språkmodellerna, som alla i olika hög grad dras med svagheter som:

• bias - urvalet av träningsdata är ofta skevt, och därmed riskerar alla svar som genereras att t.ex. missgynna vissa språkområden, eller att reproducera olika kulturella stereotyper som finns i träningsdata. Svaren kan i värsta fall systematiskt bidra till att befästa missuppfattningar och felaktigheter och bekräfta ensidiga eller förvridna synsätt.
• hallucinationer - som det kallas när AI-verktygen helt enkelt producerar helt påhittade fakta och falska påståenden. De är utan tvekan i stånd att ibland ljuga mycket självsäkert och övertygande (utan avsikt att ljuga, utan enbart för att kunna ge ett svar på en ställd fråga).
• inkonsekvens - för AI-verktygen är tjänstvilliga och ger (med vissa begränsningar) svar på just det man ber dem om . Ber man dem att komma med en argumentation som motbevisar ett tidigare svar står verktygen till tjänst också med det. De går inte att lita på!

Generativ AI ställer därmed höga krav på användarnas källkritiska kompetens!

Effektivitet - varför och till vilket pris?

Utan tvekan kan man spara tid, men:

• kvaliteten på svaren måste alltså alltid bedömas, och hur ska man lära sig ett kritiskt förhållningssätt om man konstant hoppar över den lärprocess som värdering och urval av källor för ett resonemang innebär, för att inte tala om den intellektuella bearbetning som den egna formuleringen av argument medför?
• även om försök visat att AI kan ge återkoppling i nivå med erfarna lärares, hur ska nya lärare någonsin bli erfarna bedömare? Är det verkligen troligt att de kommer att ha tid att granska AI-återkopplingen? Och hur påverkar det studenternas lärmiljö i längden om lärarna lämnar över mer och mer till AI?
• trots att det skrivs oerhört mycket om att man kan spara tid, talas det mycket litet om vad man gör med tiden man sparar. I företags- eller förvaltningsvärlden kan man naturligtvis se enkla fördelar med ökad produktivitet - men vad innebär det i akademin? Läggs tiden på mer tid till forskning (som också kan effektiviseras med AI)? Eller läggs tiden på undervisningen, kanske för att möjliggöra mer möten mellan lärare och studenter? Eller säger man upp lärare? Och vem bestämmer vad man väljer att göra? Vilka svar man ger på de frågorna är intressantare än konstaterandet att man kan spara tid.

Hur kreativt blir det?

Inom många områden kan viktiga delar av den intellektuella bearbetningen av en frågeställning ofta ske under själva arbetet med att få fram en egen, välformulerad och väldisponerad text. Användning av generativ AI kan leda till att studenter går miste om ett viktigt övningsmoment.

Svårigheter att bedöma studenternas kunskaper

En färdig text av god kvalitet har tidigare framför allt varit ett tecken på att studenter har genomgått en lärprocess med självständig, intellektuell bearbetning av ett material utifrån en problemställning. Det är egentligen genomförandet av den processen som examineras i undervisningen. Ur ett lärarperspektiv riskerar texter och argumentation som i allt högre grad genereras av AI att inte längre ge underlag för en rättvisande examination.

Att avstå från hjälp

när det gäller enkel språkkontroll är kanske sällan nödvändigt (utom för vissa uppgifter, t.ex. i språkämnen!) - men studenterna behöver ta sig tid för att förstå varför, och om, språkliga eller strukturella ändringsförslag från AI verkligen är bättre och rentav nödvändiga, eller om de hellre vill bortse från dem. Kommer de att ha tid och ork att göra det? Väl använt kan AI utgöra ett kraftfullt verktyg för att erövra och utveckla ett eget språk, men det finns en risk att många studenter rutinmässigt accepterar alla AI-förslag, och på kuppen blir språkligt fattigare.

Rädsla för att "missa tåget"

har alltid varit ett dåligt argument för att börja använda teknik i utbildningssammanhang, till skillnad från att ha goda pedagogiska skäl, eller att göra det av nyfikenhetsdrivet intresse.

Att överlåta beräkningar till en miniräknare är inte samma sak som att överlåta formuleringen av texter till ett AI-verktyg. Språkliga uttrycksmedel är mer grundläggande för hur vi tolkar, förstår och förhåller oss till världen, och variationen av olika texttyper av olika dignitet är jättelik. Naturligtvis behöver man inte alls alltid och för alla typer av texter fästa lika stor vikt vid vem som formulerat dem, men den enkla, svepande analogin med miniräknaren är helt enkelt missvisande.

Med det sagt, är det utan tvekan så att alla lärare behöver känna till AI-verktygen och hur de fungerar, för studenterna använder dem redan och det kan behöva få viktiga konsekvenser för hur man utformar både undervisning och examination. Och naturligtvis bör utbildningar förbereda studenter för ett yrkesliv där AI spelar en viktig roll. Men det är först utifrån den analysen som ett lärarkollegium kan komma överens om vad som bör gälla på dess kurser, och hur det ska kommuniceras till studenterna. Att ängsligt börja använda generativ AI främst för att inte vara omodern är ingen god idé.

Etiska och juridiska problem

Till sist finns det ytterligare några problemområden som man kan behöva ta ställning till som presumtiv användare av generativ AI. Det är värt att notera att dessa aspekter ofta lyfts av studenter som oroande faktorer.

• Vad händer med den akademiska integriteten, när studenter (men också lärare och forskare) kan låta AI-verktygen leta källor, sammanfatta dem, föreslå en disposition, och generera artikeltexten? Vad utgör fortfarande självständigt intellektuellt arbete? Var drar vi gränsen mot fusk och bedrägligt beteende? Och vilken transparens vad gäller AI-användningen behövs för att avgöra det?
• Det finns också en kritik, inte minst från det globala syd, om ett kolonialt förhållningssätt till data. De stora språkmodeller som finns har framför allt utvecklats av privata, kommersiella bolag i Nordamerika och Västeuropa. De har däremot tränats på data. som samlats in över hela världen, ofta utan att något särskilt tillstånd har inhämtats. Därefter säljs AI-tjänsterna och genererar vinst åt bolagen. Inte alla finner detta rimligt.
• En angränsande rättviseaspekt rör hur AI-verktygen "uppfostras". Alla större aktörer förser sina verktyg med olika spärrar, som ska förhindra att de genererar innehåll som är olagligt eller på annat sätt olämpligt. Systemen vägrar t.ex. att svara på frågor om bombtillverkning, att generera innehåll som kan utgöra hets mot folkgrupp, eller bilder som visar djupt stötande innehåll. Det nödvändiga, påfrestande och tidskrävande arbetet att gå igenom material som inte ska kunna användas för att generera olämpliga svar utförs i stor utsträckning av lågbetald arbetskraft i det globala syd, medan de användare som drar nytta av det fortfarande i stor utsträckning finns i USA och Västeuropa.
• En fjärde faktor rör hållbarhetsaspekter: generativ AI drar mängder med energi, jämfört med traditionella webbtjänster. I takt med att språkmodellerna växer och antalet användare ökar krävs mer och mer el för att generera texter, bilder, videos m.m.
• En sista faktor rör upphovsrättsliga aspekter. I USA pågår redan rättsprocesser där upphovsrättsinnehavare (bildkonstnärer, författare m.fl.) önskar retroaktiv ersättning för att deras verk laddats upp som träningsdata till olika språkmodeller. Det är också en växande fråga på andra håll, och föremål för lagstiftning på EU-nivå. Rättsläget är fortfarande oklart - men det kan finns anledning att avstå från att utan tillstånd ladda upp upphovsrättsligt skyddat material till AI-verktyg.