Riktlinje för generativ AI med kommentarer
Riktlinjen för för användning av generativ AI i undervisning och examination träder i kraft den 20 januari 2025. Riktlinjen finns i universitetets mål och regelsamling.
Riktlinjen är utformade i linje med de grundprinciper för ansvarsfull AI-utveckling som Rektor uttryckte på Rektors blogg den 6 september 2024:
- uppmuntra till ansvarsfull, etisk användning och testning av generativa AI-verktyg,
- stödja vår personal i att bli AI-kunniga,
- hjälpa studenter att använda generativ AI på ett effektivt, lämpligt sätt i lärandet,
- främja AI-anpassning av undervisning och examination,
- säkerställa att informationssäkerhet, dataskydd, upphovsrätt, akademisk integritet upprätthålls,
- samarbeta kring bästa praxis när tekniken och dess tillämpning utvecklas.
Framtagandet av riktlinjen innebar många, ibland komplexa, överväganden. På denna sida kommenteras de överväganden som gjorts för varje enskild riktlinje.
1. Om användningen av generativ AI är begränsad vid undervisning och/eller examination, ska detta tydligt framgå av skriftlig information. Begränsningen ska kunna motiveras utifrån kunskapsmål, uppgiftens karaktär eller pedagogiska överväganden. Vid undervisning och examination ska det även tydligt framgå av
skriftlig information om användning av generativ AI ska redovisas.
Kommentarer riktlinje 1
Utvecklingen av generativ AI påverkar samtliga lärare och studenter på universitetet på ett eller annat sätt. Tekniken kan påverka alltifrån hur utbildning bedrivs, hur den examineras, till vad som behöver läras ut. Det är viktigt och nödvändigt att lärare och studenter utforskar hur generativ AI kan, och bör, användas, på den högre utbildningens egna villkor och för dess syften.
Det finns också ofta goda skäl att begränsa användningen av generativ AI i utbildningen, i relation till utbildnings- och examinationsmål men också av pedagogiska skäl. Vad som är lämpligt kan skilja sig kraftigt både inom och mellan kurser.
Kursansvariga/examinatorer planerar och genomför undervisningen och examinationen, och det är troligen till dem som studenterna i första hand ställer sina frågor. Då ska eventuella begränsningar på den aktuella kursen kunna motiveras.
Gällande kurser på forskarnivå har handledare och institution ansvar för att tydligt i skriftlig form informera om i vilken utsträckning användning av generativ AI är begränsad alternativt måste redovisas av doktoranden.
Information om begränsning av användning av generativ AI måste finnas tillgänglig i skriftlig form, exempelvis vid kursstart via kursens hemsidor i Studium. I samband med examination går det bra att använda vedertagna formuleringar som exempelvis ”Tillåtna hjälpmedel är…”.
Inom ramen för ett program eller ett ämnes samlade kursutbud är det klokt att arbeta fram ett gemensamt förhållningssätt till vilken roll generativ AI ska spela i undervisningen, och därmed ge enskilda lärare stöd när de i sin tur behöver formulera instruktioner för en specifik kurs. Detta kan leda till att kurs- och programplaner behöver skrivas om för att lägga till eller förtydliga lärandemål.
En särskild fråga gäller när och hur användning av generativ AI ska redovisas. Ett generellt krav på att alltid ange när och i vilket syfte generativ AI har använts blir snabbt orimligt när även enkla rättstavningsprogram kan innehålla komponenter av generativ AI. Krav på transparens måste därför utformas för de sammanhang där de är relevanta.
Idag har många akademiska tidskrifter och organisationer långtgående krav på redovisning av användning av AI. Speciellt inom forskarutbildningen kan det vara klokt att anpassa lokala regler efter den vetenskapliga praxis som utvecklas i det egna ämnet.
I de fall där otillåten användning av generativ AI har förekommit kan dessa bli ett disciplinärende (se rutiner för misstanke om vilseledande vid examination). Om en student i en examination inte efterlevt de begräsningar gällande användning av generativ AI som är uppsatta så kan det betraktas som fusk, men det kan vara väldigt svårt att leda i bevis. Om en lärare misstänker otillåten användning av generativ AI i en examination, kan hen behöva ta till alternativa bedömningar/kompletterande examination för att på så vis avgöra om en student uppnått lärandemålen. Stor osäkerhet gällande om en student använt generativ AI i examination kan även utgöra grund för att inte godkänna ett arbete.
2. Studenter som planerar att använda generativ AI i samband med undervisning eller examination ansvarar för att hålla sig informerade om både centrala och eventuella lokala riktlinjer.
Kommentarer riktlinje 2
Studenter har ett ansvar för att ta reda på vad som gäller för den aktuella utbildningen/kursen som de följer. En student kan inte utgå från att det som gällde på en tidigare kurs också gäller på den aktuella kursen. Om de skriftliga instruktionerna uppfattas som otydliga är det studentens ansvar att efterfråga förtydliganden.
3. Om studenter förutsätts att använda generativ AI inom undervisning eller examination, måste kursansvarig/examinator kunna tillse att verktyg tillhandahålls utan kostnad för studenten. Om doktorander förutsätts att använda generativ AI, ligger ansvaret på huvudhandledaren att tillse att lämpliga verktyg är tillgängliga utan kostnad för doktoranden.
Kommentarer riktlinje 3
Detta krav lutar sig mot redan existerande riktlinjer för studenternas arbetsvillkor, punkt 5.5. Studenterna får inte åläggas att betala för kurslitteratur, kompendier, datorlicenser eller studiematerial i övrigt. Universitetsbiblioteket ska tillse att kurslitteratur finns tillgänglig åtminstone som referensexemplar. Institutioner ska på motsvarande sätt tillse att övrigt material, t. ex. kompendier, finns tillgängligt som referensexemplar. Samma sak gäller för nödvändiga datorlicenser som ska finnas installerade på campusdatorerna.
Doktorander omfattas inte av studenternas arbetsvillkor, men bör ändå ha fri tillgång till de AI-verktyg som krävs för att delta i undervisning och examination.
4. Den person som tagit AI-genererat material i bruk ansvarar för hur det används. Akademisk redlighet, ett kritiskt förhållningsätt till materialets pålitlighet samt etiska överväganden ska genomsyra användningen.
Kommentarer riktlinje 4
Den som använder generativ AI, d.v.s. system som utifrån instruktioner från användaren skapar nytt material, har det yttersta ansvaret för att kritiskt granska samt bedöma kvalitén och lämpligheten i det genererade materialet. Alla som använder generativ AI behöver utveckla en grundläggande AI-litteracitet för att kunna hantera denna klokt och ansvarsfullt. Detta gäller både lärare som väljer att inkorporera AI-verktyg i undervisningen, studenter samt doktorander som själva väljer att använda sig av tekniken. Till AI-litteracitet hör grundläggande kunskaper om hur systemen fungerar, om deras grad av pålitlighet, deras transparens vad gäller vilka källor som används när svar genereras, legala och etiska aspekter, samt inte minst tillägna sig ett självständigt, kritiskt förhållningssätt till det material som genereras. AI-verktygen omges av många etiska och juridiska frågor. De kan uppvisa skeva eller direkt påhittade svar (bias, resp. så kallade hallucinations), som kan medverka till att vilseledande eller helt felaktiga påståenden får spridning. Generativ AI kan också tillhandahålla svar som är av en sådan karaktär att om de inte kritiskt beaktas riskerar att diskriminera och/eller reproducera fördomar och generaliseringar om vissa grupper.
Utnyttjandet av data och upphovsrättsligt skyddat material som ligger till grund för deras träning medför risker för den akademiska integriteten, och hanteringen av personuppgifter och forskningsdata är andra potentiellt problematiska aspekter att ta hänsyn till.
Likaså kan även hållbarhetsperspektiv, som potentiellt vidgade ekonomiska klyftor och maktförhållanden mellan olika delar av världen, arbetsförhållandena för dem som arbetar med att träna och ”uppfostra” modellerna, och verktygens ansenliga energiförbrukning kritiskt diskuteras.
Studenter, doktorander och lärare kan tillägna sig ett kritiskt förhållningssätt genom att använda verktygen på ett strukturerat, genomtänkt vis. En god utgångspunkt är att betrakta AI-genererat material som råmaterial, som behöver värderas, ibland kasseras, och oftast bearbetas för att bidra till egna, självständiga resonemang och lösningar.
Universitetets centrala stödenheter erbjuder utbildningar och andra resurser som vänder sig både till institutioner och enskilda lärare och på så vis bidrar till utvecklingen av AI-litteracitet. Även om de flesta utbildningar och kurser på universitetet inte har AI-litteracitet som ett lärandemål, så är undervisningen den främsta plats där studenterna kan förväntas utveckla AI-litteracitet. En central roll spelar också det stöd som erbjuds av Universitetsbiblioteket och Språkverkstaden. I dagsläget riskerar dock utvecklingen av AI-litteracitet att falla mellan stolarna eftersom det inte finns med i allmänna utbildningsmål, kurs- eller programplaner.
5. Känsliga personuppgifter får endast överföras till ett av universitet godkänt system för generativ AI.
Kommentarer riktlinje 5
Samma försiktighet behöver iakttas vid användning av system för generativ AI som gäller andra system som styrs av existerande dataskyddspolicy.
6. Utan tillstånd från student får studenters material inte överföras till system för generativ AI som kan tänkas använda det för att träna systemen.
Kommentarer riktlinje 6
Generativ AI behöver tillgång till ofantligt stora mängder material. Det material som användare laddar upp till verktygen utnyttjas därför ofta för att träna modellerna. Mycket av detta material har varit och kan vara upphovsrättsligt skyddat. Huruvida detta har varit tillåtet eller rentav olagligt utgör för närvarande en kontroversiell tvistefråga, som också har lett till pågående rättsprocesser. Inom EU har den s.k. EU AI Act trätt i kraft i augusti 2024, och där finns bestämmelser som framför allt ålägger AI-företag större transparens omkring vilket material som används för att träna modellerna.
Andra bestämmelser i EU AI Act verkar ev. kunna beröra dem som använder systemen, d.v.s. ytterst lärare och studenter vid UU. Den exakta tolkningen av vad detta innebär är fortfarande inte helt klart, och en omformulering av riktlinjen kan därför bli nödvändig.
UUFS uttryckte i remissvar och att det är viktigt för studenter att material de producerar inom ramen för deras utbildning inte sprids vidare till system för generativ AI då materialet kan vara/bli föremål för upphovsrättsskydd. I väntan på att en tydligare praxis kring användning av AI-verktyg i undervisning och examination inom högre utbildning växer fram, bedömdes denna begränsning vara en rimlig begäran från kårerna.