Regleringar av AI - lagar och riktlinjer

Inom ett så snabbt växande och utmanande område som AI kan det vara svårt att veta vad som är tillåtet och lämpligt, och vad som räknas som otillåtet eller olämpligt. Många lärare och studenter har inte hunnit tänka igenom och diskutera implikationerna för undervisningen. Någon säker praxis har ännu inte hunnit utvecklas, och tillämpligheten av äldre lagstiftning eller regelverk behöver inte vara enkel att avgöra.

Situationen är naturligtvis otillfredsställande för både lärare och studenter, som önskar större klarhet.

Inom tre områden har utvecklingen av AI varit särskilt kontroversiell inom den högre utbildningen: akademisk integritet; GDPR-relaterade frågor om personlig integritet; och upphovsrättsliga frågor.

Akademisk integritet

Att utge ett arbete som sitt eget, när det i själva verket har utförts av någon annan är ett grundläggande brott mot akademisk integritet. I undervisningssammanhang bedöms det som vilseledande vid examination. Här har olika sorters generativ AI medverkat till framväxten av en gråzon, där studenter ofta inte vet var gränsen går mellan vad som bedöms som fusk och vad som är legitimt bruk av AI-verktyg.

Olika universitet har agerat olika inför utvecklingen. Ett fåtal har tills vidare förbjudit sina studenter att överhuvudtaget använda generativ AI, vilket troligen är ohållbart. Vanligare är att man via centrala och/eller lokala riktlinjer fastslår hur AI får eller inte får användas i olika situationer. Ett vanligt krav kan gälla transparens, d.v.s. att omfattningen av sådan användning alltid ska deklareras tydligt och öppet. Ett internationellt, europeiskt forum som arbetar med dessa och andra frågor är The European Network for Academic Integrity (ENAI)

Riktlinjer är utan tvekan önskvärda för tydlighetens skull, men viktigast är att de akademiska kärnvärden som de slår vakt om präglar studenternas lärmiljö under hela utbildningen.

Personlig integritet

De mängder av data som hanteras av AI-system och som också kan inkludera potentiellt känsliga personuppgifter måste hanteras ansvarsfullt. De olika verktygen har alla naturligtvis sina användarvillkor som redogör för hur persondata hanteras, men det finns också lagstiftning som sätter ramar för vad som är tillåtet. Inom EU trädde EU AI Act i kraft i mars 2024. Dess krav riktar sig i första hand till de aktörer som utvecklar verktygen, men även till de organisationer som gör dem tillgängliga för sina användare, t.ex. universitet.

EU AI Act förbjuder viss användning av AI helt och hållet, i synnerhet när den kränker personlig integritet, och klassificerar annan AI i olika riskgrupper. Strängast bestämmelser gäller för en högriskgrupp, där särskilda krav måste uppfyllas. Här kan noteras att system som rör "Evaluating learning outcomes, including those used to steer the student’s learning process. Assessing the appropriate level of education for an individual. Monitoring and detecting prohibited student behaviour during tests" räknas till högriskgruppen. Vill man t.ex. utveckla avancerad s.k. learning analytics med hjälp av AI behöver man alltså kontrollera hur långt det är möjligt att driva det.

EU AI Act kommer utan att tveka att få konsekvenser även för svensk högre utbildning och förhoppningsvis kommer universiteten inom kort att få större klarhet i vad detta kan komma att innebära. Tills vidare ska användare följa existerande regelverk för hantering av persondata, och t.ex. aldrig ladda upp studenters person- eller kontaktuppgifter i olika AI-verktyg.

Upphovsrätt

En hel del av de träningsdata som använts för att träna språkmodellerna har varit upphovsrättsligt skyddat material - det gäller både texter, bilder och annan media. Aktörer har i allmänhet inte begärt tillstånd för att ladda upp detta material, fast språkmodellerna inte skulle ha utvecklats till de kommersiellt framgångsrika system de blivit utan tillgång till det.

I USA har detta redan lett till rättsfall, där bl.a. bildkonstnärer stämt företag för intrång i upphovsrätten, medan företagen ofta hävdar s.k. fair use. I EU håller ett striktare synsätt på att etableras, I EU AI Act fastslås bl.a. krav på större transparens från de olika plattformarna om vilket material som använts för att träna modellerna. Läget vad gäller ev. ersättning till upphovsrättsinnehavare är fortfarande så pass oklart att det kan vara klokt att vara försiktig med att ladda upp skyddat material till AI-verktygen.

Läs mer!

Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators (EC 2022)

Regulating AI in education roadmap (COE, 2023)

What you need to know about UNESCO’s new AI competency framworks for students and teachers (UNESCO 2024)

ENAI Recommendations on the ethical use of Artificial Intelligence in Education

The EU AI Act

Generative AI and Copyright Law

Om upphovsrätt på AI-genererade bilder

Förslag till utformning av lokala riktlinjer för användning av generativ AI för studenter vid UU