Artificiellt medvetande: Möjligt, mätbart, önskvärt?
Dömmen om medvetna maskiner kan vara farlig.
I över ett århundrade har science fiction-författare lekt med idén om medveten artificiell intelligens. Nu leker utvecklarna och forskarna. Men varför? Och skulle vi ens känna igen medvetande hos en maskin om det faktiskt skulle uppstå?
Kathinka Evers forskning fokuserar på medvetandefilosofi, neurofilosofi, neuroetik, bioetik och artificiell intelligens.
Kathinka Evers, forskare vid Uppsala universitets Centrum för forsknings- & bioetik, går igenom detaljer, och riskerna, med artificiellt medvetande i en artikel som nyligen publicerats som del av Proceedings of the Institutes of Advanced Studies. Enligt henne har viljan att skapa medvetna maskiner djupa rötter i mänsklig psykologi och historia – bland annat i vår uråldriga längtan att överskrida biologiska gränser och "leka Gud."
Människor har i alla tider byggt upp hierarkier kring medvetande och ofta vägrat tillskriva djur, kvinnor, minoriteter och ”lägre klasser” samma mentala förmågor som andra. De bedömningar vi gör av vem som erkänns som en fullt tänkande varelse, och vad medvetande är, formas inte bara av fakta utan också av ideologi, makt och utestängande. Idag har hoppet om att en medveten artificiell intelligens skulle kunna förbättra beslutsfattande, som kanske stämmer bättre överens med ”mänskliga värderingar” blivit en del av debatten.
”Med tanke på människans historia av våld och selektiv empati är förhoppningar om att en medveten AI skulle vara välvillig eller dela våra mera progressiva och inkluderande värderingar en väldigt naiv förhoppning,” säger Kathinka Evers.
Kathinka Evers menar att, även om artificiellt medvetande anses vara teoretiskt möjligt inom vissa teoretiska ramverk, finns i nuläget inga oberoende empiriska bevis att mäta det mot. Det innebär att ett artificiellt medvetande för närvarande varken kan bekräftas eller uteslutas.
Forskning visar att när AI-system tränas på data som genererats av människor för att efterlikna mänskligt beteende kan användare lätt få intrycket att systemen är medvetna. Det beror på en välkänd mänsklig tendens att projicera ett inre liv på saker och varelser som inte har det (något som kallas antropomorfism). Att en AI känns medveten säger alltså mer om hur vi människor fungerar än om vad som faktiskt pågår i systemet.
Djur och artificiella system skiljer sig i grunden åt vad gäller substans, struktur och funktion. Det innebär att ett artificiellt systems eventuella medvetande också kan vara väldigt olikt vårt eget – vilket enligt Kathinka Evers utgör ytterligare ett hinder för att över huvud taget kunna identifiera, än mindre förstå, en medveten maskin.
”När man tänker på hur människor har agerat genom historien – och fortsätter att agera idag – måste man förhålla sig till att tanken på att utveckla medvetna maskiner, vars medvetande vi varken kan uppfatta eller förstå, som något monumentalt farligt”, säger Kathinka Evers.
Anna Holm Bodin
Evers, K. (2026). Artificial Consciousness: Science Fiction, Utopia, or Pandora’s Box? In Proceedings of the Paris Institute for Advanced Study (Vol. 27). DOI: 10.5281/zenodo.20267984