Publicerad: 12 december 2024
Den snabba utvecklingen av artificiell intelligens (AI) väcker frågor som tidigare hörde hemma i science fiction. Om AI-system en dag skulle kunna ”tänka” som människor, skulle de också kunna ha subjektiva upplevelser? Skulle de kunna lida, och i så fall, hur skulle mänskligheten ta ansvar för deras välbefinnande?
En grupp filosofer och datavetare menar att det är dags att ta AI:s välfärd på allvar. I en rapport publicerad på preprintservern arXiv föreslår de att AI-företag ska testa sina system för medvetande och beslutsförmåga samt utveckla policyer för att hantera etiska frågor om AI-system visar sig vara medvetna.
Testning för medvetande
Forskarna varnar för att ett underlåtande att upptäcka om ett AI-system har blivit medvetet kan leda till att det försummas eller behandlas illa, vilket potentiellt skulle kunna orsaka lidande. Samtidigt pekar skeptiker på att diskussionen kan kännas för tidig, men många menar att det är klokt att börja planera nu.
Anil Seth, en medvetandeforskare vid University of Sussex i Storbritannien, menar att även om medveten AI kan vara långt borta eller till och med omöjlig, är dess potentiella implikationer så betydande att ämnet inte bör ignoreras. ”Problemet var inte att Frankensteins skapelse blev levande; det var att den var medveten och kunde känna,” skrev Seth förra året.
Risker och ansvar
Jonathan Mason, matematiker i Oxford, framhåller att det är avgörande att utveckla metoder för att bedöma medvetande hos AI. Om vi blir alltmer beroende av AI utan att förstå dess medvetandenivåer, kan det leda till både etiska och praktiska problem.
Jeff Sebo, filosof vid New York University och en av rapportens medförfattare, lyfter också fram risken att felbedömningar kan få konsekvenser. Om vi felaktigt antar att ett AI-system är medvetet, kan resurser avsedda för mänskligt eller djurens välbefinnande omfördelas på ett olämpligt sätt.
Ett förändrat perspektiv
Rapporten beskriver att AI:s välfärd står vid ett ”transitionsmoment”. Kyle Fish, en av rapportförfattarna, har nyligen anställts som AI-välfärdsforskare av AI-företaget Anthropic, vilket anses vara den första tjänsten i sitt slag hos ett ledande AI-bolag. ”Det sker en förändring eftersom det nu finns personer på ledande AI-företag som tar AI:s medvetande och moraliska betydelse på allvar,” säger Sebo.
Källa: Nature
#vetenskap #teknik #humanvetenskap-och-samhälle
