Inläst: Hur känns det att vara en AI?

Genre: krönika, av Christer Sturmark

Tes: Problemet med begreppet medvetande är att ingen vet vad det är, vilket gör det omöjligt att definitivt avgöra om eller när artificiell intelligens kan bli medveten.

Christer Sturmark inleder med att kommentera evolutionsbiologen Richard Dawkins krönika om chattbotten Claudia. Sturmark instämmer med Patrik Stigsson i att dagens språkmodeller sannolikt inte är medvetna och tolkar Dawkins utrop om Claudias medvetande som ett uttryck för förvåning snarare än en vetenskaplig slutsats. Han kritiserar dock Stigssons underförstådda premiss att frågan om maskiners medvetande kan avgöras med dagens verktyg.

Krönikören argumenterar att om det mänskliga medvetandet är ett emergent fenomen som uppstår i den biologiska hjärnan, kan man inte principiellt utesluta att medvetande även kan uppstå i neurala nätverk baserade på kisel. Han menar att det saknas naturvetenskapliga skäl att tro att kolatomer har ett monopol på subjektiva upplevelser. Sturmark betonar att medvetandet är ett av universums största mysterier, utan en gemensam definition eller mätmetod, och refererar till filosofen Thomas Nagels essä om fladdermöss för att illustrera medvetandets subjektiva natur och vetenskapens objektiva begränsningar.

Sturmark diskuterar vidare medvetandefilosoferna Daniel Dennetts och David Chalmers synsätt. Dennett betraktade medvetandet som en "användarillusion" och qualia som ett begrepp att överge, vilket skulle göra maskinmedvetande till en empirisk fråga. Chalmers å andra sidan formulerade "det svåra problemet med medvetandet", som handlar om varför informationsbearbetning åtföljs av subjektiv upplevelse, vilket skulle göra frågan om maskinmedvetande omöjlig att avgöra utifrån. Krönikören återvänder till Dawkins och menar att även Dawkins, trots sin vetenskapliga skepticism, tvingas förlita sig på intryck när det gäller AI:s medvetande, vilket bekräftar att evidens saknas i denna fråga.

Han kritiserar även Stigssons metafor om "skogsrået" för Claude, då den förutsätter att Claude saknar inre liv istället för att bevisa det. Sturmark menar att det svåra problemet kvarstår: hur skiljer man en perfekt imitation av ett inre tillstånd från ett verkligt sådant?

Slutsats: Eftersom vi saknar såväl definition som mätmetod för medvetande kommer vi aldrig att veta om eller när AI verkligen blir medveten. AI kommer att kunna simulera medvetande så skickligt att många kommer att förledas av illusionen, och den verkliga utmaningen ligger i vår egen tvärsäkerhet inför system som talar, resonerar och försäkrar oss om sina inre upplevelser utan att vi kan avgöra om någon är "hemma där inne".