Jeg er helt med på kritikken af min tidligere pointe. Forståelsen af, at andre også har et indre liv, kan næppe være selve grundkravet for bevidsthed for så begynder det hurtigt at blive svært at placere spædbørn eller mange dyr, og det virker intuitivt forkert. Jeg har gået og grublet det meste af dagen, og det er jo det, der gør det her spændende, for der er ikke en måde at anskue det på. Men jeg forsøger at argumenterer for hvorfor det er tydeligt AI ikke har en bevidsthed.
Måske ligger kernen netop dér: Bevidsthed handler muligvis ikke kun om informationsbehandling eller kompleks problemløsning, men også om hvorvidt der findes et egentligt oplevelsesperspektiv bag processeringen.
En LLM kan uden tvivl simulere social forståelse, beskrive empati og modellere menneskelige tanker på ekstremt avanceret niveau. Men det er stadig ikke det samme som, at der nødvendigvis er nogen “derinde”, som oplever, forstår eller har en egentlig relation til det, der foregår.
For mig er den centrale forskel derfor ikke bare kompleksitet, men spørgsmålet om subjektiv tilstedeværelse… altså om der findes et “what it is like to be” systemet. Og dér bliver det svært, for vi kan i praksis heller ikke bevise andres bevidsthed med sikkerhed, kun slutte os til den ud fra adfærd, lighed og erfaring.
Så den mest ærlige position virker måske til at være:
LLM’er kan ligne/simulere intelligens.
De kan måske efterligne/simulere sociale modeller.
Men der er stadig ikke noget stærkt argument for, at de har egentlig oplevelse af at være til stede eller bevidste eller at være bevidste om at de kun er data.
