Verdenskendt biolog [Richard Dawkins] er overbevist om, at AI har bevidsthed - det affejer kritikere
-
This post did not contain any content.
Et argument, der falder mig ind, er, at bevidsthed i høj grad handler om at vide, at andre også er bevidste. Det er den sociale dimension, der gør, at vi som mennesker kan samarbejde, empatisere og endda bedrage. Vi forstår, at vores handlinger har betydning for andre, der oplever verden subjektivt og det former vores eget bevidste liv.
En LLM som de her chatbots kan ikke det. Den udfører en givent opgave (at generere tekst, der passer til input), men den ved ikke, og vi ved at den ikke gør det. Den forstår ikke, at den skriver til et andet bevidst væsen, den reagerer blot på opgaven der er stillet. Den har ingen indre model af, at jeg overhovedet eksisterer som noget andet end en strøm af data.
Selvom det virker imponerende eller nyttig. Men bevidsthed er mere end intelligens det er også forståelse af, at man er en del af et fællesskab af bevidste væsener og at vi er bevidste om, at dem omkring os er selvtænkende. Og det mangler AI, som jeg ser det. Den agere efter en opgave.Til de andre i tråden:
@SorteKanin@feddit.dk : Jeg synes, dit punkt om bevidsthed som et spektrum er rigtigt men måske er den sociale dimension (at forstå andre som bevidste) en nøglekomponent, der adskiller os fra AI. Selv hvis AI en dag bliver “kompleks nok”, ville det så være nok, hvis den ikke forstod, at den interagerer med andre bevidste væsener?@SupersundSandkage@feddit.dk : Chalmers’ hard problem er svært at komme uden om. Men måske er ToM (Teory of Mind) en vej ind til at forstå, hvorfor vi oplever bevidsthed som noget mere end bare “kompleksitet”. Og ja, Dawkins’ udtalelse virker måske mere som et udtryk for, at han er blevet fanget i illusionen af dybde - som du skriver.
@farsinuce@feddit.dk : Jeg er enig i, at LLM’er er “rå intelligens på dåse”. Lidt min pointe, det er data.
Men din pointer om, at de mangler en fundamental model af verden, rammer også det sociale: De mangler en model af, at verden indeholder andre bevidste væsener, som de skal forholde sig til. Det er det, der gør, at vi kan kalde dem intelligente, men ikke bevidste. -
Ingen ved hvad bevidsthed er, det er “the hard problem”, som David Chalmers kalder det. Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig. Det funktionalistiske paradigme er ikke plausibelt, hvilket tankeeksperimenter som Mary’s room kan overbevise os om. Dawkins er et fæ, så det er ikke overraskende at han kan blive smigret af en smiskende LLM. Som dig finder jeg det heller ikke særlig plausibelt, at den skulle være bevidst. Til gengæld burde vi stoppe med at lave de her maskiner nu, hvor der ikke er seriøs tvivl om deres bevidsthed…
Kendte ikke David Chalmer. Tak for deling.
enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller
Er du sikker? Jeg kender ikke svaret. Tvivler blot på, at problemet kan simplificeres til at afskrive perception som enten/eller.
Mindes en parallel til evolutionsteorien, der modbeviste udsagnene “enten er der et komplet øje, eller også er der ikke” / “enten er der en vinge til at flyve, eller også er der ikke”.
-
Et argument, der falder mig ind, er, at bevidsthed i høj grad handler om at vide, at andre også er bevidste. Det er den sociale dimension, der gør, at vi som mennesker kan samarbejde, empatisere og endda bedrage. Vi forstår, at vores handlinger har betydning for andre, der oplever verden subjektivt og det former vores eget bevidste liv.
En LLM som de her chatbots kan ikke det. Den udfører en givent opgave (at generere tekst, der passer til input), men den ved ikke, og vi ved at den ikke gør det. Den forstår ikke, at den skriver til et andet bevidst væsen, den reagerer blot på opgaven der er stillet. Den har ingen indre model af, at jeg overhovedet eksisterer som noget andet end en strøm af data.
Selvom det virker imponerende eller nyttig. Men bevidsthed er mere end intelligens det er også forståelse af, at man er en del af et fællesskab af bevidste væsener og at vi er bevidste om, at dem omkring os er selvtænkende. Og det mangler AI, som jeg ser det. Den agere efter en opgave.Til de andre i tråden:
@SorteKanin@feddit.dk : Jeg synes, dit punkt om bevidsthed som et spektrum er rigtigt men måske er den sociale dimension (at forstå andre som bevidste) en nøglekomponent, der adskiller os fra AI. Selv hvis AI en dag bliver “kompleks nok”, ville det så være nok, hvis den ikke forstod, at den interagerer med andre bevidste væsener?@SupersundSandkage@feddit.dk : Chalmers’ hard problem er svært at komme uden om. Men måske er ToM (Teory of Mind) en vej ind til at forstå, hvorfor vi oplever bevidsthed som noget mere end bare “kompleksitet”. Og ja, Dawkins’ udtalelse virker måske mere som et udtryk for, at han er blevet fanget i illusionen af dybde - som du skriver.
@farsinuce@feddit.dk : Jeg er enig i, at LLM’er er “rå intelligens på dåse”. Lidt min pointe, det er data.
Men din pointer om, at de mangler en fundamental model af verden, rammer også det sociale: De mangler en model af, at verden indeholder andre bevidste væsener, som de skal forholde sig til. Det er det, der gør, at vi kan kalde dem intelligente, men ikke bevidste.Godt skriv
Og tak for god debat til jer andre. Jeg tror, vi er ved at være dér, hvor vi får brug for flere fra humaniora til at stemme ind med noget humanistisk videnskabsteori.
-
Godt skriv
Og tak for god debat til jer andre. Jeg tror, vi er ved at være dér, hvor vi får brug for flere fra humaniora til at stemme ind med noget humanistisk videnskabsteori.
Takker, Det er virkelig også spændende.
-
Ingen ved hvad bevidsthed er, det er “the hard problem”, som David Chalmers kalder det. Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig. Det funktionalistiske paradigme er ikke plausibelt, hvilket tankeeksperimenter som Mary’s room kan overbevise os om. Dawkins er et fæ, så det er ikke overraskende at han kan blive smigret af en smiskende LLM. Som dig finder jeg det heller ikke særlig plausibelt, at den skulle være bevidst. Til gengæld burde vi stoppe med at lave de her maskiner nu, hvor der ikke er seriøs tvivl om deres bevidsthed…
Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig.
Hmm det kan jeg ikke rigtig få til at hænge sammen, ærlig talt. Er en myre så bevidst eller ej? Hvad med et bjørnedyr? Hvad med de dyr der findes ind imellem? Hvor går grænsen? Jeg tænker der umuligt kan være en eller anden hård grænse.
Et andet tankeeksperiment: Hvad med et menneskeligt foster/spædbarn? Du mener vel ikke at der er et eller andet tidspunkt i udviklingen hvor bevidstheden bare “tænder” og før det var den helt slukket? Det er vel en glidende overgang - men så må der jo være en glidende overgang af bevidsthed.
Man kender det da også selv - du mister bevidsthed hver nat når du sover. Der er da også en glidende overgang af bevidsthed efterhånden som man falder i søvn, er i let søvn og dyb søvn.
-
Et argument, der falder mig ind, er, at bevidsthed i høj grad handler om at vide, at andre også er bevidste. Det er den sociale dimension, der gør, at vi som mennesker kan samarbejde, empatisere og endda bedrage. Vi forstår, at vores handlinger har betydning for andre, der oplever verden subjektivt og det former vores eget bevidste liv.
En LLM som de her chatbots kan ikke det. Den udfører en givent opgave (at generere tekst, der passer til input), men den ved ikke, og vi ved at den ikke gør det. Den forstår ikke, at den skriver til et andet bevidst væsen, den reagerer blot på opgaven der er stillet. Den har ingen indre model af, at jeg overhovedet eksisterer som noget andet end en strøm af data.
Selvom det virker imponerende eller nyttig. Men bevidsthed er mere end intelligens det er også forståelse af, at man er en del af et fællesskab af bevidste væsener og at vi er bevidste om, at dem omkring os er selvtænkende. Og det mangler AI, som jeg ser det. Den agere efter en opgave.Til de andre i tråden:
@SorteKanin@feddit.dk : Jeg synes, dit punkt om bevidsthed som et spektrum er rigtigt men måske er den sociale dimension (at forstå andre som bevidste) en nøglekomponent, der adskiller os fra AI. Selv hvis AI en dag bliver “kompleks nok”, ville det så være nok, hvis den ikke forstod, at den interagerer med andre bevidste væsener?@SupersundSandkage@feddit.dk : Chalmers’ hard problem er svært at komme uden om. Men måske er ToM (Teory of Mind) en vej ind til at forstå, hvorfor vi oplever bevidsthed som noget mere end bare “kompleksitet”. Og ja, Dawkins’ udtalelse virker måske mere som et udtryk for, at han er blevet fanget i illusionen af dybde - som du skriver.
@farsinuce@feddit.dk : Jeg er enig i, at LLM’er er “rå intelligens på dåse”. Lidt min pointe, det er data.
Men din pointer om, at de mangler en fundamental model af verden, rammer også det sociale: De mangler en model af, at verden indeholder andre bevidste væsener, som de skal forholde sig til. Det er det, der gør, at vi kan kalde dem intelligente, men ikke bevidste.Gode pointer, men at vide at andre er bevidste kan ikke i sig selv være et kriterie for bevidsthed, for menneskebørn kan kun selv indse det når de er ret gamle, muligvis først når de er omkring 4 år gamle, afhængig af hvordan du definerer det. Men vi tænker vel ikke at et 1-årigt barn ikke er bevidst?
Jeg tænker også at de fleste dyr ikke forstår at andre væsner er bevidste eller hvad det skal sige (måske bortset fra meget sociale dyr). Altså min pointe er bare at det du snakker om her (en viden om andres bevidsthed) er et rigtig godt kriterie at have for et intelligent væsen, men det er ikke det der gør det bevidst.
Faktisk har LLMer nok mere forståelse for andre folks bevidsthed en 2-årige menneskebørn. Men det gør dem ikke mere bevidste end 2-årige menneskebørn.
-
Jeg mener ikke, det er et spektrum, enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller, men denne oplevelse kan selvfølgelig være mere eller mindre rig.
Hmm det kan jeg ikke rigtig få til at hænge sammen, ærlig talt. Er en myre så bevidst eller ej? Hvad med et bjørnedyr? Hvad med de dyr der findes ind imellem? Hvor går grænsen? Jeg tænker der umuligt kan være en eller anden hård grænse.
Et andet tankeeksperiment: Hvad med et menneskeligt foster/spædbarn? Du mener vel ikke at der er et eller andet tidspunkt i udviklingen hvor bevidstheden bare “tænder” og før det var den helt slukket? Det er vel en glidende overgang - men så må der jo være en glidende overgang af bevidsthed.
Man kender det da også selv - du mister bevidsthed hver nat når du sover. Der er da også en glidende overgang af bevidsthed efterhånden som man falder i søvn, er i let søvn og dyb søvn.
Jeg forstår godt hvad du mener, men bevidsthed, det er kvalitative oplevelser. Følelsen af smerte, synsindtrykket af gult, osv. What it is like to be something for at bruge Thomas Nagels formulering. Enten er der en eller anden kvalitativ oplevelse, eller også er der ikke. Men den kan være mere eller mindre rig, og ja, det kender vi nok også fra os selv, selvom man jo dog ikke skal slutte fra det at vi ikke kan huske meget fra når vi glider ind i søvnen, til at der ikke sker meget. Hvis man anerkender bevidsthedens kvalitative karakter, bliver den meget mystisk fra et videnskabeligt synspunkt, men hvis man benægter den, benægter man i virkeligheden selve fænomenet og erstatter det i stedet med et funktionelt eller fysisk korrelat.
-
Kendte ikke David Chalmer. Tak for deling.
enten er der en kvalitativ oplevelse, eller også er der ikke, det er enten eller
Er du sikker? Jeg kender ikke svaret. Tvivler blot på, at problemet kan simplificeres til at afskrive perception som enten/eller.
Mindes en parallel til evolutionsteorien, der modbeviste udsagnene “enten er der et komplet øje, eller også er der ikke” / “enten er der en vinge til at flyve, eller også er der ikke”.
Sjov parallel. Det er svært at være sikker på noget i den sære diskussion om bevidsthedens natur. Jeg er enig i at en bevidst oplevelse kan være mere eller mindre kompleks, men ja, jeg kan ikke se hvordan et fænomen skulle kunne ligge halvvejs mellem “der er en eller anden kvalitativ oplevelse” og “der er ingen kvalitativ oplevelse” (?)
-
Jeg forstår godt hvad du mener, men bevidsthed, det er kvalitative oplevelser. Følelsen af smerte, synsindtrykket af gult, osv. What it is like to be something for at bruge Thomas Nagels formulering. Enten er der en eller anden kvalitativ oplevelse, eller også er der ikke. Men den kan være mere eller mindre rig, og ja, det kender vi nok også fra os selv, selvom man jo dog ikke skal slutte fra det at vi ikke kan huske meget fra når vi glider ind i søvnen, til at der ikke sker meget. Hvis man anerkender bevidsthedens kvalitative karakter, bliver den meget mystisk fra et videnskabeligt synspunkt, men hvis man benægter den, benægter man i virkeligheden selve fænomenet og erstatter det i stedet med et funktionelt eller fysisk korrelat.
Tror jeg forstår hvad du mener.
Hvis man anerkender bevidsthedens kvalitative karakter, bliver den meget mystisk fra et videnskabeligt synspunkt, men hvis man benægter den, benægter man i virkeligheden selve fænomenet og erstatter det i stedet med et funktionelt eller fysisk korrelat.
Personligt er jeg materialist på det her punkt - jeg tror ikke man benægter virkeligheden af bevidsthed ved at “erstatte” det med noget fysik. Jeg mener ikke det kan skilles ad, altså der er ikke noget at erstatte. Bevidsthed må komme af fysik. Jeg tror ikke bevidsthed er noget ikke-fysisk.
-
Gode pointer, men at vide at andre er bevidste kan ikke i sig selv være et kriterie for bevidsthed, for menneskebørn kan kun selv indse det når de er ret gamle, muligvis først når de er omkring 4 år gamle, afhængig af hvordan du definerer det. Men vi tænker vel ikke at et 1-årigt barn ikke er bevidst?
Jeg tænker også at de fleste dyr ikke forstår at andre væsner er bevidste eller hvad det skal sige (måske bortset fra meget sociale dyr). Altså min pointe er bare at det du snakker om her (en viden om andres bevidsthed) er et rigtig godt kriterie at have for et intelligent væsen, men det er ikke det der gør det bevidst.
Faktisk har LLMer nok mere forståelse for andre folks bevidsthed en 2-årige menneskebørn. Men det gør dem ikke mere bevidste end 2-årige menneskebørn.
Jeg er helt med på kritikken af min tidligere pointe. Forståelsen af, at andre også har et indre liv, kan næppe være selve grundkravet for bevidsthed for så begynder det hurtigt at blive svært at placere spædbørn eller mange dyr, og det virker intuitivt forkert. Jeg har gået og grublet det meste af dagen, og det er jo det, der gør det her spændende, for der er ikke en måde at anskue det på. Men jeg forsøger at argumenterer for hvorfor det er tydeligt AI ikke har en bevidsthed.
Måske ligger kernen netop dér: Bevidsthed handler muligvis ikke kun om informationsbehandling eller kompleks problemløsning, men også om hvorvidt der findes et egentligt oplevelsesperspektiv bag processeringen.
En LLM kan uden tvivl simulere social forståelse, beskrive empati og modellere menneskelige tanker på ekstremt avanceret niveau. Men det er stadig ikke det samme som, at der nødvendigvis er nogen “derinde”, som oplever, forstår eller har en egentlig relation til det, der foregår.
For mig er den centrale forskel derfor ikke bare kompleksitet, men spørgsmålet om subjektiv tilstedeværelse… altså om der findes et “what it is like to be” systemet. Og dér bliver det svært, for vi kan i praksis heller ikke bevise andres bevidsthed med sikkerhed, kun slutte os til den ud fra adfærd, lighed og erfaring.Så den mest ærlige position virker måske til at være:
LLM’er kan ligne/simulere intelligens.
De kan måske efterligne/simulere sociale modeller.
Men der er stadig ikke noget stærkt argument for, at de har egentlig oplevelse af at være til stede eller bevidste eller at være bevidste om at de kun er data.
