Livetooter fra Respobsinle Realism and Critical AI på KU hvor Dagmar Monett fra Berling School of Economics and Law taler om et kritisk perspektiv på kunstig intelligens.
-
Monett kalder det Degenerative AI på grund af en række faktorer af hvordan teknologien er lavet og påvirker brugeren:
- Det påvirker de kognitive evner
- Det ødelægger læringsmiløet i klasserne
- Generativ AI output ødelægger viden fra "search" feltet
- Generativ AI misrepresenterer eller forfalsker information fra dets databaser (aka "hallucitations)Monet introducerer sit andet koncept: Ansvarlig realisme:
Ansvarlige uddannelsesinstitutioner anerkender skaderne og de etiske problemer ved kommerciel AI, men stadig promoverer brugen af den, flytter de byrden om at håndtere disse ting overpå individuelle studenter og ansatte, ved at kalde det "ansvarlig brug".
Hele "AI er fremtiden, vi er nødt til at bruge det" retorikken falder ind under det. -
Monet introducerer sit andet koncept: Ansvarlig realisme:
Ansvarlige uddannelsesinstitutioner anerkender skaderne og de etiske problemer ved kommerciel AI, men stadig promoverer brugen af den, flytter de byrden om at håndtere disse ting overpå individuelle studenter og ansatte, ved at kalde det "ansvarlig brug".
Hele "AI er fremtiden, vi er nødt til at bruge det" retorikken falder ind under det.Monett fortæller om at studerende på universiteter er imod overdreven AI implementering på deres studier, det er undervisere ofte også, men ledelsen presser det igennem.
Hun viser et "dårlige undskyldninger for at implementere AI" bingo kort og det er utrolig spot on
*host* Københavns universitet *host* -
A anderslund@expressional.social shared this topic
-
Monett fortæller om at studerende på universiteter er imod overdreven AI implementering på deres studier, det er undervisere ofte også, men ledelsen presser det igennem.
Hun viser et "dårlige undskyldninger for at implementere AI" bingo kort og det er utrolig spot on
*host* Københavns universitet *host*Jeg taler selvfølgelig om hvor tonedøvt det er at KU sætter rektorens bonkammerat til at implementere AI for 110 millioner mens der skæres i reel undervisning til de studerende igen og igen, og de bliver lovet at samme teknologi vil gøre dem strukturelt arbejdsløse? https://uniavisen.dk/ku-satser-110-millioner-paa-ai-her-er-manden-der-skal-vise-vejen/
-
M mjack@mastodon.bsd.cafe shared this topic
-
Jeg taler selvfølgelig om hvor tonedøvt det er at KU sætter rektorens bonkammerat til at implementere AI for 110 millioner mens der skæres i reel undervisning til de studerende igen og igen, og de bliver lovet at samme teknologi vil gøre dem strukturelt arbejdsløse? https://uniavisen.dk/ku-satser-110-millioner-paa-ai-her-er-manden-der-skal-vise-vejen/
Monett har virkelig nogle gode "bingoplader" med, her er et om de almindeligste troper og AI retorik om at "det er uundgåeligt", "Det er her for at blive", "hvis ikke du hopper på toget bliver du tilbage" etc som vi kender fra AI debatten; tankestoppende klicheer der betyder man ikke kan have de reelle kritiske samtaler om AI
-
Monett har virkelig nogle gode "bingoplader" med, her er et om de almindeligste troper og AI retorik om at "det er uundgåeligt", "Det er her for at blive", "hvis ikke du hopper på toget bliver du tilbage" etc som vi kender fra AI debatten; tankestoppende klicheer der betyder man ikke kan have de reelle kritiske samtaler om AI
Det som denne type retorik burde få os til at stille sprøgsmålet; hvorfor skubber AI virksomhederne så aggressivt deres teknologi ind i uddannelsessektoren?
Har vi glemt de er virksomheder som tjener penge på deres ting, og ikke sandhedsvidner om hvad teknologien kan? -
Det som denne type retorik burde få os til at stille sprøgsmålet; hvorfor skubber AI virksomhederne så aggressivt deres teknologi ind i uddannelsessektoren?
Har vi glemt de er virksomheder som tjener penge på deres ting, og ikke sandhedsvidner om hvad teknologien kan?En anden faktor i AI i uddannelse er hvordan det ødelægger lærergerningen, som er forvandlet fra underviser til "fang folk i at snyde med AI" politiet.
AI skader også det i forevejen pressede videnskabelige review system, hvor der er for få reviewers og flere og flere bruger AI, som ikke KAN fange fejl, og samtidg fejlagtigt ofte vil flagge originalt arbejde som" AI": -
En anden faktor i AI i uddannelse er hvordan det ødelægger lærergerningen, som er forvandlet fra underviser til "fang folk i at snyde med AI" politiet.
AI skader også det i forevejen pressede videnskabelige review system, hvor der er for få reviewers og flere og flere bruger AI, som ikke KAN fange fejl, og samtidg fejlagtigt ofte vil flagge originalt arbejde som" AI":Ideen om at AI kan bruges til at opsummere papers, er f.eks. modbevist i studier. Derudover kan det geniale ved en videnskabelig artikel være tre sætninger på side 8, og ikke nødvendigvis i det AI genererede abstract, der desuden risikerer at være fyldt med fejl. Generelt anbefaler Monett man er meget, meget skeptisk overfor AI i research
-
Ideen om at AI kan bruges til at opsummere papers, er f.eks. modbevist i studier. Derudover kan det geniale ved en videnskabelig artikel være tre sætninger på side 8, og ikke nødvendigvis i det AI genererede abstract, der desuden risikerer at være fyldt med fejl. Generelt anbefaler Monett man er meget, meget skeptisk overfor AI i research
Monett nævner noget der virkelig også irriterer mig personligt ved AI debatten: at hvis man kritiserer AI, så insisterer folk på at man også SKAL sige noget godt om det "Vi skal fokuserer på begge sider"; hvad med nej? Hvis man fokuserer på et problem, så er et det man beskriver? Skal klimaforskere huske at skrive det er nice med et varmere klima?
Det er vist det man kalder "The balance fallacy"; der er ikke altid grund til at se på "to sider" af en ting, det er en tankestoppende kliche -
Monett nævner noget der virkelig også irriterer mig personligt ved AI debatten: at hvis man kritiserer AI, så insisterer folk på at man også SKAL sige noget godt om det "Vi skal fokuserer på begge sider"; hvad med nej? Hvis man fokuserer på et problem, så er et det man beskriver? Skal klimaforskere huske at skrive det er nice med et varmere klima?
Det er vist det man kalder "The balance fallacy"; der er ikke altid grund til at se på "to sider" af en ting, det er en tankestoppende klicheMonett: Generative AI is a plagiarism machine; the draw on content that has been scraped without permission from their creators.
Alt der kommer ud fra det er en pastiche og kopi; hvordan kan vi forvente studerende skal lave originalt arbejde når de bruger denne tech.
Der er en lang række andre problemer med AI i akademia, fint listet på slidet -
Hvordan definerer man AI chatbots; Dagmar refererer til det som degenerative AI. Hendes definition: Den er en simulator af menneskelig samtale.
Fuld definition på billedet@maiathecyberwitch Det er altid svært at tage folk seriøst, når de begynder at kalde folk (og ting) for øgenavne. Haha, "degenerativ AI", det er nedsættende. Der forsvinder noget af den objektivitet, som man forventer fra en researcher.
-
Monett: Generative AI is a plagiarism machine; the draw on content that has been scraped without permission from their creators.
Alt der kommer ud fra det er en pastiche og kopi; hvordan kan vi forvente studerende skal lave originalt arbejde når de bruger denne tech.
Der er en lang række andre problemer med AI i akademia, fint listet på slidetEt par læseanbefalinger der dækker hvordan de koloniale strukturer stadig definerer hvem der laver det beskidte arbejde bag AI og bliver direkte skadet af det: Feeding the Machine og Data Grab
-
Et par læseanbefalinger der dækker hvordan de koloniale strukturer stadig definerer hvem der laver det beskidte arbejde bag AI og bliver direkte skadet af det: Feeding the Machine og Data Grab
Og en række boganbefalinger om bøger der dealer med det Monet kalder "the techno broligarchs" (lol) og deres fascistiske visioner
-
Og en række boganbefalinger om bøger der dealer med det Monet kalder "the techno broligarchs" (lol) og deres fascistiske visioner
Til sidst anbefaler hun projektet Better images of AI, der gør op med den visuelle repræsentation af AI - I kender det "Humanoid robots, glowing brains, outstretched robot hands, blue backgrounds, and the Terminator.
These stereotypes are not just overworked, they can be surprisingly unhelpful." skriver de selv på hjemmesiden.
Better Images of AI giver dig creative commons understøttede illustrationer der giver et realistisk billede af hvad AI er -
J jwcph@helvede.net shared this topic
-
Til sidst anbefaler hun projektet Better images of AI, der gør op med den visuelle repræsentation af AI - I kender det "Humanoid robots, glowing brains, outstretched robot hands, blue backgrounds, and the Terminator.
These stereotypes are not just overworked, they can be surprisingly unhelpful." skriver de selv på hjemmesiden.
Better Images of AI giver dig creative commons understøttede illustrationer der giver et realistisk billede af hvad AI erEt par virkelig skarpe end quotes her til sidst: Ingen teknologi er uundgåelig, og det er altid smart at lytte til skeptikerne, ikke fordi skepsis i sig selv er godt, men fordi de som regel kan finde ud af at lave deres research
-
Et par virkelig skarpe end quotes her til sidst: Ingen teknologi er uundgåelig, og det er altid smart at lytte til skeptikerne, ikke fordi skepsis i sig selv er godt, men fordi de som regel kan finde ud af at lave deres research
Også en anbefaling af the AI resist list der er en oversigt over anti-AI initiativer globalt https://airesistlist.org/
-
Også en anbefaling af the AI resist list der er en oversigt over anti-AI initiativer globalt https://airesistlist.org/
Spørgetid: Jeg og sidepersoner spurgte hvordan man håndterer at diskutere med AI som er ekstremt AI pilled og nægter at tage nogle af kritikpunkterne eller fakta ind.
Hun fortalte at det var en stor del af hendes eget arbejde at være killjoy og at hun f.eks var ekstremt upopulær med IT afdelingen på sit universitet fordi hun lavede ballade når de automatisk installerede AI værktøjer. Hun anbefaler man finder ligesindede, om ikke kolleger, så folk andre steder fra og laver modstand der -
Spørgetid: Jeg og sidepersoner spurgte hvordan man håndterer at diskutere med AI som er ekstremt AI pilled og nægter at tage nogle af kritikpunkterne eller fakta ind.
Hun fortalte at det var en stor del af hendes eget arbejde at være killjoy og at hun f.eks var ekstremt upopulær med IT afdelingen på sit universitet fordi hun lavede ballade når de automatisk installerede AI værktøjer. Hun anbefaler man finder ligesindede, om ikke kolleger, så folk andre steder fra og laver modstand derSprøgsmål: er der en etisk brug af teknologien? Spørgeren fortæller om et eksperiment med skolebørn, de bruger AI alligevel, så er der en ansvarlig måde at engagere sig med det på.
Monett svarer, som hun også gjort det klart i hele præsentationen, så spørgsmålet er egentlig lidt sært hvis man har hørt efter; det er en fundamentalt uetisk teknologi på så mange niveauer at der ikke er nogen etisk brug af den. Put flere penge i undervisningen, løsningen på kvalitet er strukturel, ikke teknologisk -
Sprøgsmål: er der en etisk brug af teknologien? Spørgeren fortæller om et eksperiment med skolebørn, de bruger AI alligevel, så er der en ansvarlig måde at engagere sig med det på.
Monett svarer, som hun også gjort det klart i hele præsentationen, så spørgsmålet er egentlig lidt sært hvis man har hørt efter; det er en fundamentalt uetisk teknologi på så mange niveauer at der ikke er nogen etisk brug af den. Put flere penge i undervisningen, løsningen på kvalitet er strukturel, ikke teknologiskIsær er det uetisk at eksponere skolebørn hvis hjerner ikke er færdigudviklede for teknologien, fordi de ingen chance har for at vurdere hvordan den virker, og hvornår den tager fejl
-
@maiathecyberwitch Det er altid svært at tage folk seriøst, når de begynder at kalde folk (og ting) for øgenavne. Haha, "degenerativ AI", det er nedsættende. Der forsvinder noget af den objektivitet, som man forventer fra en researcher.
@Gjoel Ej undskyld men det er simpelthen et fjollet take. Er det et "øgenavn" at kalde teknologi problematisk? Hun beskriver jo vitterlig processen som gen Ai laver med sin data, idet den forvrænger og degenererer originalen (og vores hjerner i form af kognitiv atrofi).
I den kontekst giver det jo mening.
Øgenavn bruger man om mennesker.
Der er ikke nogen væsner der bliver skadet af det her
Er det fordi du godt kan lide AI og synes det er et provokerende take? -
@Gjoel Ej undskyld men det er simpelthen et fjollet take. Er det et "øgenavn" at kalde teknologi problematisk? Hun beskriver jo vitterlig processen som gen Ai laver med sin data, idet den forvrænger og degenererer originalen (og vores hjerner i form af kognitiv atrofi).
I den kontekst giver det jo mening.
Øgenavn bruger man om mennesker.
Der er ikke nogen væsner der bliver skadet af det her
Er det fordi du godt kan lide AI og synes det er et provokerende take?@Gjoel Og hun er overhovedet ikke "objektiv" hvis du med det mener neutral og ikke har en holdning; hun er meget åbent ekstremt kritisk og anti-AI. Det betyder ikke at hun ikke ved hvad hun taler om, hun er vitterlig datalog. Hvis forskere ser et kæmpe samfundsmæssigt problem med noget de forsker i, er de da netop etisk forpligtede til at sige det højt? Og det er ret almindeligt med sjove termer for ting indenfor akademia derudover
https://monettdiaz.com/about.html
