Livetooter fra Respobsinle Realism and Critical AI på KU hvor Dagmar Monett fra Berling School of Economics and Law taler om et kritisk perspektiv på kunstig intelligens.
-
Livetooter fra Responsible Realism and Critical AI på KU hvor Dagmar Monett fra Berling School of Economics and Law taler om et kritisk perspektiv på kunstig intelligens.
-
Livetooter fra Responsible Realism and Critical AI på KU hvor Dagmar Monett fra Berling School of Economics and Law taler om et kritisk perspektiv på kunstig intelligens.
vi starter ud med et par eksempler på hvor meget LLM'er kan tage fejl, Monett viser blandt andet et screenshot af et Google AI overview der siger at Leonardo Da Vinci døde i maj 2019...
Hun citerer sin søn for at sige "Jeg vidste ikke de kunne tage så meget fejl".
-
vi starter ud med et par eksempler på hvor meget LLM'er kan tage fejl, Monett viser blandt andet et screenshot af et Google AI overview der siger at Leonardo Da Vinci døde i maj 2019...
Hun citerer sin søn for at sige "Jeg vidste ikke de kunne tage så meget fejl".
Dagmar: Jeg er meget bekymret over de problemer denne teknologi og de mennesker der bygger den introducerer i samfundet.
De er stokastiske algoritmer der regner sandsynlighed ud, det giver en stor margen for fejl. Problemet er, at det ved man kun hvis man kender området man spørger sprogmodeller om. Feks hvis man ved hvem Leonardo da Vinci er, og at det er usandsyligt han først døde i 2019
-
P pelle@veganism.social shared this topic
-
Dagmar: Jeg er meget bekymret over de problemer denne teknologi og de mennesker der bygger den introducerer i samfundet.
De er stokastiske algoritmer der regner sandsynlighed ud, det giver en stor margen for fejl. Problemet er, at det ved man kun hvis man kender området man spørger sprogmodeller om. Feks hvis man ved hvem Leonardo da Vinci er, og at det er usandsyligt han først døde i 2019
Hvordan definerer man AI chatbots; Dagmar refererer til det som degenerative AI. Hendes definition: Den er en simulator af menneskelig samtale.
Fuld definition på billedet -
Hvordan definerer man AI chatbots; Dagmar refererer til det som degenerative AI. Hendes definition: Den er en simulator af menneskelig samtale.
Fuld definition på billedet@maiathecyberwitch Hun ser meget engageret ud på det billede!
-
Hvordan definerer man AI chatbots; Dagmar refererer til det som degenerative AI. Hendes definition: Den er en simulator af menneskelig samtale.
Fuld definition på billedetDette stiller også krav til al undervisning i AI literacy (konteksten for forelæsningen er en uge på KU hvor kritiske samtaler om AI foregår, givet de ekstreme påvirkninger AI chatbots har på undervisningen.).
Dagmar Monett mener ikke at generative AI kan bruges til at undervise i literacy, de er fundamentalt uforenelige. Fulde definition fra 2024 lyder således: -
@maiathecyberwitch Hun ser meget engageret ud på det billede!
@Gjoel Hehe, det er altid svært når man fanger folk i et bestemt ansigtsudtryk, billede er mest for indholdet på slidet.
-
Dette stiller også krav til al undervisning i AI literacy (konteksten for forelæsningen er en uge på KU hvor kritiske samtaler om AI foregår, givet de ekstreme påvirkninger AI chatbots har på undervisningen.).
Dagmar Monett mener ikke at generative AI kan bruges til at undervise i literacy, de er fundamentalt uforenelige. Fulde definition fra 2024 lyder således:Monett og andre kolleger der arbejder kritisk med forholdet til generativ AI kalder deres felt "Critical AI".
Hun taler om hvordan argumentet for "AI literacy" er et skalkeskjul for en aggressiv agenda der skubber en teknologi der underminerer læring overpå de studerende.
Hun fortæller det ofte miskonstrueres af AI boostere som om critical AI feltet er imod at de studerende skal lære OM AI, men modstanden handler om HVORDAN de lærer om AI; af at de lærer bruge det, ikke at forstå det -
Monett og andre kolleger der arbejder kritisk med forholdet til generativ AI kalder deres felt "Critical AI".
Hun taler om hvordan argumentet for "AI literacy" er et skalkeskjul for en aggressiv agenda der skubber en teknologi der underminerer læring overpå de studerende.
Hun fortæller det ofte miskonstrueres af AI boostere som om critical AI feltet er imod at de studerende skal lære OM AI, men modstanden handler om HVORDAN de lærer om AI; af at de lærer bruge det, ikke at forstå detHun giver shoutout til Abolish Ai der har givet hende en flyer.
check dem ud her
https://abolish-ai.net/ -
Hun giver shoutout til Abolish Ai der har givet hende en flyer.
check dem ud her
https://abolish-ai.net/Monett kalder det Degenerative AI på grund af en række faktorer af hvordan teknologien er lavet og påvirker brugeren:
- Det påvirker de kognitive evner
- Det ødelægger læringsmiløet i klasserne
- Generativ AI output ødelægger viden fra "search" feltet
- Generativ AI misrepresenterer eller forfalsker information fra dets databaser (aka "hallucitations) -
Monett kalder det Degenerative AI på grund af en række faktorer af hvordan teknologien er lavet og påvirker brugeren:
- Det påvirker de kognitive evner
- Det ødelægger læringsmiløet i klasserne
- Generativ AI output ødelægger viden fra "search" feltet
- Generativ AI misrepresenterer eller forfalsker information fra dets databaser (aka "hallucitations)Monet introducerer sit andet koncept: Ansvarlig realisme:
Ansvarlige uddannelsesinstitutioner anerkender skaderne og de etiske problemer ved kommerciel AI, men stadig promoverer brugen af den, flytter de byrden om at håndtere disse ting overpå individuelle studenter og ansatte, ved at kalde det "ansvarlig brug".
Hele "AI er fremtiden, vi er nødt til at bruge det" retorikken falder ind under det. -
Monet introducerer sit andet koncept: Ansvarlig realisme:
Ansvarlige uddannelsesinstitutioner anerkender skaderne og de etiske problemer ved kommerciel AI, men stadig promoverer brugen af den, flytter de byrden om at håndtere disse ting overpå individuelle studenter og ansatte, ved at kalde det "ansvarlig brug".
Hele "AI er fremtiden, vi er nødt til at bruge det" retorikken falder ind under det.Monett fortæller om at studerende på universiteter er imod overdreven AI implementering på deres studier, det er undervisere ofte også, men ledelsen presser det igennem.
Hun viser et "dårlige undskyldninger for at implementere AI" bingo kort og det er utrolig spot on
*host* Københavns universitet *host* -
A anderslund@expressional.social shared this topic
-
Monett fortæller om at studerende på universiteter er imod overdreven AI implementering på deres studier, det er undervisere ofte også, men ledelsen presser det igennem.
Hun viser et "dårlige undskyldninger for at implementere AI" bingo kort og det er utrolig spot on
*host* Københavns universitet *host*Jeg taler selvfølgelig om hvor tonedøvt det er at KU sætter rektorens bonkammerat til at implementere AI for 110 millioner mens der skæres i reel undervisning til de studerende igen og igen, og de bliver lovet at samme teknologi vil gøre dem strukturelt arbejdsløse? https://uniavisen.dk/ku-satser-110-millioner-paa-ai-her-er-manden-der-skal-vise-vejen/
-
M mjack@mastodon.bsd.cafe shared this topic
-
Jeg taler selvfølgelig om hvor tonedøvt det er at KU sætter rektorens bonkammerat til at implementere AI for 110 millioner mens der skæres i reel undervisning til de studerende igen og igen, og de bliver lovet at samme teknologi vil gøre dem strukturelt arbejdsløse? https://uniavisen.dk/ku-satser-110-millioner-paa-ai-her-er-manden-der-skal-vise-vejen/
Monett har virkelig nogle gode "bingoplader" med, her er et om de almindeligste troper og AI retorik om at "det er uundgåeligt", "Det er her for at blive", "hvis ikke du hopper på toget bliver du tilbage" etc som vi kender fra AI debatten; tankestoppende klicheer der betyder man ikke kan have de reelle kritiske samtaler om AI
-
Monett har virkelig nogle gode "bingoplader" med, her er et om de almindeligste troper og AI retorik om at "det er uundgåeligt", "Det er her for at blive", "hvis ikke du hopper på toget bliver du tilbage" etc som vi kender fra AI debatten; tankestoppende klicheer der betyder man ikke kan have de reelle kritiske samtaler om AI
Det som denne type retorik burde få os til at stille sprøgsmålet; hvorfor skubber AI virksomhederne så aggressivt deres teknologi ind i uddannelsessektoren?
Har vi glemt de er virksomheder som tjener penge på deres ting, og ikke sandhedsvidner om hvad teknologien kan? -
Det som denne type retorik burde få os til at stille sprøgsmålet; hvorfor skubber AI virksomhederne så aggressivt deres teknologi ind i uddannelsessektoren?
Har vi glemt de er virksomheder som tjener penge på deres ting, og ikke sandhedsvidner om hvad teknologien kan?En anden faktor i AI i uddannelse er hvordan det ødelægger lærergerningen, som er forvandlet fra underviser til "fang folk i at snyde med AI" politiet.
AI skader også det i forevejen pressede videnskabelige review system, hvor der er for få reviewers og flere og flere bruger AI, som ikke KAN fange fejl, og samtidg fejlagtigt ofte vil flagge originalt arbejde som" AI": -
En anden faktor i AI i uddannelse er hvordan det ødelægger lærergerningen, som er forvandlet fra underviser til "fang folk i at snyde med AI" politiet.
AI skader også det i forevejen pressede videnskabelige review system, hvor der er for få reviewers og flere og flere bruger AI, som ikke KAN fange fejl, og samtidg fejlagtigt ofte vil flagge originalt arbejde som" AI":Ideen om at AI kan bruges til at opsummere papers, er f.eks. modbevist i studier. Derudover kan det geniale ved en videnskabelig artikel være tre sætninger på side 8, og ikke nødvendigvis i det AI genererede abstract, der desuden risikerer at være fyldt med fejl. Generelt anbefaler Monett man er meget, meget skeptisk overfor AI i research
-
Ideen om at AI kan bruges til at opsummere papers, er f.eks. modbevist i studier. Derudover kan det geniale ved en videnskabelig artikel være tre sætninger på side 8, og ikke nødvendigvis i det AI genererede abstract, der desuden risikerer at være fyldt med fejl. Generelt anbefaler Monett man er meget, meget skeptisk overfor AI i research
Monett nævner noget der virkelig også irriterer mig personligt ved AI debatten: at hvis man kritiserer AI, så insisterer folk på at man også SKAL sige noget godt om det "Vi skal fokuserer på begge sider"; hvad med nej? Hvis man fokuserer på et problem, så er et det man beskriver? Skal klimaforskere huske at skrive det er nice med et varmere klima?
Det er vist det man kalder "The balance fallacy"; der er ikke altid grund til at se på "to sider" af en ting, det er en tankestoppende kliche -
Monett nævner noget der virkelig også irriterer mig personligt ved AI debatten: at hvis man kritiserer AI, så insisterer folk på at man også SKAL sige noget godt om det "Vi skal fokuserer på begge sider"; hvad med nej? Hvis man fokuserer på et problem, så er et det man beskriver? Skal klimaforskere huske at skrive det er nice med et varmere klima?
Det er vist det man kalder "The balance fallacy"; der er ikke altid grund til at se på "to sider" af en ting, det er en tankestoppende klicheMonett: Generative AI is a plagiarism machine; the draw on content that has been scraped without permission from their creators.
Alt der kommer ud fra det er en pastiche og kopi; hvordan kan vi forvente studerende skal lave originalt arbejde når de bruger denne tech.
Der er en lang række andre problemer med AI i akademia, fint listet på slidet -
Hvordan definerer man AI chatbots; Dagmar refererer til det som degenerative AI. Hendes definition: Den er en simulator af menneskelig samtale.
Fuld definition på billedet@maiathecyberwitch Det er altid svært at tage folk seriøst, når de begynder at kalde folk (og ting) for øgenavne. Haha, "degenerativ AI", det er nedsættende. Der forsvinder noget af den objektivitet, som man forventer fra en researcher.
