1/ Dette er vel som å banne i kjerka, men jeg deltar i et prosjektarbeid om å lage opplæringsmoduler for lærere på mellomtrinn i bruk av KI (primært LLM-er, men ikke begrenset til det).
-
@anchr @cmyrland @bjoernstaerk Oppi alt dette kjem spørsmålet om det er forsvarleg å bruke så mykje straum, vatn, mineral og areal for å få ei eller anna oppgåve litt fortare unna (og det er rimeleg tvil om det faktisk går fortare). Eg forstår ynsket om å bruke språkmodellar til noko bra i staden for noko dårleg, og høyrer argumentet om at alle andre bruker det, men eg synest ikkje det er spesielt gode argument. Eg likar ikkje sjølve verktøyet.
Helt enig. Det er også en klimabombe, et energisynkehull, et overvåkingsmareritt, en opphavsrettsdystopi osv. Men alt sånt synes dessverre å bli trumfet av at det er et verktøy som gjør at man slipper å tenke selv.
Derfor tror jeg det bare er én realistisk vei ut av det: gjennom at det fremtvinger seg realistisk prising som er forbydende dyrt.
-
@bjoernstaerk når man ser på hvor utstrakt bruken er blant unge, og at til og med mange voksne bruker ChatGPT som en erstatning for søkemotorer, livscoacher og gudene vet hva, så tror jeg teknologien har etablert seg såpass at den nok aldri blir borte igjen. Det er meget mulig at bobla sprekker og at landskapet ser annerledes ut om noen år, men jeg tror vi blir nødt til å forholde oss til LLM-er i lang tid fremover. Så da må vi ihvertfall vite hvordan vi bruker tjenestene best mulig..
@cmyrland @bjoernstaerk Det kan hende bruk er mer utstrakt blant unge (men vil gjerne se forskning på det) men oppfatter at motstanden mot KI også er sterkere blant unge. Det hadde vært interessant om noen gjennomførte en studie på det…
-
@bjoernstaerk når man ser på hvor utstrakt bruken er blant unge, og at til og med mange voksne bruker ChatGPT som en erstatning for søkemotorer, livscoacher og gudene vet hva, så tror jeg teknologien har etablert seg såpass at den nok aldri blir borte igjen. Det er meget mulig at bobla sprekker og at landskapet ser annerledes ut om noen år, men jeg tror vi blir nødt til å forholde oss til LLM-er i lang tid fremover. Så da må vi ihvertfall vite hvordan vi bruker tjenestene best mulig..
@cmyrland den har etablert seg til dagens pris, ja. men ingen er i nærheten av å finne en lønnsom forretningsmodell for dette.
jeg ville spist på gourmetrestaurant hver dag hvis det var billig. det er det ikke.
(uten sammenligning forøvrig, kvaliteten på dette er ikke så mye å skryte av. men nå tar vi utgangspunkt i det at mange faktisk ønsker å bruke dette i dagens form.)
-
Jeg er enig i at det sikkert blir dyrere etter hvert som alle er "avhengig" eller forventa å bruke det. Men mange har jo superkraftig mobiltelefon/pc som kan kjøre de enkle modellene selv. Da trenger man ikke betale i dyre dommer og man har det i LLoMma..
-
@cmyrland den har etablert seg til dagens pris, ja. men ingen er i nærheten av å finne en lønnsom forretningsmodell for dette.
jeg ville spist på gourmetrestaurant hver dag hvis det var billig. det er det ikke.
(uten sammenligning forøvrig, kvaliteten på dette er ikke så mye å skryte av. men nå tar vi utgangspunkt i det at mange faktisk ønsker å bruke dette i dagens form.)
@bjoernstaerk
Ja, kvaliteten er dårlig. Eller rettere sagt innpakningen er mye bedre enn hva de fleste hadde fått til mht grammatikk og staving etc, men innholdet er sterkt variabelt.Og så tenker vi på kvalitet i innpakking som noe som indikerer kvalitet i innhold ... enn så lenge.
Det er et "superverktøy" for alle som setter form over innhold, og for alle som føler at de må si noe men ikke gidder å tenke over hva de egentlig mener om saken.
Junkfood som er stilig dandert.
-
@bjoernstaerk
Ja, kvaliteten er dårlig. Eller rettere sagt innpakningen er mye bedre enn hva de fleste hadde fått til mht grammatikk og staving etc, men innholdet er sterkt variabelt.Og så tenker vi på kvalitet i innpakking som noe som indikerer kvalitet i innhold ... enn så lenge.
Det er et "superverktøy" for alle som setter form over innhold, og for alle som føler at de må si noe men ikke gidder å tenke over hva de egentlig mener om saken.
Junkfood som er stilig dandert.
@anchr @bjoernstaerk @cmyrland
Tror nok de generative LLM tjenestene i dag ikke er så veldig effektive, grunnet dårlig forståelse av selve innholdet de genererer.
Men at en LLM i dag kan brukes til å få idéer til hvordan man kan løse en oppgave og til en viss grad gi et mer konkret startpunkt man kan bearbeide videre, der kan den nok fungere.
Men å tro at du kan kaste masse oppgaver på en LLM og forvente at du slipper å gjøre veldig mye mer, det tror jeg er veldig naivt - i beste fall.
Dagens LLMer finner mønster og et system i en stor mengde data veldig raskt sammenlignet mot hva et menneske kan greie. Men sammenfatningen av det den har vektlagt må sjekkes nøye - for LLM er langt i fra nøytrale. Og det arbeidet kan ikke overlates til en LLM, og vil dermed ta tid fra et menneske.
Og da er jo spørsmålet, eller dilemmaet: Kan en LLMs sammenfatning av informasjon gi nye innfallsvinkler som et eller flere mennesker kunne ha oversett? Og er det verdt tidsbruken som trengs til å kvalitetssikre resultatet fra en LLM?
Svaret er nok heller ikke svart/hvitt. Det finnes nok tilfeller hvor det kan vurderes mer effektivt å la LLM gjøre en viss mengde av grov jobben - og hvor så er tilfelle. Og det finnes andre oppgaver hvor LLM blir mer kostbart i forhold til tiden som trengs for kvalitetssikringen.
Men LLM selges inn over alt som oppfinnelsen som er minst like stor som oppdagelsen av hjulet. Og det er et solid oversalg av hva LLMer kan gjøre i dag.
-
Helt enig. Det er også en klimabombe, et energisynkehull, et overvåkingsmareritt, en opphavsrettsdystopi osv. Men alt sånt synes dessverre å bli trumfet av at det er et verktøy som gjør at man slipper å tenke selv.
Derfor tror jeg det bare er én realistisk vei ut av det: gjennom at det fremtvinger seg realistisk prising som er forbydende dyrt.
@anchr Forretningsmodellen er gamal og velkjent: 1. Få folk hekta på eit gratis produkt, 2. start å krevja pengar for det (og/eller sel reklame), og 3. gjer deretter produktet dårlegare for å oppfylle førre punkt. Dritifiseringa er uunngåeleg. Dette er ikkje ein dystopi, det er nokså bra dokumentert frå andre område. Løysinga er å ikkje gå på punkt 1, men mange er allereie hekta og kjem til å vilja betala dyre abonnement for KI. Sic transit osb.
-
@anchr @bjoernstaerk @cmyrland
Tror nok de generative LLM tjenestene i dag ikke er så veldig effektive, grunnet dårlig forståelse av selve innholdet de genererer.
Men at en LLM i dag kan brukes til å få idéer til hvordan man kan løse en oppgave og til en viss grad gi et mer konkret startpunkt man kan bearbeide videre, der kan den nok fungere.
Men å tro at du kan kaste masse oppgaver på en LLM og forvente at du slipper å gjøre veldig mye mer, det tror jeg er veldig naivt - i beste fall.
Dagens LLMer finner mønster og et system i en stor mengde data veldig raskt sammenlignet mot hva et menneske kan greie. Men sammenfatningen av det den har vektlagt må sjekkes nøye - for LLM er langt i fra nøytrale. Og det arbeidet kan ikke overlates til en LLM, og vil dermed ta tid fra et menneske.
Og da er jo spørsmålet, eller dilemmaet: Kan en LLMs sammenfatning av informasjon gi nye innfallsvinkler som et eller flere mennesker kunne ha oversett? Og er det verdt tidsbruken som trengs til å kvalitetssikre resultatet fra en LLM?
Svaret er nok heller ikke svart/hvitt. Det finnes nok tilfeller hvor det kan vurderes mer effektivt å la LLM gjøre en viss mengde av grov jobben - og hvor så er tilfelle. Og det finnes andre oppgaver hvor LLM blir mer kostbart i forhold til tiden som trengs for kvalitetssikringen.
Men LLM selges inn over alt som oppfinnelsen som er minst like stor som oppdagelsen av hjulet. Og det er et solid oversalg av hva LLMer kan gjøre i dag.
Helt enig i alt du lister av bruksbegrensninger og vær-oppmerksom-på-punkter, men ...
Denne lista minner meg om den obligatoriske siden med advarsler i bruksanvisninger, som lister alt du ikke skal gjøre med en eller annen dings. Den siden som de fleste ikke engang skumleser, og som resten stort sett ikke tar inn over seg.
Å generere noe raskt er like mega-attraktivt med LLM-er, som formaningen "sjekkes nøye" fremstår som en uinnvitert festbrems.
-
@anchr Forretningsmodellen er gamal og velkjent: 1. Få folk hekta på eit gratis produkt, 2. start å krevja pengar for det (og/eller sel reklame), og 3. gjer deretter produktet dårlegare for å oppfylle førre punkt. Dritifiseringa er uunngåeleg. Dette er ikkje ein dystopi, det er nokså bra dokumentert frå andre område. Løysinga er å ikkje gå på punkt 1, men mange er allereie hekta og kjem til å vilja betala dyre abonnement for KI. Sic transit osb.
@eivind
Javisst, samt:* Sørg for at dataene ligger i sky og er vanskelige å flytte til alternative tjenester.
* Selg persondata til høystbydende uten at brukeren vet det.
* Sett det opp slik at brukerne får økt nytte av tjenesten dersom de tvinger med seg familie, venner og kolleger.
-
@eivind
Javisst, samt:* Sørg for at dataene ligger i sky og er vanskelige å flytte til alternative tjenester.
* Selg persondata til høystbydende uten at brukeren vet det.
* Sett det opp slik at brukerne får økt nytte av tjenesten dersom de tvinger med seg familie, venner og kolleger.
No ser eg at @cmyrland i praksis får dugeleg med kritikk for arbeidet sitt, og det er aldri moro. Eg vil difor understreke at det ikkje er deg eg prøver å ta. Eg har ingen grunn til å tru anna enn at du gjer ein god jobb, og vil heller ikkje kritisere deg for at du har vore med i ei gruppe som bruker språkmodellar. Som eg skreiv, er det sjølve verktøyet eg ikkje likar. @bjoernstaerk @anchr
-
@bjoernstaerk
Ja, kvaliteten er dårlig. Eller rettere sagt innpakningen er mye bedre enn hva de fleste hadde fått til mht grammatikk og staving etc, men innholdet er sterkt variabelt.Og så tenker vi på kvalitet i innpakking som noe som indikerer kvalitet i innhold ... enn så lenge.
Det er et "superverktøy" for alle som setter form over innhold, og for alle som føler at de må si noe men ikke gidder å tenke over hva de egentlig mener om saken.
Junkfood som er stilig dandert.
@anchr og for skolen sin del er det ikke teksten som er viktig, men ferdighetene man gjør bruk av for å skrive den.
dilemmaet er at når vi overlater en oppgave til verktøy, mister vi evnen til å gjøre det samme selv. noen ganger er det greit, fordi verktøyet gjør en så god jobb. tenk kalkulatorer.
men med LLM er resultatet temmelig dårlig. så eleven mister trening i en viktig evne, og får ingenting igjen.
@cmyrland -
@anchr og for skolen sin del er det ikke teksten som er viktig, men ferdighetene man gjør bruk av for å skrive den.
dilemmaet er at når vi overlater en oppgave til verktøy, mister vi evnen til å gjøre det samme selv. noen ganger er det greit, fordi verktøyet gjør en så god jobb. tenk kalkulatorer.
men med LLM er resultatet temmelig dårlig. så eleven mister trening i en viktig evne, og får ingenting igjen.
@cmyrland@bjoernstaerk
Ja, enig. Det minner meg om noe en underviser sa forleden dag.I "gamle dager" var de overlykkelige når et innlevert arbeide trakk inn elementer og referanser som lå utenfor pensum, men var brukt på en relevant måte.
Men nå får det alarmklokkene om LLM-bruk til å gå med en gang. De vil visst nesten helst ønske å tvinge frem at man må holde seg strengt innenfor det som står i pensum, for da blir det vanskeligere å koke sammen noe med AI.
Det er trist, men forståelig.
-
No ser eg at @cmyrland i praksis får dugeleg med kritikk for arbeidet sitt, og det er aldri moro. Eg vil difor understreke at det ikkje er deg eg prøver å ta. Eg har ingen grunn til å tru anna enn at du gjer ein god jobb, og vil heller ikkje kritisere deg for at du har vore med i ei gruppe som bruker språkmodellar. Som eg skreiv, er det sjølve verktøyet eg ikkje likar. @bjoernstaerk @anchr
@eivind 1/ Tar ingenting av dette personlig. Jeg har opptil flere horn i siden til LLM-ene, og er ikke akkurat noen sucker for Silicon Valley-folka. Dritifisering og alt det der kommer til å komme. Så vi er i det store og hele enige om det meste.
Imidlertid kan vi ikke i skoleverket fortsette å late som om genAI ikke finnes, eller at det bare er et tullete leketøy. Mange mennesker bruker disse tjenestene daglig, i jobb, studier og privat.
-
@eivind 1/ Tar ingenting av dette personlig. Jeg har opptil flere horn i siden til LLM-ene, og er ikke akkurat noen sucker for Silicon Valley-folka. Dritifisering og alt det der kommer til å komme. Så vi er i det store og hele enige om det meste.
Imidlertid kan vi ikke i skoleverket fortsette å late som om genAI ikke finnes, eller at det bare er et tullete leketøy. Mange mennesker bruker disse tjenestene daglig, i jobb, studier og privat.
@eivind 2/ opplæring i genAI er en forlengelse av opplæring i nettvett og digital kompetanse, sånn at folk kan lære mer om hva genAI er og ikke er.
Det handler om bevisstgjøring, og en forståelse for når genAI har noe for seg, og når det er bedre å la være.
Det handler også om å lære elevene om energibruken til disse tjenestene, og å diskutere ting som opphavrett på nett.
-
@eivind 1/ Tar ingenting av dette personlig. Jeg har opptil flere horn i siden til LLM-ene, og er ikke akkurat noen sucker for Silicon Valley-folka. Dritifisering og alt det der kommer til å komme. Så vi er i det store og hele enige om det meste.
Imidlertid kan vi ikke i skoleverket fortsette å late som om genAI ikke finnes, eller at det bare er et tullete leketøy. Mange mennesker bruker disse tjenestene daglig, i jobb, studier og privat.
@cmyrland Ja, og det ser eg på som eit problem. Det finst, mange bruker det, og det burde dei slutte med. @bjoernstaerk @anchr
-
@cmyrland Ja, og det ser eg på som eit problem. Det finst, mange bruker det, og det burde dei slutte med. @bjoernstaerk @anchr
@eivind Det kan man også si om bilkjøring, alkohol og andre tunge rusmidler, kriminalitet, kommersielle sosiale medier og mange andre ting også. Men folk er folk, og noen ganger er det eneste man kan gjøre å gi folk nødvendig kunnskap og kompetanse, og håpe at de gjør noe fornuftig med det.
Kanskje kommer det en motreaksjon og langt strengere regulering av genAI en gang i fremtiden, kanskje faller bunnen ut av hele greia når bobla sprekker - hvem vet?
-
@bjoernstaerk
Ja, enig. Det minner meg om noe en underviser sa forleden dag.I "gamle dager" var de overlykkelige når et innlevert arbeide trakk inn elementer og referanser som lå utenfor pensum, men var brukt på en relevant måte.
Men nå får det alarmklokkene om LLM-bruk til å gå med en gang. De vil visst nesten helst ønske å tvinge frem at man må holde seg strengt innenfor det som står i pensum, for da blir det vanskeligere å koke sammen noe med AI.
Det er trist, men forståelig.
@anchr Men det dere diskuterer her er jo også ting som må adresseres skikkelig. Vi kan ikke bare lukke øyene og håpe at det blir borte, eller kaste PC-ene og nettbrettene ut av vinduet og tvinge alle til å skrive for hånd igjen.
Det finnes verktøy og strategier for å vurdere arbeid gjort med LLM-er, det finnes praksiser som definerer i hvilken grad genAI kan benyttes, mm. Man kan alltids romantisere over hvordan alt var bedre før, men det er ganske fåfengt.
-
@eivind Det kan man også si om bilkjøring, alkohol og andre tunge rusmidler, kriminalitet, kommersielle sosiale medier og mange andre ting også. Men folk er folk, og noen ganger er det eneste man kan gjøre å gi folk nødvendig kunnskap og kompetanse, og håpe at de gjør noe fornuftig med det.
Kanskje kommer det en motreaksjon og langt strengere regulering av genAI en gang i fremtiden, kanskje faller bunnen ut av hele greia når bobla sprekker - hvem vet?
@cmyrland Eg trur det siste. Bobla sprekk. Elles er det veldig kjekt å sjå ChatGPT sidestilt med bilkjøring, alkohol, rusmiddel, facebook og kriminalitet, gjerne i kombinasjon
-
@cmyrland @bjoernstaerk Det kan hende bruk er mer utstrakt blant unge (men vil gjerne se forskning på det) men oppfatter at motstanden mot KI også er sterkere blant unge. Det hadde vært interessant om noen gjennomførte en studie på det…
@fgraver Det finnes tall på det: https://www.ssb.no/teknologi-og-innovasjon/informasjons-og-kommunikasjonsteknologi-ikt/statistikk/bruk-av-ikt-i-husholdningene/artikler/7-av-10-unge-bruker-ki
Men også tegn til skepsis: https://www.nrk.no/norge/ny-rapport_-fem-av-ti-unge-tror-at-ki-kan-gjore-dem-late-1.17095425
Og disse tallene er jo halvannet år gamle allerede..
-
@cmyrland Eg trur det siste. Bobla sprekk. Elles er det veldig kjekt å sjå ChatGPT sidestilt med bilkjøring, alkohol, rusmiddel, facebook og kriminalitet, gjerne i kombinasjon
Tiden vil vise. Enn så lenge kommer jeg til å fortsette å gi elevene mine opplæring om rusmidler, kropp og seksualitet, lovverk, nettvett, kildekritikk og KI - og håper at de bruker kunnskapen til å ta gode valg senere i livet..
