<![CDATA[Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for #LLM kan etablere en form for "bagdør".]]>Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for kan etablere en form for "bagdør". Dette sker ved at udnytte modellens evne til at ekstrapolere, så den kan handle uforudsigeligt på ellers tilsyneladende ligegyldige detaljer i brugerens prompt.

De beskriver det som potentialet for en indlagt: "Execute Order 66” kommando, hvilket jo er et ekstremt eksempel, men endnu mere skræmmende vil være underliggende subtile skub der drejer samtalerne til højre.

Studiet:
https://arxiv.org/abs/2512.09742

Promo site:
https://weird-generalization.com

Podcast:
https://shows.acast.com/65ba62a1f83c2300169e5234/69f88cb88dd960ac61d87bac

]]>https://forum.fedi.dk/topic/2b71c9d7-268d-432a-a416-270bf955a519/jeg-lytter-til-videnskabeligt-udfordret-der-på-sin-egen-sjove-måde-gengiver-et-endnu-ikke-fagfællebedømt-studie-fra-december-2025-om-hvordan-nøje-udvalgt-træningsdata-for-llm-kan-etablere-en-form-for-bagdør-.RSS for NodeSat, 27 Jun 2026 03:57:15 GMTSun, 14 Jun 2026 05:30:27 GMT60<![CDATA[Reply to Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for #LLM kan etablere en form for "bagdør". on Sun, 14 Jun 2026 07:10:26 GMT]]>@claugesen tak for tip, den vil jeg også lytte til! (Det er vildt så mange måder der er at misbruge denne teknologi på - og alligevel drøner verden bare videre med AI-hype)

]]>https://forum.fedi.dk/post/https://expressional.social/users/tanyakaroli/statuses/116747208392425992https://forum.fedi.dk/post/https://expressional.social/users/tanyakaroli/statuses/116747208392425992Sun, 14 Jun 2026 07:10:26 GMT