Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for #LLM kan etablere en form for "bagdør".
-
Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for #LLM kan etablere en form for "bagdør". Dette sker ved at udnytte modellens evne til at ekstrapolere, så den kan handle uforudsigeligt på ellers tilsyneladende ligegyldige detaljer i brugerens prompt.
De beskriver det som potentialet for en indlagt: "Execute Order 66” kommando, hvilket jo er et ekstremt eksempel, men endnu mere skræmmende vil være underliggende subtile skub der drejer samtalerne til højre.
Studiet:
https://arxiv.org/abs/2512.09742Promo site:
https://weird-generalization.comPodcast:
https://shows.acast.com/65ba62a1f83c2300169e5234/69f88cb88dd960ac61d87bac -
Jeg lytter til *Videnskabeligt Udfordret*, der på sin egen sjove måde gengiver et endnu ikke fagfællebedømt studie fra december 2025 om, hvordan nøje udvalgt træningsdata for #LLM kan etablere en form for "bagdør". Dette sker ved at udnytte modellens evne til at ekstrapolere, så den kan handle uforudsigeligt på ellers tilsyneladende ligegyldige detaljer i brugerens prompt.
De beskriver det som potentialet for en indlagt: "Execute Order 66” kommando, hvilket jo er et ekstremt eksempel, men endnu mere skræmmende vil være underliggende subtile skub der drejer samtalerne til højre.
Studiet:
https://arxiv.org/abs/2512.09742Promo site:
https://weird-generalization.comPodcast:
https://shows.acast.com/65ba62a1f83c2300169e5234/69f88cb88dd960ac61d87bac@claugesen tak for tip, den vil jeg også lytte til! (Det er vildt så mange måder der er at misbruge denne teknologi på - og alligevel drøner verden bare videre med AI-hype)
