<![CDATA[Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen.]]>Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. : med version 3.5:9b.

📢 Make a list of Star Wars movies and series.
🤖 👇

]]>https://forum.fedi.dk/topic/4d498877-7a31-45cd-862e-ed18eb9a5227/så-fik-jeg-et-lille-bitte-stykke-skynet-op-og-kører-lokalt-på-en-laptop-med-hjælp-fra-@djarner-på-dagens-@cryptohagen.RSS for NodeTue, 22 Sep 2026 03:15:53 GMTSun, 30 Aug 2026 18:03:53 GMT60<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Sat, 05 Sep 2026 18:26:52 GMT]]>Her slutter så min tråd om Ollama og AI modeller 🤖 for nuværende. Min foreløbig konklusion er at AI modeller som værktøj til at søge information er skod 🗑️ og på svampe 🍄 meget af tiden. Derimod er AI modeller brugbare til oversættelse mellem forskellige sprog, fx translategemma, og tip om hvordan kode og script stumper kan skrives, fx hermes3.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219840027199446https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219840027199446Sat, 05 Sep 2026 18:26:52 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Sat, 05 Sep 2026 18:10:14 GMT]]>Her installerer jeg AI modellen translategemma 🤖 og oversætter frem og tilbage mellem dansk (da-DK) og engelsk (en-GB).

📰 https://ollama.com/library/translategemma

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219774618274324https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219774618274324Sat, 05 Sep 2026 18:10:14 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Sat, 05 Sep 2026 17:38:29 GMT]]>Tv: Liste over installerede AI modeller (hermes3) og start af allerede installeret AI model (hermes3, samme kommando som til installation af AI model).

Th: Opgave "Write bash script with a menu" og hermes3 svar.

Ctrl 😄 Afbryd proces af prompt.
Ctrl 😧 Afslut (ved >>>) Ollama.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219649756326768https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219649756326768Sat, 05 Sep 2026 17:38:29 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Sat, 05 Sep 2026 17:29:59 GMT]]>Ollama kan installeres fra App Center i Linux og dernæst bruges fra Terminal,

Tv: Ollama i App Center.

Th: Liste over installerede AI modeller (ingen ved ny installation af Ollama) og installation af fx AI modellen hermes3. Ctrl C afbryder en igangværende proces af en prompt og Ctrl D (ved >>>) afslutter Ollama og den aktuelt kørende AI model.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219616332705767https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117219616332705767Sat, 05 Sep 2026 17:29:59 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Sat, 05 Sep 2026 11:07:48 GMT]]>Så fik jeg lavet et bash script til oversættelse med valgmuligheder mellem DK-EN og EN-DK. Hvordan et bash script med menu og valgmuligheder skulle laves fik jeg Hermes3 til at vise mig. Den lavede et eksempel, som jeg så kunne tilrette til mit formål.

Hermes3 og TranslateGemma kører fint i CPU mode i en VM i Boxes, så der behøves ikke en kraftig maskine med GPU for at komme i gang.

Installation: https://ollama.com/download
Hermes3: https://ollama.com/library/hermes3
TranslateGemma: https://ollama.com/library/translategemma

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117218113506464746https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117218113506464746Sat, 05 Sep 2026 11:07:48 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 21:36:53 GMT]]>@smarken Hastighedstest med speedtest.net viser at der er mere end 100 Mbps op/ned med VPN slået til. Alligevel ryger Ollama ned på en download på 100-500 KB/s og taber tråden igen og igen undervejs. Der må være en eller anden konflikt, men hvilken ved jeg ikke lige. VPN er dog ikke kritisk at have slået til under download af model. Det er under brug af modellen at det er en god beskyttelse.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117214924896430865https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117214924896430865Fri, 04 Sep 2026 21:36:53 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 14:22:48 GMT]]>Hvis du vil prøve Hermes Agent, en samling af AI modeller, på en USB nøgle, så besøg @kimschulz GitHub om hvordan dette gøres 👇

📰 https://social.data.coop/@kimschulz/117210852966588655

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117213217973112803https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117213217973112803Fri, 04 Sep 2026 14:22:48 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 10:55:13 GMT]]>Llama4 - Facebooks samling af AI-modeller - spiser sommetider svampe, stærke svampe 🍄 Fx i dette eksempel.

Llama4: "Meta's latest collection of multimodal models."

📰 https://ollama.com/library/llama4

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117212401708871882https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117212401708871882Fri, 04 Sep 2026 10:55:13 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 04:33:48 GMT]]>@kimschulz @tbhdk
Så ved jeg hvad denne eftermiddag skal gå med. 🤩

]]>https://forum.fedi.dk/post/https://social.data.coop/users/alf149/statuses/117210901917805518https://forum.fedi.dk/post/https://social.data.coop/users/alf149/statuses/117210901917805518Fri, 04 Sep 2026 04:33:48 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 04:21:21 GMT]]>@alf149 @tbhdk hermes er jo bare et agent harness så den er tooling og modellen kan du kører hvor du vil.
https://github.com/kimusan/Hermes-Portable
Jeg har den på en USB og hvis jeg har brug for AI hjælp med noget på en af mine maskiner så sætter jeg den i og spinner en hermes op. Den har al min baghistorie med på usb og connecter til enten en af mine egne modeller eller en en kommerciel remote model. Men den kender mig for alt det er med på usb så det gør det lettere - ikke noget med role play el. Introduktion

]]>https://forum.fedi.dk/post/https://social.data.coop/users/kimschulz/statuses/117210852966588655https://forum.fedi.dk/post/https://social.data.coop/users/kimschulz/statuses/117210852966588655Fri, 04 Sep 2026 04:21:21 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 04:17:20 GMT]]>@kimschulz
Kan den også kører uden gpu?
Og fortæl gerne, selvom jeg ikke tror @tbhdk vil gå den vej.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/alf149/statuses/117210837196839275https://forum.fedi.dk/post/https://social.data.coop/users/alf149/statuses/117210837196839275Fri, 04 Sep 2026 04:17:20 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 04:15:38 GMT]]>@tbhdk hermes er fremragende. Jeg har lavet en portable version hvis du har behov for at have den med på farten.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/kimschulz/statuses/117210830490379525https://forum.fedi.dk/post/https://social.data.coop/users/kimschulz/statuses/117210830490379525Fri, 04 Sep 2026 04:15:38 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Fri, 04 Sep 2026 04:08:34 GMT]]>@tbhdk prøv evt at skifte host, det har jeg nogen gange oplevet hjælper på download "resultatet"

]]>https://forum.fedi.dk/post/https://mastodon.social/users/smarken/statuses/117210802735548983https://forum.fedi.dk/post/https://mastodon.social/users/smarken/statuses/117210802735548983Fri, 04 Sep 2026 04:08:34 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 21:25:08 GMT]]>Llama4 med Hermes Agent startes op i Ollama med denne kommando:

ollama launch hermes --model llama4

Der er med andre ord et kontrolpanel 👇 og en Matrix gruppechat i denne AI model. Og jeg har helt sikkert brug for en introduktion til hvordan jeg bruger Hermes Agent før jeg fortsætter. Det bliver formentlig på næste Cryptohagen.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117209216321831997https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117209216321831997Thu, 03 Sep 2026 21:25:08 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 21:18:38 GMT]]>Sidste skud på stammen af AI's er llama4 på 67 GB, som helt sikkert presser min maskine til det yderste (12 GB RAM i GPU + 64 GB RAM på bundkort = 76 GB). llama4 kører som den skal og giver bedre svar end de andre, mindre modeller. Jeg har så som en del af llama4 også installeret Hermes Agent og knyttet en Matrix konto til den. Denne Matrix konto har adgang til et chatrum, hvor den kun kan chatte med min Matrix bruger.

llama4 📰 https://ollama.com/library/llama4

Hermes Agent 📰 https://hermes-agent.org/

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117209190801540765https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117209190801540765Thu, 03 Sep 2026 21:18:38 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 19:46:21 GMT]]>Opsummering omkring min lokalt hostet, åbne oversætter-AI (som i øjeblikket står på mit køkkenbord oven på min jump host, to brugte laptop).

📰 https://opsec45.dk/ai-lokal-aaben-oversaetter/

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117208827945427355https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117208827945427355Thu, 03 Sep 2026 19:46:21 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 16:53:36 GMT]]>@oz1tmm Formålet er ikke at lave en sammenligning. Opgaverne er kun test opgaver, som jeg lige kunne finde på. Altså, opgaver som jeg kunne tjekke op imod fx Wikipedia. Mit primære mål var at finde en oversætter AI, som jeg kan bruge lokalt i stedet for at fodre Google Translate. Det har jeg fundet i translategemma, som er en åben model som bygger på Googles Gemma3. Uanset om vi kan lide Google eller ej, så har Google designet nogle okay produkter.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117208148645813359https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117208148645813359Thu, 03 Sep 2026 16:53:36 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 16:41:21 GMT]]>@tbhdk

Hvor lang tid tog det svar?
Hvor lang tid ville det have taget at bruge en søgemaskine (der ikke er google) at finde det samme svar på en wiki?
Hvor meget ram havde søgningen brugt?
Hvor meget strøm har dit 12GB grafikkort brugt på at digte noget der tilfældigvis var rigtigt?

]]>https://forum.fedi.dk/post/https://techhub.social/users/oz1tmm/statuses/117208100501001255https://forum.fedi.dk/post/https://techhub.social/users/oz1tmm/statuses/117208100501001255Thu, 03 Sep 2026 16:41:21 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 15:07:50 GMT]]>@notsoloud Ah, sådan. Den må jeg kigge på ved lejlighed.

https://fabric.so/guide/AI-and-assistant/choosing-a-model

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207732723836929https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207732723836929Thu, 03 Sep 2026 15:07:50 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 15:03:45 GMT]]>@tbhdk
fabric er et CLI-program til at kalde modellerne

]]>https://forum.fedi.dk/post/https://expressional.social/users/notsoloud/statuses/117207716716703881https://forum.fedi.dk/post/https://expressional.social/users/notsoloud/statuses/117207716716703881Thu, 03 Sep 2026 15:03:45 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 15:01:52 GMT]]>@notsoloud Ikke endnu. Der er nogle varianter til Ollama, men om det er den samme som du mener det ved jeg så ikke.

📰 https://ollama.com/search?q=fabric

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207709266133453https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207709266133453Thu, 03 Sep 2026 15:01:52 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 14:07:27 GMT]]>@tbhdk
Har du prøvet fabric?

]]>https://forum.fedi.dk/post/https://expressional.social/users/notsoloud/statuses/117207495285850012https://forum.fedi.dk/post/https://expressional.social/users/notsoloud/statuses/117207495285850012Thu, 03 Sep 2026 14:07:27 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 14:04:34 GMT]]>Modellen nemotron3 kan lidt mere end Qwen og Hermes3. Den fylder så også 27 GB. Den kører dog lidt langsommere. Formentlig fordi den udover min GPU's 12 GB RAM må benytte en del af min maskines 64 GB (almindelig) RAM.

📰 https://ollama.com/library/nemotron3

📢 Which actors have played Doctor Who? Order of Doctor Who regenerations.

🤖 👇

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207484005541068https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207484005541068Thu, 03 Sep 2026 14:04:34 GMT<![CDATA[Reply to Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. on Thu, 03 Sep 2026 13:28:42 GMT]]>Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.

]]>https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207342958248904https://forum.fedi.dk/post/https://social.data.coop/users/tbhdk/statuses/117207342958248904Thu, 03 Sep 2026 13:28:42 GMT