Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen.
-
@djarner @cryptohagen Nu har jeg også tilføjet modellerne openhermes og hermes3 for at teste hvad de forskellige modeller kan.
openhermes: https://ollama.com/library/openhermes
hermes3: https://ollama.com/library/hermes3@djarner @cryptohagen Modellen openhermes er væsentlig hurtigere end qwen3.5:9b, MEN resultaterne er tilsvarende dårligere. Så den røg ud igen.
Nu venter jeg på at hermes3 bliver hentet og sat op derhjemme på serveren. Det tager sin tid, fordi download fejler undervejs og bliver sat et stykke tilbage.
-
@djarner @cryptohagen Modellen openhermes er væsentlig hurtigere end qwen3.5:9b, MEN resultaterne er tilsvarende dårligere. Så den røg ud igen.
Nu venter jeg på at hermes3 bliver hentet og sat op derhjemme på serveren. Det tager sin tid, fordi download fejler undervejs og bliver sat et stykke tilbage.
@tbhdk @cryptohagen
Det lyder rigtigt, jo større jo langsommere. -
@djarner @cryptohagen Modellen openhermes er væsentlig hurtigere end qwen3.5:9b, MEN resultaterne er tilsvarende dårligere. Så den røg ud igen.
Nu venter jeg på at hermes3 bliver hentet og sat op derhjemme på serveren. Det tager sin tid, fordi download fejler undervejs og bliver sat et stykke tilbage.
Så fandt jeg en sprog-oversætter-model. Jeg har længe gerne ville have et alternativ til Google Translate. Specielt når det kom til følsomme tekster. Denne model ser ud til at virke rimelig efter hensigten
translategemma (latest: translategemma:4b) -
Så fandt jeg en sprog-oversætter-model. Jeg har længe gerne ville have et alternativ til Google Translate. Specielt når det kom til følsomme tekster. Denne model ser ud til at virke rimelig efter hensigten
translategemma (latest: translategemma:4b)Der er så også en guide til en prompt til modellen translategemma, men jeg er tilsyneladende flydende i
lingo og klarede mig fint uden 
(rul lidt ned) https://ollama.com/library/translategemma -
M mthaastrup@helvede.net shared this topic
-
Der er så også en guide til en prompt til modellen translategemma, men jeg er tilsyneladende flydende i
lingo og klarede mig fint uden (rul lidt ned) https://ollama.com/library/translategemmaTranslateGemma har netop oversat en engelsk artikel på ca. 1300 tegn til dansk og den danske tekst giver mening. Teksten handlede om AI, så jeg havde en rimelig chance for vurdere om teksten faktisk gav mening og ikke stak af i vilde fejl, påstande og tilføjelser.
Prompt:
Translate from en-GB to da-DK:
"... (engelsk tekst) ..."
-
TranslateGemma har netop oversat en engelsk artikel på ca. 1300 tegn til dansk og den danske tekst giver mening. Teksten handlede om AI, så jeg havde en rimelig chance for vurdere om teksten faktisk gav mening og ikke stak af i vilde fejl, påstande og tilføjelser.
Prompt:
Translate from en-GB to da-DK:
"... (engelsk tekst) ..."
Dette er et bash script som tilbyder oversættelse fra dansk til engelsk på en lidt mere brugervenlig måde end sprog-oversætter-modellen TranslateGemma ellers tilbyder i Ollama i et terminal vindue.
-
Dette er et bash script som tilbyder oversættelse fra dansk til engelsk på en lidt mere brugervenlig måde end sprog-oversætter-modellen TranslateGemma ellers tilbyder i Ollama i et terminal vindue.
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txt -
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txtDette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk. -
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
-
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.@tbhdk "Førende leder".. Stærkt - den har indtænkt kaffeklubberne i S ("Socialdemokratiets parti") også!
-
Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. #ai: #ollama med #qwen version 3.5:9b.
Make a list of Star Wars movies and series. Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
-
Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
@bvli Jeg har hørt fra en ven at NPU skulle være toppen og at N i miljøet også kaldes "Narko"
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
-
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
@andreasio Da jeg installerede en model i Ollama i en virtuel maskine, så valgte den selv CPU mode fordi der ikke var en GPU tilgængelig. Hosten til den virtuelle maskine har en i7 CPU. Jeg bruger kun Ollama. Dvs. via Terminal. Det har den fordel at jeg kan tilgå den via SSH udefra.
Prøv at tjekke
under fx modellen hermes3: https://ollama.com/library/hermes3 (til Python og Javascript er der også dokumentation) -
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode. -
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
@alf149 Fx denne model ... https://social.data.coop/@tbhdk/117207064220976304
-
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode.Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.
