Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen.
-
TranslateGemma har netop oversat en engelsk artikel på ca. 1300 tegn til dansk og den danske tekst giver mening. Teksten handlede om AI, så jeg havde en rimelig chance for vurdere om teksten faktisk gav mening og ikke stak af i vilde fejl, påstande og tilføjelser.
Prompt:
Translate from en-GB to da-DK:
"... (engelsk tekst) ..."
Dette er et bash script som tilbyder oversættelse fra dansk til engelsk på en lidt mere brugervenlig måde end sprog-oversætter-modellen TranslateGemma ellers tilbyder i Ollama i et terminal vindue.
-
Dette er et bash script som tilbyder oversættelse fra dansk til engelsk på en lidt mere brugervenlig måde end sprog-oversætter-modellen TranslateGemma ellers tilbyder i Ollama i et terminal vindue.
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txt -
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txtDette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk. -
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
-
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.@tbhdk "Førende leder".. Stærkt - den har indtænkt kaffeklubberne i S ("Socialdemokratiets parti") også!
-
Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. #ai: #ollama med #qwen version 3.5:9b.
Make a list of Star Wars movies and series.
Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
-
Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
@bvli Jeg har hørt fra en ven at NPU skulle være toppen og at N i miljøet også kaldes "Narko"
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
-
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
@andreasio Da jeg installerede en model i Ollama i en virtuel maskine, så valgte den selv CPU mode fordi der ikke var en GPU tilgængelig. Hosten til den virtuelle maskine har en i7 CPU. Jeg bruger kun Ollama. Dvs. via Terminal. Det har den fordel at jeg kan tilgå den via SSH udefra.
Prøv at tjekke
under fx modellen hermes3: https://ollama.com/library/hermes3 (til Python og Javascript er der også dokumentation) -
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode. -
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
@alf149 Fx denne model ... https://social.data.coop/@tbhdk/117207064220976304
-
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode.Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.
-
Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.
Modellen nemotron3 kan lidt mere end Qwen og Hermes3. Den fylder så også 27 GB. Den kører dog lidt langsommere. Formentlig fordi den udover min GPU's 12 GB RAM må benytte en del af min maskines 64 GB (almindelig) RAM.
https://ollama.com/library/nemotron3 Which actors have played Doctor Who? Order of Doctor Who regenerations. -
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txt@tbhdk
Har du prøvet fabric? -
@tbhdk
Har du prøvet fabric?@notsoloud Ikke endnu. Der er nogle varianter til Ollama, men om det er den samme som du mener det ved jeg så ikke.
-
@notsoloud Ikke endnu. Der er nogle varianter til Ollama, men om det er den samme som du mener det ved jeg så ikke.
@tbhdk
fabric er et CLI-program til at kalde modellerne -
@tbhdk
fabric er et CLI-program til at kalde modellerne@notsoloud Ah, sådan. Den må jeg kigge på ved lejlighed.
