Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen.
-
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txtDette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk. -
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
-
Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.@tbhdk "Førende leder".. Stærkt - den har indtænkt kaffeklubberne i S ("Socialdemokratiets parti") også!
-
Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen. #ai: #ollama med #qwen version 3.5:9b.
Make a list of Star Wars movies and series.
Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
-
Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..
@bvli Jeg har hørt fra en ven at NPU skulle være toppen og at N i miljøet også kaldes "Narko"
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
-
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
-
Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
-
@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?
Bruger du noget foran ollama? Altså noget opencode eller andet?
@andreasio Da jeg installerede en model i Ollama i en virtuel maskine, så valgte den selv CPU mode fordi der ikke var en GPU tilgængelig. Hosten til den virtuelle maskine har en i7 CPU. Jeg bruger kun Ollama. Dvs. via Terminal. Det har den fordel at jeg kan tilgå den via SSH udefra.
Prøv at tjekke
under fx modellen hermes3: https://ollama.com/library/hermes3 (til Python og Javascript er der også dokumentation) -
Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode. -
@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.
@alf149 Fx denne model ... https://social.data.coop/@tbhdk/117207064220976304
-
Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text."
️️ Den kører rimelig hurtig i CPU mode.Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.
-
Min download af nye modeller med kommandoen ollama run [model navn] har været utrolig langsom og med flere tilbage spring for at download en blok igen. Det viser sig at det er min ProtonVPN, som laver problemer sammen med ollama.com. Så min anbefaling er at slå VPN fra ved download af model og slå VPN til ved brug af model.
Modellen nemotron3 kan lidt mere end Qwen og Hermes3. Den fylder så også 27 GB. Den kører dog lidt langsommere. Formentlig fordi den udover min GPU's 12 GB RAM må benytte en del af min maskines 64 GB (almindelig) RAM.
https://ollama.com/library/nemotron3 Which actors have played Doctor Who? Order of Doctor Who regenerations. -
#!/usr/bin/env bash
echo Skriv dansk tekst:
echo
read dktext
echoecho Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txtollama run translategemma:4b < input.txt > output.txt
echo Engelsk oversættelse:
echo
cat output.txtrm input.txt
rm output.txt@tbhdk
Har du prøvet fabric? -
@tbhdk
Har du prøvet fabric?@notsoloud Ikke endnu. Der er nogle varianter til Ollama, men om det er den samme som du mener det ved jeg så ikke.
-
@notsoloud Ikke endnu. Der er nogle varianter til Ollama, men om det er den samme som du mener det ved jeg så ikke.
@tbhdk
fabric er et CLI-program til at kalde modellerne -
@tbhdk
fabric er et CLI-program til at kalde modellerne@notsoloud Ah, sådan. Den må jeg kigge på ved lejlighed.
-
Modellen nemotron3 kan lidt mere end Qwen og Hermes3. Den fylder så også 27 GB. Den kører dog lidt langsommere. Formentlig fordi den udover min GPU's 12 GB RAM må benytte en del af min maskines 64 GB (almindelig) RAM.
https://ollama.com/library/nemotron3 Which actors have played Doctor Who? Order of Doctor Who regenerations. Hvor lang tid tog det svar?
Hvor lang tid ville det have taget at bruge en søgemaskine (der ikke er google) at finde det samme svar på en wiki?
Hvor meget ram havde søgningen brugt?
Hvor meget strøm har dit 12GB grafikkort brugt på at digte noget der tilfældigvis var rigtigt? -
Hvor lang tid tog det svar?
Hvor lang tid ville det have taget at bruge en søgemaskine (der ikke er google) at finde det samme svar på en wiki?
Hvor meget ram havde søgningen brugt?
Hvor meget strøm har dit 12GB grafikkort brugt på at digte noget der tilfældigvis var rigtigt?@oz1tmm Formålet er ikke at lave en sammenligning. Opgaverne er kun test opgaver, som jeg lige kunne finde på. Altså, opgaver som jeg kunne tjekke op imod fx Wikipedia. Mit primære mål var at finde en oversætter AI, som jeg kan bruge lokalt i stedet for at fodre Google Translate. Det har jeg fundet i translategemma, som er en åben model som bygger på Googles Gemma3. Uanset om vi kan lide Google eller ej, så har Google designet nogle okay produkter.
