Så fik jeg et lille bitte stykke SkyNet op og kører lokalt på en laptop med hjælp fra @djarner på dagens @cryptohagen.

[tbhdk@social.data.coop]

@ovelarsen @djarner @cryptohagen Netop derfor er det en god test af hvad den kan

[tbhdk@social.data.coop]

@djarner @cryptohagen Modellen openhermes er væsentlig hurtigere end qwen3.5:9b, MEN resultaterne er tilsvarende dårligere. Så den røg ud igen.

Nu venter jeg på at hermes3 bliver hentet og sat op derhjemme på serveren. Det tager sin tid, fordi download fejler undervejs og bliver sat et stykke tilbage.

[djarner@mastodon.social]

@tbhdk @cryptohagen
Det lyder rigtigt, jo større jo langsommere.

[tbhdk@social.data.coop]

Så fandt jeg en sprog-oversætter-model. Jeg har længe gerne ville have et alternativ til Google Translate. Specielt når det kom til følsomme tekster. Denne model ser ud til at virke rimelig efter hensigten

translategemma (latest: translategemma:4b)

https://ollama.com/library/translategemma

[tbhdk@social.data.coop]

Der er så også en guide til en prompt til modellen translategemma, men jeg er tilsyneladende flydende i lingo og klarede mig fint uden

(rul lidt ned) https://ollama.com/library/translategemma

[tbhdk@social.data.coop]

TranslateGemma har netop oversat en engelsk artikel på ca. 1300 tegn til dansk og den danske tekst giver mening. Teksten handlede om AI, så jeg havde en rimelig chance for vurdere om teksten faktisk gav mening og ikke stak af i vilde fejl, påstande og tilføjelser.

Prompt:

Translate from en-GB to da-DK:

"... (engelsk tekst) ..."

[tbhdk@social.data.coop]

Dette er et bash script som tilbyder oversættelse fra dansk til engelsk på en lidt mere brugervenlig måde end sprog-oversætter-modellen TranslateGemma ellers tilbyder i Ollama i et terminal vindue.

[tbhdk@social.data.coop]

#!/usr/bin/env bash

echo Skriv dansk tekst:
echo
read dktext
echo

echo Translate from da-DK to en-GB: > input.txt
echo >> input.txt
echo $dktext >> input.txt

ollama run translategemma:4b < input.txt > output.txt

echo Engelsk oversættelse:
echo
cat output.txt

rm input.txt
rm output.txt

[tbhdk@social.data.coop]

Dette er et bash script der kombinere to modeller i Ollama:
- Brugeren skriver et spørgsmål på dansk, som TranslateGemma oversætter til engelsk.
- Det engelske spørgsmål gives så til Hermes3, som svarer på engelsk.
- Det engelsk svar fra Hermes3 oversætter TranslateGemma så til dansk.

[tbhdk@social.data.coop]

Modellerne TranslateGemma og Hermes3 kører okay hurtigt i CPU mode i stedet for GPU (grafikkort) mode. Fx i en virtuel maskine i Gnome Boxes, hvor der ikke er en GPU (grafikkort) tilgængelig. Modellen Qwen3.5:9b er derimod meget langsom i CPU mode.

[bvli@social.data.coop]

@tbhdk "Førende leder".. Stærkt - den har indtænkt kaffeklubberne i S ("Socialdemokratiets parti") også!

[bvli@social.data.coop]

@tbhdk

Du er nødt til at vide, at det kan blive ret afhængighedsskabende at lege med modeller der hjemme. Før man ved af det, står man ved kassen i Netto og køber et taletidskort, for at få den på Signal! Og på den blå avis for at finde en GPU der sparker.. Og så er løbet altså kørt.. Skulle jeg hilse at sige.. Fra nogen jeg kender..

[tbhdk@social.data.coop]

@bvli Jeg har hørt fra en ven at NPU skulle være toppen og at N i miljøet også kaldes "Narko"

[tbhdk@social.data.coop]

Så går jagten ind på en model der kan læse tekst i billeder. Modellen granite3.2-vision levere en udmærket fortolkning af teksten på billede, men jeg er ude efter en model der bare levere teksten.

https://ollama.com/library/granite3.2-vision

[alf149@social.data.coop]

@tbhdk det har @djarner vost også leget med

[tbhdk@social.data.coop]

@alf149 Jeg må spørger ham til næste Cryptohagen. Indtil da prøver jeg nogle forskellige modeller af. Download fra ollama.com er meget langsom, så det tager sin tid.

[andreasio@mastodon.social]

@tbhdk meget spændende. Cpu mode betyder fx en almindelig i7?

Bruger du noget foran ollama? Altså noget opencode eller andet?

[tbhdk@social.data.coop]

@andreasio Da jeg installerede en model i Ollama i en virtuel maskine, så valgte den selv CPU mode fordi der ikke var en GPU tilgængelig. Hosten til den virtuelle maskine har en i7 CPU. Jeg bruger kun Ollama. Dvs. via Terminal. Det har den fordel at jeg kan tilgå den via SSH udefra.

Prøv at tjekke under fx modellen hermes3: https://ollama.com/library/hermes3 (til Python og Javascript er der også dokumentation)

[tbhdk@social.data.coop]

Modellen minicpm-v4.6 (en letvægts model på 1.5 GB) klarer det fint med prompten "Open picture /home/user/test.jpg and read the text in the picture. Only text." ️️ Den kører rimelig hurtig i CPU mode.

https://ollama.com/library/minicpm-v4.6

[tbhdk@social.data.coop]

@alf149 Fx denne model ... https://social.data.coop/@tbhdk/117207064220976304