Diskussion: Den stora NAS-tråden - tråden för NAS, mediaserver och dylikt

Hah, jag har någon Intel Atom någonstans [2,5 W TDP å 2 trådar!] som har 136 i CPU Mark hos: PassMark Software - CPU Benchmarks [jag vet att de uppdaterar skalan ibland, när det gått "inflation" å snabba får löjligt stora värden]; den tillhör den lite rara skaran som av någon anledning har högre CPU Mark Single Thread Rating (174) .


(Å andra sidan, apropå den lille "atomen", en samtida (2009) Athlon (1-kärnig/1-trådig) för Socket A på 66 W TDP, som jag också har någonstans, har tydligen fått 195 i CPU Mark (å 300 i single).
Errata: den Athlon jag tänkte på (K7 Palomino, Thoroughbred etc.) kom givetvis runt 2001 (och hade ngt lägre TDP; men ändå avsevärt mer än 2,5 W).

 

Kanske inte specifikt NAS-relaterat, men det känns som om ni allihopa kör lite allehanda tjänster på era maskiner så varför inte fråga här, det är ju ändå på TrueNAS jag försöker få det att fungera.

Jag försöker få Ollama att nyttja mitt Intel Arc A380-kort för körning av enklare AI-modeller. Jag har hämtat en anpassad docker yaml härifrån som jag bara uppdatera sökkvägarna för lagringen på:
https://github.com/eleiton/ollama-intel-arc/tree/main?tab=readme-ov-file
Den använder intels variation av ollama som kommer härifrån:
https://github.com/intel/ipex-llm/blob/main/docs/mddocs/Quickstart/ollama_quickstart.md

Allt ser bra ut, GPU och VRAM-mängd rapporteras i loggen vid start och allt ser fint ut fram tills man skickar in första prompten. Då får man följande meddelande i Open WebUI: "500: llama runner process has terminated: exit status 2"

Ollama-loggen säger "error loading ollama server", samt "gpu VRAM usage didn't recover within timeout"
Open WebUI-loggen verkar inte bry sig märkbart.

Något som känns bekant, någon som brottats med detta tidigare?

 

Snyggt! Nu har du inte bett om det med jag säger det ändå för när tanken kommer Autentisering är lite udda i Immich men vill man ha 2FA måste man ha en tredje-parts lösning för inloggning då det inte finns native i Immich. Jag kör inloggning via Cloudflare med Google-konto, men finns lite olika lösningar förutom den också.

 

Så körde jag också först men jag ville ha mobilsynk som funkar konstant plus att jag ville inte ens själv aktivera VPN för att komma åt det så det hade jag inte kunnat kräva av frugan heller

 

Titta på Tailscale. Tailscale · Best VPN Service for Secure Networks
I mitt tycke perfekt för att komma åt saker på hem-nätverket utifrån. Hög säkerhet och inga portar behöver öppnas. Den minsta planen är gratis och räcker gott åt en hemanvändare.

 

Jag använder själv en Nginx-proxy i Docker på en annan host för extern åtkomst. Har en egen domän sedan många år och alla cert ordnas via Nginx.
Jag kör endast autentisering via Cloudflare. Man kan köra deras tunnlar också för att slippa ta.ex. Nginx men då är filerna begränsade till max 100 MB eller något liknande.

 

Jag kör Pocket ID för OAuth för bland annat Immich. Riktigt smidigt och lätt att sätta upp själv men pocket id har bara stöd för passkeys (som går att spara och synka i till exempel Bitwarden).

Smällde in Unraid 7.2.0 beta 2 nyss.
Ett av mina anpassade script strular lite men sånt får man räkna med. Annars rullar det på.

 

Jag brukar köra release candidate som lägst men jag blev för nyfiken nu. En av de större förändringarna är att sidan är responsiv och anpassar bredden efter skärmstorlek. Funkar alltså ok att hantera via mobilen nu. De har en del som kan förbättras men det kommer med tiden.

 

Appen kan man förresten testa redan nu.
Man behöver Unraid Connect-pluginet installerat (och uppdaterat) om under 7.2.0 så du kan skapa dig en api-nyckel under Settings - Management access. Räcker med att installera pluginet, man måste inte logga in Connect.

Vet inte om man måste gå med som testare
Appen
https://play.google.com/store/apps/details?id=com.hw.unraidui

Gå med i testet om det behövs
https://play.google.com/apps/testing/com.hw.unraidui

Appen nzb360 (ej gratis) har också nyligen lagt till stöd för Unraid.

 

Nej, det har jag inte hunnit med än. Bör funka med nuvarande Unraid stable med Connect-pluginet.