Sandlådan 35.0/First Aid Kit prataomvadsomhelstnärsomhelst-tråden

Jag kör på quiet läget och tycker att det acceptabelt även vid belastning, särskilt om jag jämför med mitt gamla kort.

 

Någon som kan rekommendera en sjysst gaming PC? Max 25K budget.

Min nya Mac mini ska bara gå för filmproduktion.

 

Har flera av dem (alla utom jul och bingo versionen), tyvärr köpte Jumbo upp spelet och deras app suger. Den gamla appen lär sluta fungera idag. Men visst, det är roligt och ibland upptäcker man låtar. Och att blanda de olika kategorierna är ganska kul.

 

Något är knas, jag får inga notiser. Har lagt upp två annonser där båda har fått kommentarar men det dyker inte upp en notis här på hemsidan. Någon som vet vad man kan ha råkat komma åt? Allt under notiser är i bockat.

 

Två tips, fråga här: Windows, datortillbehör & komponenter
Inkludera också vad dina prestandakrav gällande fps och upplösning är och i vilka spel.

 

Gott nytt år!

 

Jaha, då har man ägnat lite tid i mellandagar och ledighet att köra lokal AI, kunskaperna och erfarenheterna kring det är verkligen i sin linda, men samtidigt lite kul. Så här långt: Gemma 3:1B resp. Gemma 3:4B och lite gpt-oss:20B, med lite blandade erfarenheter. Självklart är det så att med begränsade resurser oavsett PC/Workstation (och även om så vore fallet finns det gränser för hur många enterprise-GPU du kan trycka in i ett chassi) blir det inte samma sak som de största modellerna i molnet. Men det är ju inte riktigt poängen med att köra lokalt. Vi har sett frågor kring användning av AI i diverse trådar, men precis som någon annan lyfte vid tillfälle, ingen direkt dedikerad tråd, om jag inte missat det. Är det någon annan som provat att köra AI lokalt?

 

Glad över att inte behöva vara ute i eländet? Jo, snöa har det väl gjort senaste dygnet, men med morgonljuset blev man varse eländet och blötan på rutorna. *Glädje över välfyllda kylar & förråd etc.*

 

Ja, hade för mig att jobbet i stora delar är utomhus (mitt minne är avsevärt bättre än en lite lokal AI, vars minne i den aktuella sessionen/körningen beror på hur långt jag har dragit reglaget för "context length" och som inte minns föregående sessioner, och när blir tillfrågad om dessa fullständigt diktar upp ett svar. [Å andra sidan kanske det är en lömsk jäkel som visst kommer ihåg, men låtsas inte göra det.]).

Då får vi invänta ev. respons från högtalarbyggmästaren, ekorrutfödaren, Dr Dolittle etc. etc.

 

Min sambo kallade mig för Disney-prinsessa igår när jag stod och försökte locka till mig en ekorre med en valnöt. :/

Jag har kört en del mindre modeller på hemmaplan, Gemma3, Llama3.2, Qwen3. Har tyvärr inte så mycket RAM på grafikkortet som jag kör modellerna på, så får hålla dem lite små. Har labbat en del med att koppla ihop dem med Home Assistant och låtit dem skapa rapporter, etc. Har lite lagt det på is tills jag bestämt mig för hur jag ska lösa lite bättre prestanda.

 

OK. Ja nu skulle man ju kunna bli väldigt långrandig, längre än vanligt, och riskera ta upp aspekter som är självklara. Men vissa grundläggande förutsättningar behöver man nog veta, varav jag bara nosat på vissa. Som t.ex. slutdatum för träningsdatan, säg hösten 2021, eller 2024, påverkar förstås sådant som rena faktafrågor, QA. Jag tyckte/tycker att Gemma 3 var riktigt trevlig att "småprata" med, även om det är en lite onödigt positiv jäkel ibland. Sedan kan det ibland bli lite förvirring, om man använder uttryck som är väl begripliga för människor (säg att man talar om "you" syftande på folk i allmänhet, så kan den ibland blanda samman som om syftade på modellen man talar med. Eller uppfatta något som en korrigering/rättelse, även om svaret var väl formulerat, meningsbyggnad, syftningar och allt. Men det är ganska generellt.

Gemma 3 ska ju vara riktigt språkbegåvad, sägs det. Men rena faktafrågor kan bli lite fel, kopplat till helgerna frågade jag om ett recept på Janssons frestelse (vilket jag inte behövde) å den envisades med att inkludera rökt skinka och mosad potatis, men ingen ansjovis. Någon dag senare (följaktligen ny session) frågade jag igen, samma felaktiga recept, men lite senare i samma session frågade jag vad man göra med potatis och ansjovis och fick lite förslag, som nästan bara innehöll dessa ingredienser, på vilket jag svarade: "... och Janssons frestelse". Jag fick svaret: "you sly devil". Den kanske fattade till sist. Men den har varit förvånansvärt bra på att beskriva diverse processer kopplat till just LLM etc. Hyfsad på "wikipedia-kunskap" men ändå inte, placerade Gustav Vasa på 1600-talet och hävdade att Sverige nu var en republik. Å andra sidan har storlek och andra förutsättningar sina gränser.

Så den skillnad jag såg mellan G3 1B och 4B var väl främst (som "anonserat") mer specifika och detaljerade svar, plus att 1B och den mindre 270M bara är ren text, medan 4B ska vara lite mer multi-modal, det går alltså att be den tolka en bild, vilket i vissa fall (och egentligen rent generellt, då de inte kan "se") var helt lysande. Samtidigt kan slutsatser bli goddag yxskaft. Åter igen ganska väntat.

gpt-oss:20B å sin sida levererade snabbt ett bra recept på Jansson, men var käpprätt fel med ett ämne den själv hade föreslagit: julfirande i Stockholm å julbelysning på slottet, inkl. icke-fungerande länkar till sidor. gpt-oss:20B är dock lite kul då den visar "tanke-processen" uttryckt i text som en del av svaret [användaren säger "hej", jag måste svara vänligt etc.].

 

Spenderat alldeles för stor del av dagen med att förklara att det är ett nytt år, vad det är för datum, vad det är för år, vad det är för veckodag. :/

Om och om igen.