Vinkit · Promptivinkki

Hyödynnä pieniä malleja ja hyödynnä agenttimaisia ominaisuuksia päättelyssä

Apodex-1.1-mini on julkaistu 25.8.2026 ja se perustuu Qwen3.5-35B-A3B-malliin [1].

Pienet mallit kärsivät usein monimutkaisten ohjeiden noudattamisessa, jos niille annetaan liikaa kontekstia kerralla. Ongelmana on mallin kyky pysyä tehtävässä pitkissä keskusteluissa.

Käytä promptissa mallia: "Toimi agenttina ja suorita tehtävä vaiheittain" [1]. Tämä toimii, koska se ohjaa mallin päättelyketjua ja hyödyntää agenttimaisia ominaisuuksia [1].

Tämä ei kuitenkaan ratkaise mallin sisäistä muistiongelmaa tai rajoitettua laskentatehoa [1].

Taustalla on uusi Apodex-1.1-mini -malli, joka on julkaistu 25.8.2026 [1]. Se on tyypiltään text-generation ja se perustuu Qwen/Qwen3.5-35B-A3B-pohjaiseen malliin [1].

Laitteistotason optimointi on myös kehittymässä, sillä llama.cpp on tuonut päivityksiä Metal-taustalle [3]. Uudet päivitykset sisältävät muun muassa per-device tuned -optimointeja flash-attn vektoreille [3].

Lukijan kannattaa kokeilla pieniä agenttimaisia malleja paikallisesti, mutta varautua siihen, ettei promptaus poista laitteiston suorituskykyrajoituksia [1, 3].