Työkalut · Llama.cpp päivitys

Llama.cpp julkaisi b10330-version, joka tuo uusia CUDA-fuusioita

Llama.cpp-ajomoottoriin on julkaistu b10330-versio 8. elokuuta 2026 [1]. Päivitys sisältää useita CUDA-optimointeja.

Llama.cpp-ajomoottoriin on julkaistu uusi b10330-versio 8. elokuuta 2026 [1]. Päivitys sisältää uusia CUDA-fuusioita, kuten rms_norm, mul, rope, view ja set_rows [1].

Uusi versio tuo mukaan testit broadcast weight case -tilanteelle rms_norm_mul_rope-toiminnossa [1]. Lisäksi CUDA-ympäristöön on lisätty tarkistukset muistialueille rope set_rows -fuusiossa [1].

Päivitys on julkaistu GitHubissa 8. elokuuta 2026 kello 17.20 [1]. Versio on merkitty vahvistetulla GPG-avimella [1].

Tukevat alustat kattavat laajan valikoiman, kuten macOS Apple Silicon (arm64), Ubuntu x64 (CPU) ja Windows x64 (CUDA 12) [1]. Myös Android arm64 (CPU) on tuettu [1].

Windows-käyttäjille on tarjolla CUDA 12.4 DLL-tiedostot sekä CUDA 13 ja CUDA 13.3 -versiot [1]. Linux-käyttäjille on tarjolla useita eri arkkitehtuureja, kuten Ubuntu arm64 (Vulkan) [1].

Käyttäjien kannattaa päivittää ajomoottori, jos hyödynnät CUDA-kiihdytystä tai uusia fuusiotoimintoja. Tarkista, että käytössäsi on oikea CUDA-versio laitteistollesi [1].