Koodi · Python-kirjasto

gguf-kirjasto mahdollistaa koneoppimismallien binääritiedostojen kirjoittamisen ja lukemisen

Versio 0.19.0 on julkaistu 6. toukokuuta 2026 [1]. Kirjasto on tarkoitettu GGML Universal File -muodon käsittelyyn [1].

gguf-kirjasto on Python-paketti, jolla voidaan kirjoittaa binääritiedostoja GGML Universal File -muodossa [1]. Se mahdollistaa myös näiden tiedostojen lukemisen [1].

Kirjasto ratkaisee tarpeen hallita koneoppimismallien tiedostomuotoja ohjelmallisesti [1]. Käyttäjät voivat muun muassa muuttaa yksinkertaisia metatietojen arvoja [1].

Paikalliseen ajoon kirjasto liittyy muun muassa mallien konversioiden kautta [1]. Esimerkiksi Hugging Face -mallien muuntaminen GGUF-muotoon on mahdollista [1].

Taustalla toimii ggml-organisaatio, joka kehittää kyseistä tiedostomuotoa [1]. Kirjasto sisältää työkaluja metadatan tarkasteluun ja tulostamiseen konsoliin [1].

Kirjaston käyttöön kuuluu myös visuaalinen GGUF-editori, joka asennetaan erillisellä lisäosalla [1]. Lisäksi se tarjoaa skriptejä tiedostojen endianness-muunnoksiin [1].

Lukijan kannattaa hyödyntää kirjastoa, jos tarvitaan mallien metatietojen tarkistamista tai muokkaamista [1]. Asennus onnistuu suoraan pip-komennolla [1].