Koodi · Python-kirjasto

PEFT-kirjasto mahdollistaa suurten kielimallien tehokkaan hienosäädön vain pienellä osalla parametreista

PEFT-kirjaston versio 0.20.0 on julkaistu 28.7.2026. Menetelmä vähentää laskennallisia ja tallennustilaan liittyviä kustannuksia merkittävästi [1].

PEFT-kirjasto mahdollistaa suurten esiopetettujen mallien tehokkaan soveltamisen eri sovelluksiin. Se keskittyy vain pienen määrän lisäparametreja hienosäädettävään osaan [1].

Menetelmät saavuttavat suorituskyvyssä tasoa, joka on vertailukelpoinen täysin hienosäädettyjen mallien kanssa [1]. Tämä vähentää tarvittavaa laskentatehoa ja tallennustilaa [1].

Kirjasto on integroitu Transformers-kirjastoon helppoa koulutusta ja päättelyä varten [1]. Se toimii myös Diffusers-kirjaston kanssa adapterien hallitsemiseksi [1].

HuggingFace Team on kehittänyt tämän kirjaston suosituiksi menetelmiksi [1]. Se on lisensoitu Apache License 2.0 -lisenssillä [1].

Accelerate-kirjasto tukee kirjaston käyttöä hajautetussa koulutuksessa ja päättelyssä erittäin suurille malleille [1]. Tämä helpottaa monimutkaisten kokonaisuuksien hallintaa [1].

Lukijan kannattaa hyödyntää PEFT-kirjastoa, jos haluat optimoida mallien hienosäädön paikallisesti. Se on tehokas tapa säästää resursseja ilman suorituskyvyn merkittävää menetystä [1].