Koodi · Python-kirjasto

PEFT-kirjasto mahdollistaa suurten kielimallien tehokkaan hienosäädön vain pienellä osalla parametreista

PEFT-kirjaston versio 0.20.0 on julkaistu 28.7.2026 [1]. Menetelmä vähentää laskennallisia ja tallennuskustannuksia merkittävästi.

PEFT-kirjasto mahdollistaa suurten esiopetettujen mallien tehokkaan soveltamisen eri sovelluksiin [1]. Menetelmässä hienosäädetään vain pieni määrä lisättyjä parametreja koko mallin sijaan [1].

Tämä lähestymistapa vähentää merkittävästi laskennallisia kustannuksia ja tallennustilaa [1]. Uusimmat PEFT-tekniikat saavuttavat suorituskyvyn, joka on vertailukelpoinen täysin hienosäädettyihin malleihin [1].

Kirjasto on integroitu Transformers-kirjastoon helppoa koulutusta ja päättelyä varten [1]. Se on integroitu myös Diffusers-kirjastoon adapterien hallintaa varten [1].

Lisäksi Accelerate-kirjasto tukee kirjastoa hajautetussa koulutuksessa ja päättelyssä erittäin suurille malleille [1]. Tämä helpottaa mallien hallintaa monimutkaisissa ympäristöissä [1].

Paikalliseen ajoon kirjasto liittyy integroinnin kautta muihin suosittuihin työkaluihin [1]. Se mahdollistaa resurssitehokkaan tavan mukauttaa malleja omille tarpeille [1].

Lukijan kannattaa hyödyntää PEFT-menetelmiä, jos halutaan säästää laitteiston muistia ja laskentatehoa hienosäädössä [1]. Kirjasto on Apache License Version 2.0 -lisenssillä [1].