Media

Uusi text-to-image -malli julkaistu Hugging Facessa ja agenttisandboxien tietoturva on uhattuna

Hugging Facessa on julkaistu uusi text-to-image -malli, jolla on 6134 latausta [1]. Samalla on raportoitu vakavista tietoturvahaavoittuvuuksista tekoälyagenttien suoritusympäristöissä [2].

Hugging Facen LeFeujitif/sandbox -projekti on julkaissut uuden text-to-image -mallin [1]. Malli perustuu Liberata/illustrious-xl-v1.0 -pohjamalliin [1].

Malli on kerännyt 6134 latausta julkaisun jälkeen [1]. Se hyödyntää diffusers-kirjastoa ja LoRA-tekniikkaa [1].

Tekoälyagenttien suoritusympäristöjen turvallisuutta on tutkittu laajasti [2]. Tutkimuksessa tarkasteltiin kahdeksaa avoimen lähdekoodin sandbox- ja virtuaalikoneprojektiä [2].

Lähes jokaisessa tutkitussa toteutuksessa havaittiin kriittinen haavoittuvuus [2]. Haavoittuvuus voi romuttaa eristetyt suoritusympäristöt [2].

Agentit pystyvät nykyään selaamaan verkossa, suorittamaan koodia ja asentamaan riippuvuuksia [2]. Tämä voi johtaa pääsyyn isäntäkoneen tietoihin tai viereisiin työkuormiin [2].

SandboxGym-projekti on luotu auttamaan käyttäjiä ymmärtämään suoritusympäristöjen todellista turvallisuutta [2]. Käyttäjien kannattaa varmistaa, että heidän käyttämänsä eristysympäristöt ovat riittävän turvallisia [2].