Cercetători în domeniul securității informatice au identificat o nouă metodă de exploatare a chatbot-urilor cu inteligență artificială generativă, demonstrând că pot accesa informații private din conturile Google Calendar ale utilizatorilor prin instrucțiuni ascunse în imagini de înaltă rezoluție. Descoperirea ridică întrebări serioase despre siguranța sistemelor AI care se integrează din ce în ce mai mult în viața de zi cu zi.
Echipa de cercetători de la The Trail of Bits Blog a reușit să exploateze sistemele de scalare a imaginilor pe care le folosește Gemini AI pentru procesarea imaginilor adăugate în prompt-uri. Această tehnică le-a permis să trimită un set de instrucțiuni ascunse către sistemul de inteligență artificială, care a reușit apoi să recupereze informații din contul Google Calendar al unui utilizator și să le trimită prin email către cercetători, fără ca proprietarul contului să fie alertat.
Atacurile prin scalare de imagini revin în atenție
Atacurile de tipul celor prin scalare de imagini au fost mai frecvente în trecut, cercetătorii notând că acestea „erau folosite pentru backdoor-uri de model, evadare și otrăvire în principal împotriva sistemelor mai vechi de computer vision care impuneau o dimensiune fixă a imaginii”. Deși această metodă de atac a devenit mai puțin comună, pare că o abordare similară poate fi aplicată pentru trimiterea de instrucțiuni ascunse către modele…
