Sursa poza: ExpressPress

OpenAI recunoaște o vulnerabilitate dificil de eliminat în browserele cu inteligență artificială

OpenAI a confirmat existența unei vulnerabilități semnificative în browserele bazate pe inteligență artificială (IA), care pare aproape imposibil de eliminat complet. Este vorba despre atacurile denumite „prompt injection”, care reprezintă o provocare majoră pentru securitatea acestor sisteme, potrivit unui reportaj publicat de Fox News.

Ce este atacul de tip „prompt injection” și de ce este atât de greu de ținut sub control?

Atacurile de tip „prompt injection” apar atunci când un sistem de inteligență artificială nu mai poate face distincția clară între instrucțiunile legitime primite de la utilizator și comenzile ascunse intenționat, inserate sub formă de text, cod sau conținut aparent inofensiv. Această ambiguitate poate fi exploatată de hackeri pentru a manipula comportamentul IA, determinând-o să încalce regulile prestabilite de siguranță sau să divulge informații nedorite.

Spre deosebire de metodele clasice de atac bazate pe malware sofisticat sau pe breșe tehnice complexe, infractorii cibernetici pot compromite sistemele printr-un simplu mesaj bine conceput, transmis la momentul potrivit. OpenAI recunoaște că această vulnerabilitate ține mai mult de subtilitățile limbajului decât de lacunele codului de programare.

În esență, această problemă reprezintă un risc structural inerent ideii de a permite agenților IA să interacționeze liber și nesupravegheat cu mediul online. Din acest motiv, OpenAI admite că nu va ajunge niciodată la o soluție definitivă pentru anihilarea acestor atacuri.

Prompt injection – o amenințare permanentă

Compania americană compară atacurile de tip „prompt injection” cu tehnicile tradiționale de inginerie socială, precum escrocheriile telefonice sau phishing-ul: deși pot fi atenuate prin măsuri adecvate de securitate, acestea nu pot fi eradicate complet.

Această problemă este cu atât mai amplificată de integrarea funcțiilor automate denumite „agenți” în noul browser ChatGPT Atlas, lansat în octombrie 2023. Experții în securitate au demonstrat rapid vulnerabilitățile versiunii, arătând că simple formulări introduse în documente Google pot influența deciziile browserului.

Mai mult decât atât, recunoașterea acestei probleme transcende limitele OpenAI. Centrul Național pentru Securitate Cibernetică din Marea Britanie a avertizat recent că atacurile de tip „prompt injection” reprezintă o amenințare continuă, imposibil de neutralizat în totalitate în cazul sistemelor IA generative.

Cum putem diminua riscurile asociate browserelor cu inteligență artificială?

Deși aceste vulnerabilități nu pot fi eliminate în mod definitiv, experții în securitate cibernetică recomandă o serie de practici ce pot reduce considerabil riscurile:

1. Restricționați accesul browserului IA la informații sensibile
   Browserul IA trebuie să aibă acces doar la datele strict necesare pentru funcționare. Conectarea conturilor de email principale, serviciilor cloud sau sistemelor de plată la browser crește riscul în cazul unui atac.

2. Solicitați confirmări explicite pentru acțiuni critice
   Operațiunile precum trimiterea de emailuri, efectuarea de plăți sau modificarea setărilor contului nu trebuie automatizate. Cererea unei confirmări explicite poate opri un atac și vă oferă posibilitatea să observați comportamente suspecte.

3. Utilizați un manager de parole eficient
   Parolele complexe și unice pentru fiecare cont sunt esențiale. Instrumentele de gestionare a parolelor previn reutilizarea acreditărilor și pot chiar bloca completarea automată pe site-uri suspecte, semnalând potențiale amenințări.

4. Instalați un antivirus modern pe toate dispozitivele
   Deși atacurile pornesc din browser, un antivirus avansat poate identifica comportamente anormale sau activități periculoase din rețea. Soluțiile actuale monitorizează modul de funcționare al aplicațiilor, nu doar scanarea fișierelor, oferind astfel o protecție esențială împotriva amenințărilor IA.

5. Evitați comenzile vagi sau prea generale pentru IA
   Instrucțiunile cum ar fi „ocupa-te de tot ce este necesar” oferă prea mult spațiu de manevră. Este recomandat să definiți clar și strict ce poate face și ce nu AI-ul.

6. Verificați manual rezultatele și rezumatele furnizate de AI
   Atunci când AI-ul analizează conținut web, e-mailuri sau documente, există riscul ca în ele să fie ascunse instrucțiuni malițioase. Rezultatele trebuie considerate sugestii, nu decizii finale.

7. Mențineți întotdeauna browserul, tool-urile IA și sistemul de operare actualizate
   Metodele de atac evoluează rapid și actualizările de securitate sunt cruciale. Amânarea instalării lor înseamnă expunerea continuă la vulnerabilități deja cunoscute.

În concluzie, OpenAI face un pas transparent în recunoașterea limitărilor tehnologice ale IA atunci când vine vorba de securitate cibernetică în browserele inteligente. Chiar dacă o soluție permanentă la atacurile „prompt injection” nu există, educația utilizatorilor și adoptarea unor practici de securitate riguroase pot reduce seriozitatea riscurilor și pot proteja mai bine informațiile sensibile.

Pentru mai multe detalii și recomandări despre securitatea în era inteligenței artificiale, rămâneți conectați la sursele noastre de știri tehnologice.