Siguranța în utilizarea AI: ce date nu trebuie să divulgi inteligenței artificiale?

Ce nu trebuie să introduci în AI?

În modelele accesibile publicului, nu trebuie introduse următoarele categorii de date:

• date cu caracter personal – nume, prenume, adrese, coduri numerice personale (CNP), numere de telefon sau adrese de e-mail, fie că îți aparțin ție, clienților ori angajaților;
• documente medicale – istoricul medical, rezultatele analizelor și diagnosticele pacienților, protejate de reglementări stricte, precum GDPR sau HIPAA;
• informații confidențiale ale companiei – rapoarte financiare nepublicate, strategii de marketing, baze de date cu clienți și planuri de fuziune, achiziție sau concediere;
• secrete comerciale – cod sursă, formule de producție, algoritmi proprii sau documentație tehnică internă;
• parole și credențiale – chei API, date de autentificare, tokenuri de autorizare, datele cardurilor de plată și orice fel de chei de criptare;
• materiale protejate prin drepturi de autor – texte integrale ale cărților, articole științifice disponibile contra cost sau scenarii pentru care nu deții licențele necesare;
• conținut ilegal – materiale care promovează violența sau ura ori instrucțiuni pentru activități contrare legii.

Ce se întâmplă cu datele introduse în instrumentele AI?

Datele trimise furnizorilor de servicii cloud trec prin mai multe etape de prelucrare și analiză. Parcursul lor nu se încheie odată cu generarea unui răspuns.

Antrenarea modelelor

Datele introduse în versiunile standard pentru consumatori ale instrumentelor AI generative sunt adesea folosite pentru antrenarea ulterioară a modelelor. Aceasta înseamnă că informațiile trimise pot influența ponderile rețelei neuronale și, teoretic, ar putea apărea într-un răspuns generat ulterior pentru un alt utilizator.

Verificarea manuală și moderarea

Pe lângă prelucrarea automată, sistemele AI folosesc filtre de siguranță. Dacă un algoritm consideră că o solicitare este suspectă, de exemplu că încalcă regulile serviciului, conversația poate fi semnalată pentru verificare manuală. Astfel, angajații furnizorului sau auditorii externi care etichetează date pot avea acces direct la conținutul introdus, pentru îmbunătățirea mecanismelor de moderare.

Stocarea datelor și copiile de rezervă

Furnizorii de servicii AI păstrează conversațiile pe serverele lor pentru a asigura continuitatea serviciului, a diagnostica erorile și a menține contextul sesiunilor viitoare. Este important de știut că ștergerea unui chat din interfață înseamnă rareori și eliminarea imediată a informațiilor de pe servere. Datele pot rămâne o perioadă în sistemele de backup ale furnizorului, ceea ce sporește riscul expunerii informațiilor confidențiale în cazul unui atac cibernetic reușit asupra infrastructurii cloud.

Conturi personale și conturi de companie: diferențe de protecție

Conturile personale standard, gratuite sau plătite, din multe servicii populare pot folosi implicit informațiile trimise pentru antrenare. Dacă introduci date confidențiale, fiecare sesiune poate crea un risc de divulgare necontrolată a acestora.

În mediile de afaceri și enterprise — de exemplu, conturile Enterprise sau serviciile implementate în clouduri private prin API-urile unor furnizori precum Microsoft Azure, AWS și Google Cloud — standardele de protecție sunt mai stricte. Furnizorii oferă garanții privind respectarea standardelor de securitate și a reglementărilor aplicabile, precum ISO 27001, SOC 2 și GDPR, și prevăd în acordurile SLA/DPA că datele clienților nu sunt folosite pentru antrenarea modelelor publice de bază. În astfel de medii, regulile privind datele introduse pot fi mai puțin restrictive, dar este în continuare necesară o politică de gestionare a riscurilor și de control al accesului.

Ce poți introduce în siguranță în AI?

În ciuda acestor restricții, există numeroase tipuri de informații pe care le poți introduce în instrumentele AI cu un risc redus. Printre ele se numără:

• materiale disponibile public – articole din surse deschise, postări pe blog, rapoarte de piață publice, acte normative sau conținut de pe site-uri web, precum Wikipedia;
• informații neconfidențiale – instrucțiuni generale, întrebări despre concepte teoretice, reguli gramaticale și ortografice, ecuații matematice sau definiții;
• fragmente de documente anonimizate – modele de cereri sau contracte și fragmente de cod din care au fost eliminate complet variabilele unice, cheile, numele clienților și detaliile arhitecturii interne;
• texte originale proprii – ciorne de e-mailuri, postări pentru rețelele sociale, schițe de prezentări sau articole care nu conțin date de afaceri sensibile;
• seturi de date deschise – date sintetice sau statistici din depozite publice, folosite pentru a exersa analiza și formatarea.

Cum anonimizezi eficient mesajele și datele înainte de a le trimite către AI?

Înlocuirea identificatorilor și tokenizarea

Tokenizarea presupune înlocuirea datelor sensibile cu valori fictive. De exemplu, poți înlocui numele „Andrei Popescu” cu marcajul „[Client_1]”, iar denumirea „Compania ABC” cu „[Organizație_A]”. În acest fel, modelul lingvistic păstrează structura, sintaxa și contextul documentului, fără să poată identifica persoana sau organizația inițială.

Tehnici de mascarea a informațiilor sensibile

Mascarea înseamnă ascunderea directă a unor șiruri de caractere importante, de obicei prin înlocuirea lor cu simboluri speciale, de exemplu un număr de card afișat ca 4532 **** **** ****. O altă metodă eficientă este generalizarea: în locul unei valori exacte, precum un salariu de 8 000 RON, folosești un interval, de exemplu „salariu între 7 000 și 9 000 RON”. Astfel, reduci riscul reidentificării.

Automatizarea procesului: instrumente DLP și RegEx

Eliminarea manuală a informațiilor din texte lungi poate duce la omisiuni. În mediile profesionale se folosesc scripturi bazate pe expresii regulate (RegEx) sau sisteme DLP (Data Loss Prevention). Aceste instrumente pot scana automat un prompt înainte de trimitere și pot detecta, bloca ori înlocui șirurile care corespund formatelor pentru CNP, coduri de identificare fiscală (CUI), adrese de e-mail sau numere de cont bancar.

Cum oprești folosirea datelor tale pentru antrenarea modelelor AI?

Poți reduce riscurile și prin configurarea instrumentului folosit. Majoritatea furnizorilor oferă o opțiune de dezactivare a folosirii conținutului pentru antrenare.

• ChatGPT (OpenAI) – în Settings, la Data controls, găsești opțiunea Improve the model for everyone. Dezactivarea ei oprește folosirea textelor introduse pentru antrenarea modelului. În versiunea actuală a interfeței, conversațiile rămân vizibile în istoricul tău. Indiferent de această setare, OpenAI continuă să păstreze jurnalele pe serverele sale timp de 30 de zile pentru monitorizarea abuzurilor și asigurarea siguranței, înainte de ștergerea definitivă.
• Gemini (Google) – în setările de confidențialitate, dezactivează Gemini Apps Activity. Astfel, conversațiile noi nu mai sunt salvate în contul Google și nu sunt folosite pentru antrenarea modelelor. Modificarea nu șterge însă imediat jurnalele din infrastructura furnizorului: Google le păstrează până la 72 de ore pentru siguranța serviciului.
• Claude (Anthropic) – versiunile gratuite și standard pentru consumatori au în prezent setări implicite care permit folosirea datelor introduse pentru îmbunătățirea algoritmilor. Este o schimbare importantă față de perioada de început, când Anthropic sublinia că nu folosește conversațiile utilizatorilor pentru antrenare. Pentru a dezactiva această funcție, accesează secțiunea de confidențialitate din setările contului și oprește opțiunea Help improve Claude.

Reține că modificările setărilor de confidențialitate și dezactivarea folosirii datelor pentru antrenare se aplică numai pe viitor. Aceste schimbări nu elimină informațiile trimise anterior, care au fost deja încorporate în procesul de antrenare a modelului.