Halucinațiile AI: ce sunt și cum le poți elimina?

Ce sunt halucinațiile AI?

De exemplu, dacă îi cerem unui model AI codurile unice de înregistrare (CUI) pentru 20 de companii din București ale căror venituri sunt în creștere, am putea primi o listă aparent logică și completă, dar… toate codurile CUI indicate ar putea fi inventate.

O trăsătură distinctivă a halucinațiilor este tocmai această aparență de logică: răspunsurile par convingătoare, iar modelul AI nu arată nicio urmă de îndoială. De aceea, interfețele modelelor lingvistice ne îndeamnă să verificăm cifrele și informațiile prezentate.

De ce apar halucinațiile AI?

Halucinațiile apar, așadar, în trei situații:

• lipsesc datele (principala cauză: modelul ghicește);
• instrucțiunea este imprecisă (modelul completează golurile);
• sarcina este prea complexă (modelul încearcă să facă totul deodată).

Nu este doar o problemă a modelelor lingvistice, ci și una legată de accesul la date. Prin urmare, halucinațiile nu apar din senin: ele au cauze identificabile, asupra cărora putem interveni.

Cum poți elimina halucinațiile AI?

Halucinațiile AI pot fi prevenite oferind modelelor acces direct și structurat la date. Într-un astfel de mediu, modelele lingvistice pot interpreta mai bine informațiile, pot lua decizii și pot trage concluzii.

La asta se reduc cele trei metode de mai jos, pe care le poți folosi în funcție de nivelul tău de experiență.

Pregătirea unui fișier cu date

Cel mai simplu mod de a reduce halucinațiile este să îi oferi modelului datele de care are nevoie. Astfel, îi lași mai puțin loc să „inventeze povești”.

Utilizatorii începători tratează adesea modelul lingvistic ca pe un instrument care poate fi simultan motor de căutare, flux ETL și sistem de extragere a datelor de pe site-uri. Problema este că, dacă sarcina presupune colectarea, curățarea și standardizarea datelor, volumul informațiilor poate depăși fereastra de context, iar riscul de halucinații crește considerabil.

De aceea, merită să împarți colectarea datelor în mai multe instrucțiuni scurte și să verifici pe parcurs dacă răspunsurile AI corespund realității. Poate părea plictisitor și consumator de timp, dar așa construiești o bază solidă pe care modelele lingvistice își pot demonstra adevăratul potențial: lucrul cu datele disponibile.

Utilizarea unui API

Conectarea la un API este o soluție mai avansată: oferă acces mai rapid și scalabil la date care pot rămâne mereu actualizate. Dacă pregătirea unui fișier cu date seamănă cu a aduce o găleată cu apă, un API seamănă cu a deschide robinetul.

Căutarea folosită de ChatGPT, Claude sau Gemini nu diferă foarte mult de modul în care caută un om. Modelele lingvistice consultă conținut de pe platforme externe, precum Reddit sau Wikipedia, apoi formulează un răspuns.

Prin această metodă, însă, nu avem garanția că informațiile sunt corecte și actuale. Sursele descentralizate folosesc standarde diferite, pot conține date din perioade distincte și includ uneori erori sau opinii umane. Un API poate compensa aceste neajunsuri, oferind o sursă stabilă și programabilă de date prelucrate.

De exemplu, API-ul Monitly oferă acces la statistici din întreaga lume prin conexiuni directe cu surse precum Institutul Național de Statistică, Eurostat, World Bank, WHO și IMF. Astfel, AI nu mai trebuie să caute informații pe mai multe site-uri: trimite o cerere direct către API și primește cele mai recente date disponibile, pe care le poate apoi analiza și interpreta.

Conectarea prin MCP

Conectarea unui model AI prin MCP (Model Context Protocol) îi poate oferi acces direct la fișiere, foi de calcul, cod sau aplicații. Această soluție reduce semnificativ riscul de halucinații, deoarece pune la dispoziția modelului date concrete cu care poate lucra.

De exemplu, platforma de date despre companii Compabase a lansat o conexiune MCP prin care AI poate verifica rapid companii locale. Dacă cerem acum codurile CUI pentru 20 de companii din București cu venituri în creștere, putem obține o listă coerentă, verificată, în locul unor informații inventate. Nu pentru că modelul a devenit brusc „mai inteligent”, ci pentru că are acces la datele care îi lipseau. Acum poate executa o interogare SQL simplă asupra bazei de date și poate primi un rezultat concret.

Cu alte cuvinte:

Fără MCP:

• unele companii nu există;
• datele financiare sunt arbitrare;
• codurile CUI sunt inventate.

Cu MCP:

• modelul interoghează baza de date;
• returnează înregistrări concrete;
• rezultatul interogării este determinist.

Desigur, riscul de halucinații nu dispare dacă îi cerem în continuare modelului să prelucreze și să coreleze un volum excesiv de date. Dar, într-un mediu în care informațiile sunt deja structurate, datele sunt disponibile în timp real, iar marja de interpretare este limitată, AI nu mai trebuie să ghicească: poate analiza informații reale.