Dicționar AI · Baze

Ce este halucinația AI

Un răspuns formulat convingător, dar fals sau fără sursă: o cifră, o citare sau un fapt inventat de model.

01 · Definiția

În AI, o halucinație este un răspuns formulat convingător, dar fals sau fără acoperire: o cifră care nu există în document, o carte cu autor real și titlu inventat, un articol de lege citat greșit, o funcție de program care nu există. Termenul e împrumutat și imperfect, pentru că modelul nu „vede” nimic, dar s-a impus pentru că descrie bine efectul: textul sună sigur, iar conținutul e greșit.

Halucinațiile nu sunt defectul rar al unui anumit produs. Apar la modelele de limbaj în general, mai des sau mai rar, și sunt motivul pentru care răspunsurile AI se verifică înainte de a fi folosite.

02

Cum funcționează

Un LLM generează textul cel mai plauzibil pentru context, token cu token. Nu are o bază de fapte pe care să o consulte și nici un semnal intern sigur care să-i spună „nu știu”. Când întrebarea atinge ceva ce a văzut rar sau deloc la antrenare, modelul continuă tiparul: un nume de autor plauzibil, un an plauzibil, un număr de articol plauzibil.

Riscul crește în câteva situații previzibile:

  • detalii precise: cifre, date, nume, citări, adrese web, numere de articol;
  • subiecte de nișă sau foarte recente, puțin prezente în datele de antrenare;
  • întrebări care presupun ceva fals („de ce a decis instanța X…”, când decizia nu există);
  • cereri care obligă la un răspuns, fără voie de a spune că informația lipsește;
  • texte lungi, în care o greșeală mică trece neobservată printre multe afirmații corecte.

03

Un exemplu concret

Exemplu didactic: ceri unui asistent AI „trei studii despre efectul lucrului de acasă asupra productivității, cu autor și an”. Primești trei referințe bine formatate. Când le cauți, una există, una are autorul corect, dar alt titlu, iar a treia nu există deloc. Modelul nu a mințit intenționat: a produs ceva care arată ca o listă de referințe.

Varianta mai sigură: îi dai tu documentele sau folosești un instrument care caută în surse și afișează linkurile, apoi deschizi fiecare sursă. Iar când lucrezi pe un document dat (un contract, un raport), ceri ca fiecare afirmație să fie însoțită de pagina sau paragraful din care vine.

04

Limite și greșeli frecvente

Halucinațiile se reduc, nu se elimină. Ce ajută:

  • Sursa în context. Documentele date modelului, direct sau prin RAG, îl ancorează în text real.
  • Voie să spună „nu știu”. O instrucțiune explicită de tipul „dacă informația nu apare, scrie că nu apare” schimbă comportamentul.
  • Trimiteri verificabile. Cere pagina, articolul sau linkul pentru fiecare afirmație importantă, apoi verifică-le.
  • Verificare pe măsura mizei. Un email intern se citește atent; o cifră dintr-o declarație sau o referință juridică se confirmă în sursa oficială.

Greșelile frecvente: să crezi că un ton sigur înseamnă un răspuns corect, să-i ceri modelului să se verifice singur și să te oprești acolo sau să presupui că un model mai nou nu mai halucinează. Verificarea finală se face pe sursă, de către un om.

05 · Din catalog

Unde înveți despre halucinații: cursuri din catalog

Lecțiile sunt text, în română, cu quiz la fiecare lecție. Din fiecare curs citești gratuit un fragment din prima lecție, fără cont. Abonamentul începe de la 499 lei pe lună pentru un curs, cu TVA 21% inclus.

06

Întrebări despre halucinații

De ce nu spune modelul, pur și simplu, că nu știe?

Pentru că felul în care generează text nu include o verificare a adevărului. Unele modele și aplicații sunt ajustate să recunoască mai des incertitudinea, iar o cerere care îi permite explicit să spună „nu apare în document” ajută. O garanție nu există.

Se poate detecta automat o halucinație?

Parțial. În aplicații se folosesc verificări automate: compararea răspunsului cu sursele, un al doilea model care evaluează răspunsul, reguli pentru cifre. Ele prind o parte din greșeli. Pentru deciziile importante, verificarea pe sursă rămâne a unui om.

07

Termeni înrudiți

Înveți pe un curs. Fragmentul e gratuit.

Începe cu „Analiză de Date cu AI fără Cod: ChatGPT, Excel și SQL pentru Non-Programatori”: citești gratuit un fragment din prima lecție, fără cont, apoi decizi. Abonamentul începe de la 499 lei pe lună, cu TVA 21% inclus.

Caută pe curs-ai.ro

↑↓ alegiEnter deschizi = pe cursuri-ai.ro