Dicționar AI · Modele

Ce este un LLM

Un model antrenat pe volume mari de text, care generează text prezicând, pas cu pas, următorul fragment.

01 · Definiția

LLM vine de la „large language model”, adică model lingvistic mare. Este tipul de model din spatele asistenților conversaționali de azi: primește un text (cererea ta, plus orice document sau instrucțiune pusă alături) și produce alt text ca răspuns. Poate rezuma, traduce, redacta, clasifica, extrage date dintr-un document sau scrie cod, pornind de la instrucțiuni în limbaj natural.

„Mare” se referă la două lucruri: numărul de parametri ai modelului (valorile ajustate la antrenare) și volumul de text din care a învățat. Nu se referă la cât de mult știe despre situația ta: un LLM nu are acces la documentele tale sau la informațiile de azi decât dacă i le dai.

02

Cum funcționează

Textul e împărțit mai întâi în tokeni, bucăți de cuvinte pe care modelul le transformă în numere. La antrenare, modelul vede cantități mari de text și învață să prezică tokenul următor dintr-o secvență. Repetat de foarte multe ori, exercițiul acesta îl face să surprindă gramatica, stilul, legăturile dintre noțiuni și tiparele de raționament prezente în date.

La folosire (inferență), modelul generează răspunsul token cu token: la fiecare pas estimează cât de probabil e fiecare token posibil, alege unul, apoi reia calculul cu textul prelungit. Arhitectura care face asta posibil la scară mare se numește transformer. Tot ce „vede” modelul la un moment dat încape în fereastra de context: cererea, istoricul conversației, documentele atașate.

După antrenarea de bază, modelele de tip asistent mai trec printr-o etapă de ajustare pe exemple de conversații și pe preferințe umane, ca să urmeze instrucțiuni și să refuze anumite cereri. De aceea, același model de bază poate sta în spatele unor asistenți care se comportă diferit.

03

Un exemplu concret

Exemplu didactic: lucrezi la relații cu clienții și primești un email lung și nervos despre o livrare întârziată. Îi dai modelului emailul și ceri: „Rezumă în trei puncte ce reclamă clientul, apoi propune un răspuns politicos, de cel mult 120 de cuvinte, fără să promiți o dată de livrare.”

Modelul nu știe nimic despre comanda reală. Primește însă tot ce îi trebuie pentru sarcina de limbaj: textul clientului, scopul, tonul și o limită clară. Rezumatul și ciorna sunt utile; data de livrare și detaliile comenzii le completezi tu, din sistemul firmei. Împărțirea asta, limbajul la model și faptele la tine, e cheia unei folosiri sigure.

04

Limite și greșeli frecvente

Un LLM produce textul cel mai plauzibil, nu verifică adevărul. Când nu are informația, o poate inventa convingător: o cifră, un nume, o sursă. Fenomenul se numește halucinație și se gestionează prin verificare; nu dispare cu un model mai mare.

  • Îl tratezi ca pe un motor de căutare. Fără unelte de căutare sau documente date în context, răspunde din ce a învățat la antrenare, care poate fi depășit.
  • Îi dai date pe care nu ai voie să le dai. Ce scrii pleacă, de regulă, spre serverele furnizorului. Datele personale și documentele confidențiale intră doar în instrumente aprobate pentru ele.
  • Ceri calcule exacte fără să le verifici. Un model de limbaj poate greși aritmetica sau poate rotunji altfel decât tine; cifrele importante se recalculează.
  • Presupui că un răspuns bun azi e bun și mâine. Același model poate da răspunsuri diferite la aceeași cerere, iar furnizorii își actualizează modelele. Într-o aplicație, comportamentul se testează constant (evaluare LLM).

05 · Din catalog

Unde înveți despre LLM-uri: cursuri din catalog

Lecțiile sunt text, în română, cu quiz la fiecare lecție. Din fiecare curs citești gratuit un fragment din prima lecție, fără cont. Abonamentul începe de la 499 lei pe lună pentru un curs, cu TVA 21% inclus.

06

Întrebări despre LLM-uri

Care e diferența dintre un LLM și un chatbot?

Chatbotul e aplicația cu care vorbești; LLM-ul e modelul din spatele ei. Aplicația adaugă interfața, istoricul conversației, uneori căutare pe internet sau acces la fișiere, și regulile ei. Același LLM poate sta în spatele mai multor aplicații diferite.

Un LLM înțelege ce scrie?

Depinde ce numim înțelegere. Modelul surprinde foarte bine tiparele limbajului și poate rezolva sarcini care cer raționament, dar nu are o verificare internă a adevărului și nu știe când greșește. În practică, tratează-l ca pe un colaborator rapid, care are nevoie de verificare.

Pot folosi un LLM pe documentele firmei?

Da, dacă instrumentul e aprobat pentru tipul acela de date. Pentru răspunsuri din documentele proprii se folosește de obicei RAG, iar pentru date care nu au voie să plece din firmă există și modele open-weight rulate pe infrastructura proprie.

07

Termeni înrudiți

Înveți pe un curs. Fragmentul e gratuit.

Începe cu „Introducere în AI Engineering”: citești gratuit un fragment din prima lecție, fără cont, apoi decizi. Abonamentul începe de la 499 lei pe lună, cu TVA 21% inclus.

Caută pe curs-ai.ro

↑↓ alegiEnter deschizi = pe cursuri-ai.ro