Cum am interogat un asistent AI pentru a-i descoperi mecanismele

Cum analizăm un LLM, pas cu pas, pentru a-i înțelege secretele?!

Acest material face parte din seria În interiorul modelelor lingvistice mari (LLM‑uri), în care fiecare capitol constă în interogarea directă a unui model pentru a înțelege cum funcționează. După analiza modelului Kimi K2.6, ne îndreptăm atenția spre DeepSeek.

Abordarea rămâne aceeași ca în cazul Kimi K2.6. În primul rând, am creat o interfață prin care modelul poate să‑și examineze propriul cod și parametri.

Întrebările au fost structurate în jurul a patru axe principale:

Ce precede mesajul tău? – fereastra de context și procesarea prompt‑ului.

De ce un interviu cu DeepSeek? – scopul auto‑cunoașterii și detalii despre arhitectură.

Limitările introspecției – capacitatea modelului de a se auto‑analiza și ponderile interne.

Cum generează LLM-urile token-uri, oare?!

Instrumente și memorie activă – modul în care sunt apelate instrumentele și cum funcționează generarea augmentată de reglementare (RAG).

Pe parcursul interviului am parcurs următoarele secțiuni:

Generarea token‑urilor cu token‑uri – mecanismul de scriere și de codificare internă.

Halucinații și termeni falsi – identificarea fenomenului de „hallucination” și a expresiilor eronate.

Raționamentul ascuns – două interpretări ale motivațiilor interne și ale lanțului de inferență.

Atentie și înțelegere – modul în care modelul prioritizează informațiile din fereastra de context.

Cum funcționează memoria activă?

DeepSeek folosește un proces iterativ în care fiecare token este generat în funcție de token‑urile anterioare, respectând o probabilitate calculată pe baza ponderilor interne.

Acest mecanism permite modelului să mențină coerența pe lungi secvențe de text, dar și să producă erori atunci când contextul devine ambiguu.

Deși modelul poate să‑și explice unele decizii, există o barieră naturală: nu poate accesa în totalitate toate greutățile interne, iar unele „ponderi” rămân opace. Astfel, auto‑analiza este parțială și depinde de nivelul de granularitate al întrebărilor.

DeepSeek poate apela la instrumente externe (de exemplu, căutări în baze de date) printr-un mecanism de retrieval‑augmented generation (RAG). Memoria activă este gestionată printr-un set de „memories” care se activează în funcție de contextul curent, permițând modelului să recupereze informații relevante în timp real.

Interviul cu DeepSeek a confirmat că, deși modelul poate oferi o imagine detaliată a propriului său proces, există încă zone „neexplorate” care necesită cercetări suplimentare.

În viitor, îmbunătățirea transparenței și a accesului la ponderi interne ar putea reduce fenomenul de halucinație și ar spori fiabilitatea LLM‑urilor în aplicații critice.