Fiecare token necesită o trecere completă înainte asupra modelului
Prin urmare, tehnica ameliorează presiunea asupra canalei de inferență, menținând în același timp capacitatea agentului de a citi, planifica și suna instrumentele după ce este necesar. DFlash 2 ilustrează o componentă a acestui stack, concentrându-se pe faza de elaborare în care agenții generează și perfecționează ideile înainte de a lua măsuri. La Inco AI, echipa construiește un stack de inferență care se încadrează la economia tokenelor de mâ
Culture picks
Apple contestă cererea OpenAI privind secretele comerciale
Blu-ray Drive pe Kickstarter: Succesul depășește așteptările
Județul Loudoun din Virginia găzduiește centre de date.
Fondatorul Revolut cere aprobarea pentru un împrumut personal masiv împotriva capitalului propriuFiecare token necesită o trecere completă înainte asupra modelului, ceea ce ridică costurile calculatoare și limitează modul în care agenții pot lucra eficient.
Inco AI introduce DFlash 2, un sistem conceput pentru a permite agenților AI să redacteze mai multe sarcini simultan, abordând tensiunea crescândă a sarcinilor de lucru de inferență pe măsură ce agenții funcționează pentru perioade prelungite.
Abordarea are ca scop menținerea consumului de token gestionabil, păstrând în același timp capacitatea de a citi, planifica și invoca instrumentele pe parcursul orelor sau a zilelor.
Ce este DFlash 2!
Inferența a devenit gâtul de sticlă al erei agenților deoarece agenții citesc, planifică și sună instrumente pe parcursuri lungi, consumând tokenuri la o rată mult mai mare decât interacțiunile de chat tipice.
Inco AI dezvoltă DFlash 2 ca parte a eforturilor sale de a escala stacul de inferență pentru economia token-ului de mâine. Întrebări frecvente Reduce care este problema ce DFlash 2 Întrebă în timp ce DFlash 2 abordează în interiorul oricărei Care sunt limitele utilizării token-ului? limite de utilizare a token-ului, prin a permite agenților de a le citi și a menține în mod paralel și de a utiliza în mod complet orice altfel.
Cine dezvoltă DFlash 2 și de ce?
Privelișul sneak arată că sistemul este proiectat pentru a susține operațiunile agenților de lungă durată fără a necesita o creștere proporțională a ratelor de calcul, alinându-se cu economia proiectată a consumului de token-uri viitoare.
Compania își propune să ofere infrastructură care să susțină agenții care lucrează timp de ore sau zile fără a incurge în costuri computaționale prohibitive.