Autostrada AI: Cine va deține controlul fluxului de date?

Economii substanțiale și o piață în efervescență, dar cum le obținem?!

Pătrunderea inteligenței artificiale la scară largă aduce o provocare comună pentru companii: chiar și cele mai simple interogări ale clienților ajung adesea la aceleași modele AI avansate și costisitoare, gândite pentru sarcini complexe. Această abordare generează costuri inutile, dar ușor de evitat. Soluția? Un software inteligent de rutare, care evaluează fiecare solicitare înainte de a fi procesată și o direcționează către modelul AI cel mai potrivit.

Astfel, modelele de top, cu prețuri pe măsură, sunt rezervate exclusiv pentru cazurile care le justifică pe deplin.

Potrivit Mindstudio, o rutare eficientă a cererilor poate reduce cheltuielile unei companii cu inteligența artificială cu 30% până la 50%, iar în anumite situații, economiile pot atinge chiar 85%. Această eficiență sporită a generat un interes uriaș în domeniu.

Într-o singură săptămână din luna iulie a acestui an, patru companii de top au demarat acțiuni pentru a dezvolta, achiziționa sau implementa propriile sisteme de rutare a modelelor AI.

Economisești inteligent cu AI: Cursor, Ramp și Meta sunt cheia!

Cursor, prin lansarea Router-ului său pe 21 iulie, a introdus o soluție care analizează fiecare cerere de codare și o alocă modelului AI optim. AlphaSignal a raportat că aproximativ 60% dintre utilizatorii Cursor foloseau un singur model AI, indiferent de natura sarcinii.

Conform Cursor, în testele interne, Router-ul său a menținut calitatea rezultatelor, dar a redus costurile cu 60%. Clienții enterprise timpurii au raportat economii de 30% până la 50%.

Compania de gestionare a cheltuielilor, Ramp, a petrecut trei ani dezvoltând un instrument de rutare intern, pe care l-a aplicat la peste 100 de funcționalități AI proprii. Rezultatul? O reducere cu 30% a costurilor interne cu AI. În loc să păstreze acest avantaj, Ramp a pus instrumentul gratuit la dispoziția oricărei afaceri, percepând taxe doar pentru utilizarea efectivă a AI-ului.

Între ianuarie 2025 și aprilie 2026, cheltuielile cu AI ale clienților Ramp au crescut de aproape zece ori, conform datelor publice ale companiei.

Stripe și AI: Cum să economisești milioane fără să sacrifici performanța?!

Meta, la rândul său, dezvoltă un sistem intern de rutare, denumit Switchboard. Acesta direcționează cererile simple către modele mai accesibile și le rezervă pe cele costisitoare pentru sarcini complexe, conform The Information.

Deși Meta nu a confirmat raportul și nici nu a anunțat planuri de vânzare externă a instrumentului, simplul fapt că o companie cu resursele Meta investește în infrastructură personalizată pentru a reduce costurile cu AI este elocvent.

În aceeași perioadă, un eveniment major a subliniat importanța tot mai mare a acestei tehnologii: Stripe ar fi negociat achiziția OpenRouter, un startup specializat în rutarea modelelor AI la scară largă, pentru aproximativ 10 miliarde de dolari, conform PYMNTS.

Pentru o companie de plăți precum Stripe, stratul de rutare este valoros nu doar pentru economiile de costuri AI. Acesta reprezintă o etapă crucială în rezolvarea unei probleme cu care companiile FinTech se confruntă deja: facturarea precisă a utilizării AI. Cercetările Stripe arată că prețurile imprevizibile ale AI-ului reprezintă principala barieră în calea adoptării pentru 46% dintre liderii IT. Pe măsură ce utilizarea AI se extinde, costurile infrastructurii AI au crescut de la aproximativ 10% la 35-40% din bugetul unei companii tipice de AI. Controlul deciziei de rutare înseamnă, în cele din urmă, controlul costurilor.