Cine răspunde când inteligența artificială greșește?

Decizii AI: Cine decide?

O nouă eră a inteligenței artificiale se profilează la orizont, transformând radical modul în care companiile își desfășoară activitatea.

Culture picks

Sonda Psyche, în drum spre un asteroid metalic, ne trimite imagini spectaculoase cu MarteSystem76 Thelio Mira: O stație de lucru Linux de vis, silențioasă și puternicăCum să-ți extinzi inteligent stocarea serverului acasăTexas, noul hub pentru navele autonome: O revoluție navală la orizont

Asistenții virtuali, care sprijineau inițial angajații, sunt înlocuiți acum de agenți autonomi, capabili să planifice, să ia decizii și să acționeze independent în cadrul sistemelor unei organizații.

Această transformare nu mai este o simplă teorie, ci o realitate concretă, în special în sectorul plăților, unde redefinește interacțiunile cu clienții, evaluarea riscurilor și ritmul de creștere al afacerilor, fără a amplifica expunerea la pericole.

Ben Griefer, președinte și director de operațiuni la Maverick Payments, subliniază într-un nou e-book PYMNTS, intitulat „Building the Agent-Ready Payments Enterprise”, că este esențial ca firmele să stabilească cu precizie ce decizii pot fi luate de agenții lor AI, care necesită în continuare intervenția umană și de ce.

Un exemplu elocvent este evaluarea fraudelor. Un agent AI care identifică o tranzacție suspectă și o redirecționează spre verificare contribuie la accelerarea procesului fără a adăuga riscuri suplimentare. Însă, un agent care respinge în mod eronat o tranzacție legitimă sau, dimpotrivă, aprobă una frauduloasă, ia o decizie de afaceri în numele companiei, în timp real, moment în care se poate pierde sau câștiga o relație cu un client.

Aceasta este granița pe care fiecare executiv din domeniul plăților trebuie să o înțeleagă clar. Nu toate capacitățile agentice au aceeași gravitate, iar tratarea lor ca interschimbabile poate duce la eșecuri în guvernanță.

Același principiu se aplică și în cazul soluționării litigiilor privind plățile contestate (chargeback-uri) și a reconcilierilor cu partenerii. Agenții AI pot aduna dovezi, pot compara înregistrări ale tranzacțiilor și pot identifica discrepanțe mult mai rapid decât o revizuire manuală. Cu toate acestea, în opinia noastră, ei nu ar trebui să emită decizia finală într-un caz de chargeback de mare valoare sau să rezolve o discrepanță de reconciliere cu o bancă parteneră fără o aprobare umană.

AI-ul decide singur, dar unde sunt limitele autonomiei sale?!

Costul unei erori la scară largă, pe mii de tranzacții, este pur și simplu prea mare pentru a delega complet aceste responsabilități.

Această problemă depășește sfera operațională, devenind o întrebare fundamentală legată de modelul de afaceri.

Capacitatea agentică transformă promisiunile pe care o companie le poate face în mod credibil clienților și partenerilor: procese de înrolare mai rapide, rezolvarea mai rapidă a disputelor și decizii de subscriere accelerate.

La Maverick, inteligența artificială ne ajută să accelerăm aprobările, să punem la dispoziția echipelor noastre date relevante despre procesori și portofolii și să îmbunătățim procesul decizional.

În calitate de furnizor complet de servicii de plată, utilizăm aceste capacități pentru a conecta comercianții cu soluțiile cele mai potrivite într-un timp mai scurt, menținând în același timp supravegherea și responsabilitatea umană necesare pentru deciziile complexe legate de plăți.

Cu toate acestea, promisiunile făcute posibile de AI trebuie să rămână, în cele din urmă, sub responsabilitatea unei persoane atunci când ceva nu merge bine.

Clienților nu le pasă dacă o decizie a fost luată de un agent AI sau de un angajat; le pasă ca cineva să își asume responsabilitatea.