FDA evaluează reglementările pentru AI în medicina clinică

Ar trebui dispozitivele AI să demonstreze competența medicală înainte de utilizare?

Administrația pentru Alimente și Medicamente (FDA) analizează dacă dispozitivele medicale bazate pe inteligență artificială generativă ar trebui să demonstreze competența similar cu cea a medicilor înainte de a fi utilizate în tratamentele pacienților. Această discuție se concentrează pe testarea prealabilă introducerii pe piață, monitorizarea post-implementare, modelele de bază și sistemele care pot planifica și executa sarcini complexe.

Spre deosebire de software-ul medical tradițional, care are funcții bine definite și intrări și ieșiri previzibile, AI-ul generativ poate accepta instrucțiuni deschise, ceea ce face testarea fiecărei posibile interacțiuni aproape imposibilă.

În acest context, FDA evaluează dacă producătorii pot demonstra că un dispozitiv AI poate îndeplini eficient sarcina sa clinică. O posibilă abordare ar implica realizarea unei analize comparative nonclinice, care să evalueze cunoștințele clinice ale dispozitivului, capacitatea sa analitică, comportamentul de siguranță, comunicarea și performanța în rândul pacienților și în condiții de funcționare variate.

Ulterior, dispozitivul ar urma să fie confirmat clinic, demonstrându-și eficiența în interacțiunea cu pacienții actuali, clinicienii și fluxurile de lucru existente. Este important de menționat că acest proces nu ar necesita neapărat un studiu clinic prospectiv în fiecare caz. Dovezile necesare ar varia în funcție de utilizarea preconizată și de riscurile posibile asociate cu rezultatele.

FDA face o analogie cu pregătirea medicală, subliniind că autoritățile de reglementare nu pot anticipa fiecare situație cu care un medic se va confrunta de-a lungul carierei sale. În schimb, ele testează cunoștințele fundamentale, observă performanța în condiții clinice și impun supraveghere continuă. Agenția analizează dacă un model similar ar putea fi aplicat pentru AI, având în vedere problemele tehnice și legale asociate cu dispozitivele medicale. Evaluarea dispozitivului final se va face pe baza utilizării sale de către pacienți și clinicieni, în loc de a testa doar modelul de bază.

De ce este crucială evaluarea competenței AI în tratamentele medicale?

Această distincție ar putea fi crucială, deoarece un model general ar putea susține o varietate de produse cu diferite interfețe, garanții și utilizări clinice. Supravegherea va continua și după implementare, incluzând revizuiri periodice, evaluări ale rezultatelor din lumea reală și monitorizarea performanței.

O actualizare a software-ului realizată de un furnizor terț ar putea necesita o nouă evaluare.

Această abordare ar putea influența plățile în domeniul sănătății, deoarece furnizorii și companiile de asigurări ar trebui să fie la curent cu versiunea unui sistem AI care a fost utilizat în servicii, dacă acesta a rămas validat și dacă monitorizarea a arătat o scădere a performanței.

Aceste informații ar putea deveni esențiale în procesul de decizie privind finanțarea și contractarea. De asemenea, modelul propus ar putea fi util și pentru bănci, deși FDA a propus să nu impună cerințe specifice instituțiilor financiare. O bancă ar putea evalua competențele operaționale în cazul unei fraude sau al unei subscrieri, monitorizându-și apoi performanța în limitele stabilite. Această abordare ar putea fi mai practică decât încercarea de a demonstra că un model general este sigur pentru fiecare utilizare posibilă. FDA a subliniat că documentul de discuție nu reprezintă o politică finalizată, ci mai degrabă o direcție de explorare.

Totuși, ideea centrală sugerează o schimbare semnificativă: sistemele AI vor fi evaluate din ce în ce mai mult pe baza fiabilității lor, a limitelor pe care le respectă și a competenței pe termen lung.