L’indipendenza non è un vincolo: è il vantaggio competitivo di EPSS

Quando un sistema di intelligenza artificiale viene utilizzato in un processo clinico, molti soggetti hanno interesse a conoscerne l’affidabilità.

La struttura sanitaria vuole governare l’uso del sistema. Il produttore vuole favorirne l’adozione. L’assicuratore vuole comprendere il rischio. Il professionista sanitario vuole sapere come interpretarne l’output. Il paziente si aspetta che la decisione resti controllabile e giustificabile.

Sono tutti interessi legittimi, ma non coincidono. E un documento che dichiara a quali condizioni un uso è sostenuto dalle evidenze ha valore solo se chi lo produce non ha interesse al segno della conclusione.

Per questo EPSS, Evidence-based Perimeter for Safe Systems, attribuisce all’indipendenza dell’assessment un ruolo costitutivo. Non è un requisito formale da aggiungere alla fine del processo: è ciò che rende il Perimetro di Validità utilizzabile.

Un documento, un cliente

Il Perimetro di Validità riguarda l’uso che una specifica struttura fa di un determinato sistema. Il cliente del documento è quindi la struttura sanitaria, perché è la struttura che sceglie o utilizza il sistema, definisce i protocolli, organizza il workflow, configura gli accessi, assegna le responsabilità, tratta la popolazione e risponde dell’utilizzo nel proprio contesto.

Un produttore non può commissionare una valutazione indipendente dell’uso che un ospedale fa del suo stesso prodotto. Allo stesso modo, un assicuratore non dovrebbe commissionare l’assessment di una struttura assicurata nominativamente. In entrambi i casi il documento sarebbe finanziato da un soggetto interessato alla valutazione del comportamento di un altro.

La regola è quindi semplice, e va scritta in contratto prima che in un articolo: committente e pagatore del Perimetro di Validità è la struttura che usa o intende usare il sistema, e non possono esserlo né il produttore né l’assicuratore della struttura.

Produttori e assicuratori non vengono esclusi

L’indipendenza non richiede di escludere produttori e assicuratori dall’ecosistema. Richiede di offrire loro prodotti con un oggetto diverso.

Per il produttore, il Readiness Scan. Esamina la documentazione del sistema e identifica evidenze disponibili, gap documentali, informazioni che una struttura potrebbe richiedere, necessità di validazione locale, versioni e configurazioni documentate, limiti di trasferibilità degli studi e requisiti per una futura adozione. Non valuta l’uso clinico presso una struttura nominata e non può essere presentato come assurance di un ospedale.

Per assicuratori e broker, l’Underwriting Framework Design. Aiuta a definire criteri di evidenza per valutare una classe di sistemi a livello di portafoglio. Non produce giudizi su un assicurato nominato e non sostituisce la decisione dell’underwriter o dell’attuario.

Per la struttura, il Clinical Assurance Dossier. È il prodotto che valuta l’uso reale o previsto del sistema nel contesto locale.

Le tre linee possono convivere soltanto se restano distinti oggetto, cliente, deliverable e responsabilità. Se uno solo di questi quattro elementi si confonde, si confondono tutti.

La regola di non contaminazione

Un incarico svolto per un produttore genera conoscenza utile e, insieme, un conflitto potenziale.

Per questo il registro dei rapporti pregressi per ciascun sistema valutato è un obbligo interno permanente, non una cautela attivata caso per caso. Quando una struttura richiede un assessment su un sistema per il quale LOGICA ha già lavorato, la circostanza va dichiarata prima della firma. La struttura decide poi se procedere, se richiedere una revisione indipendente aggiuntiva, se modificare il perimetro o se affidarsi a un altro soggetto.

Il contenuto di un Readiness Scan non può essere riusato, citato o trasfuso nel fascicolo di una struttura che impiega quel sistema. Le evidenze possono essere acquisite e valutate nuovamente, ma il prodotto precedente non diventa una scorciatoia verso il giudizio successivo.

Ogni conflitto residuo va dichiarato nel fascicolo e gestito con revisione indipendente.

Assessment e rimedio non alla stessa struttura

Un secondo rischio emerge quando chi individua una carenza vende anche la soluzione per correggerla. Se EPSS rileva un problema organizzativo e poi progetta il rimedio, nasce un incentivo economico ad ampliare la portata delle criticità e a validare la propria soluzione.

Per questo vanno tenuti separati assessment, progettazione organizzativa, sviluppo software, remediation e certificazione.

Il piano di controllo e monitoraggio indica le condizioni da mantenere e gli indicatori da osservare. Non progetta l’organizzazione e non prescrive soluzioni. La distinzione va mantenuta nella redazione del documento, non soltanto nelle premesse contrattuali, perché è nella redazione che si perde per prima.

Se la struttura chiede il rimedio, il rimedio va affidato ad altri e può essere successivamente verificato attraverso un nuovo assessment indipendente.

I lettori autorizzati e le condizioni di affidamento

Il Clinical Assurance Dossier può essere utile anche a soggetti diversi dal committente: organi di governo clinico, risk management, assicuratori, broker, produttori, revisori, partner istituzionali.

Non è però EPSS a decidere chi legge. Il documento nomina in copertina il committente e i lettori autorizzati, che sono la struttura, i suoi organi interni e i soggetti che la struttura indica per iscritto.

La copertina dovrebbe inoltre dichiarare finalità, versione del sistema valutata, data di riferimento, periodo di validità, limiti d’uso e divieto di estrarre conclusioni fuori contesto.

Un terzo che voglia fondare una propria decisione economica sul fascicolo può farlo soltanto sottoscrivendo una lettera di affidamento che accetta gli stessi limiti d’uso, lo stesso perimetro temporale e gli stessi limiti di responsabilità pattuiti con la struttura. Senza quella lettera l’affidamento non è autorizzato.

È il meccanismo che consente a un assicuratore di ricevere valore dal fascicolo senza diventarne il committente, e che protegge insieme il lettore e chi ha prodotto il documento da interpretazioni più ampie di quanto l’assessment sostenga.

L’ecosistema dei partner

Indipendenza non significa isolamento. EPSS ha bisogno di una rete di partner, ciascuno con un ruolo definito.

Le strutture sanitarie e gli IRCCS consentono l’accesso a sistemi reali, workflow, documentazione, dati e casi d’uso. Università e centri di ricerca contribuiscono alla revisione metodologica, alla validazione dei criteri e alla costruzione di protocolli osservazionali. I clinical advisor forniscono il giudizio clinico necessario a delimitare popolazioni, workflow e conseguenze dell’errore. I consulenti legali verificano qualificazione del servizio, contratti, responsabilità e protezione dei dati. Gli advisor scientifici indipendenti revisionano criteri e conclusioni senza partecipare alla delivery. Broker, attuari e assicuratori contribuiscono alla comprensione del rischio e alla definizione di prodotti distinti per il settore assicurativo. I produttori AI e MedTech forniscono documentazione tecnica e possono acquistare il Readiness Scan, senza finanziare il Perimetro relativo all’uso clinico di una struttura.

Due condizioni tengono in piedi l’insieme. La prima è la chiarezza dei confini fra i ruoli. La seconda è che nessuno di questi soggetti, incluso un eventuale advisory board, è organo certificatore: la revisione rafforza il documento, non lo autorizza.

L’indipendenza come differenziazione commerciale

Nel mercato dell’intelligenza artificiale molti operatori offrono contemporaneamente sviluppo, implementazione, consulenza, monitoraggio, remediation e validazione. L’integrazione può essere efficiente, ma rende difficile distinguere la valutazione indipendente dall’interesse alla vendita.

EPSS si differenzia esattamente per la separazione delle funzioni. La struttura non acquista una conferma di un’adozione già decisa: acquista un processo che può concludere che una condizione non è soddisfatta o non è accertabile.

È un punto commerciale, non soltanto deontologico. La disponibilità a produrre un risultato sfavorevole è ciò che rende informativo il risultato favorevole. Un documento che non poteva concludere diversamente non dice nulla, e chi lo legge lo sa.

Fiducia senza promessa di infallibilità

EPSS non garantisce che il sistema valutato non commetterà errori, e l’assessment non contiene alcuna garanzia di sicurezza o accuratezza del sistema. Una garanzia di quel tipo sarebbe incompatibile con la natura dei sistemi appresi e con il ruolo stesso della valutazione.

Il perimetro dichiara condizioni, non autorizza usi. La decisione di adozione e la decisione clinica restano della struttura, e questo va scritto nel documento.

Il valore consiste nella trasparenza del processo: uso definito, condizioni esplicite, evidenze collegate a ciascuna conclusione, limiti dichiarati, configurazione identificata, controlli rieseguibili, conflitti registrati, aggiornamenti monitorati.

La fiducia non deriva da una promessa di sicurezza. Deriva dalla possibilità di ricostruire come è stata prodotta la conclusione e di sapere dove finisce la sua validità.

Dieci regole operative

1. Un solo cliente per il Perimetro di Validità.
2. Prodotti distinti per strutture, produttori e assicuratori.
3. Registro permanente dei rapporti pregressi per sistema valutato.
4. Dichiarazione preventiva dei conflitti, prima della firma.
5. Separazione fra assessment e remediation sulla stessa struttura.
6. Revisione esterna nei casi sensibili e sui conflitti residui.
7. Lettori autorizzati nominati in copertina.
8. Limiti d’uso e data di riferimento espressi nel fascicolo.
9. Nessun compenso legato al segno dell’esito.
10. Tracciabilità delle versioni e delle evidenze.

Queste regole vanno incorporate nei contratti e nei processi. Affidate alla buona volontà dei singoli, cedono al primo incarico economicamente rilevante.

Come misurare l’indipendenza

Anche l’indipendenza può essere osservata con indicatori: numero di conflitti dichiarati; incarichi rifiutati o modificati nel perimetro; revisioni esterne attivate; percentuale di conclusioni non soddisfatte o non accertate; rapporti pregressi registrati; casi in cui la struttura ha autorizzato lettori terzi; assenza di servizi di remediation presso strutture già valutate; segnalazioni di uso improprio dei documenti; tempo di risoluzione dei conflitti dichiarati.

Il quarto indicatore merita attenzione particolare. Una quota di conclusioni sfavorevoli o indeterminate stabilmente prossima allo zero è il primo segnale che il processo sta assecondando le attese del committente.

Conclusione

Per EPSS l’indipendenza non limita il mercato. Lo organizza.

Permette di collaborare con strutture sanitarie, produttori, assicuratori, università e advisor senza confondere clienti, destinatari e oggetti della valutazione.

Il Perimetro di Validità ha valore perché può concludere che una condizione è soddisfatta, non soddisfatta o non accertata senza dipendere dall’interesse commerciale del produttore o dall’interesse economico dell’assicuratore.

In un settore in cui quasi tutti gli operatori hanno interesse all’adozione dell’AI, la capacità di tenere separati assessment, vendita e rimedio è uno dei pochi vantaggi competitivi difficili da imitare.

EPSS è sviluppato da LOGICA, dedicata all’assurance indipendente dei sistemi di intelligenza artificiale nei contesti decisionali ad alto impatto.