M

Questo sito fa uso di cookie tecnici per migliorare l’esperienza di navigazione degli utenti e per raccogliere informazioni sull’utilizzo del sito stesso. Per maggiori informazioni si veda la Cookie Policy.

Intelligenza Artificiale nella sanità: profili privacy.

L’intelligenza artificiale, conosciuta anche come “IA”, consiste sia nella capacità delle macchine di utilizzare abilità umane, quali la selezione, il ragionamento, la pianificazione, la creatività, sia nella capacità di risolvere problemi.

Al fine di garantire la sicurezza di tale tecnologia ed evitare i rischi connessi, l’Unione Europea, con il Regolamento “AI Act”, ha disciplinato l’utilizzo dell’intelligenza artificiale, con l’obiettivo che vengano rispettati i principi di trasparenza, tracciabilità e rispetto dell’ambiente.

Infatti, sebbene l’IA porti molteplici benefici, la sua applicazione potrebbe comportare notevoli criticità, soprattutto in settori particolarmente “sensibili”, quale quello sanitario.

L’IA adotta decisioni in maniera automatica, in modo totalmente automatizzato e senza necessità dell’intervento umano nel processo deliberativo.

Tale “indipendenza” dell’ IA, se da un lato viene accolta con entusiasmo in un’ottica di semplificazione del lavoro umano, dall’altro suscita dubbi e insicurezze. Tuttavia, uomo e macchina possono collaborare in maniera proficua, per migliorare innumerevoli settori, soprattutto quello sanitario, sia sotto un punto di vista di puntualità, sia di qualità del servizio.

Uno degli aspetti sicuramente più “preoccupanti” in materia di IA è quello relativo alla capacità o meno di tale strumento di tutelare e garantire la sicurezza del trattamento dei dati personali. Tali preoccupazioni assumono un peso ancora maggiore, ove a essere trattati siano i dati sanitari, ossia quelli relativi al nostro stato di salute.

Alla luce di ciò, il Garante privacy è intervenuto emettendo il “decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di Intelligenza Artificiale”, al fine di ridurre i rischi provocati dalle macchine e, allo stesso tempo, per garantire la cooperazione uomo-macchina.

Il decalogo in questione, declinando alcuni tra più rilevanti principi in materia di privacy proprio per lo specifico trattamento di dati sanitari tramite AI, prescrive:

  1. Le basi giuridiche.

Il trattamento dei dati sulla salute, anche nel caso di gestione degli stessi tramite un sistema di intelligenza artificiale deve trovare fondamento su specifiche basi giuridiche.

I trattamenti di tali dati, dunque, sono ammessi quando sono previsti dal diritto dell’Unione europea o da disposizioni di legge che specifichino i tipi di dati da trattare ovvero le misure da adottare per tutelare gli interessi dell’interessato. Per i trattamenti svolti per motivi di interesse pubblico, l’utilizzo dell’IA è consentito solo se espressamente previsto dal diritto degli Stati membri.

  1. I principi di accountability e di privacy by design e by default.

I principi di accountability e di privacy by design e by default con i quali il titolare del trattamento deve conformarsi ed essere in grado di dimostrare il rispetto dei principi e degli adempimenti previsti dal GDPR e di aver tutelato accuratamente la protezione del dato personale dell’interessato fin dal principio.

  1. I ruoli.

Anche in caso di trattamento dei dati tramite IA è necessario individuare il ruolo del titolare e del responsabile.

  1. I principi di conoscibilità, non esclusività e non discriminazione algoritmica.

I principi cardine per il corretto uso dell’IA e degli algoritmi sono: il principio di conoscibilità, con il quale l’interessato ha la possibilità di conoscere il processo decisionale del trattamento automatizzato e la logica utilizzata; il principio di non esclusività della decisione algoritmica, il quale non esclude l’intervento umano capace di controllare la decisione automatica dell’IA; il principio di non discriminazione algoritmica, secondo cui è necessario che il titolare del trattamento utilizzi sistemi di IA affidabili, i quali diminuiscano l’errore, verificando periodicamente l’efficacia delle procedure matematiche.

  1. La valutazione d’impatto sulla protezione dei dati (VIP).

Nel caso di utilizzo di IA, sussiste l’obbligo da parte dei titolari di svolgere una valutazione di impatto sul trattamento dei dati, in forza dell’art. 35 GDPR, poiché impiegate nuove tecnologie e atteso l’alto rischio per i diritti e le libertà delle persone che il trattamento di dati sanitari comporta.

  1. Qualità dei dati.

Il titolare del trattamento deve garantire che i dati siano aggiornati, correggendo quelli non esatti rispetto al fine per il quale sono trattati. Tale adempimento è ancora più rilevante ove impiegata l’AI: il titolare non può mai del tutto affidarsi solo ed esclusivamente alla macchina per garantire la dovuta qualità dei dati.

  1. Integrità e riservatezza.

Atteso l’alto rischio correlato all’affidamento incondizionato sulle capacità dell’IA, il Garante ribadisce la necessità del controllo da parte del titolare circa l’integrità e la sicurezza del trattamento.

  1. Correttezza e trasparenza.

I principi di correttezza e trasparenza ricoprono un ruolo importante in quanto sono posti alla base dello sviluppo e dell’uso di sistemi di IA alla luce dei rischi che deriverebbero dall’utilizzo di macchine.

Le misure e gli adempimenti che nei sistemi di IA, in materia sanitaria, devono essere implementate sono quelle volte: ad assicurare che la base giuridica del trattamento e le informazioni da rendere agli interessati siano chiare e conoscibili; alla pubblicazione della valutazione d’impatto; ad assicurare modalità efficaci di esercizio dei diritti degli interessati previsti dal Regolamento AI Act; a garantire che i servizi di elaborazione dei dati basati su sistemi IA, siano realizzati solo successivamente a una richiesta di attivazione del professionista sanitario e non in modo automatico.

  1. Supervisione umana.

Circa la supervisione umana e in merito all’utilizzo dell’IA per la realizzazione di servizi sanitari, in conformità con il GDPR, il decalogo precisa che l’affidamento esclusivo alle macchine del compito di decidere sulla base di dati particolari, elaborati mediante sistemi di IA, “comporta rischi per i diritti e le libertà delle persone”.

Pertanto, Garante europeo e italiano concordano sulla centralità del coinvolgimento dell’uomo “al fine di assicurare il rispetto del diritto di non essere assoggettato a una decisione basata esclusivamente su un trattamento automatizzato”.

Come? Deve esserci un costante aggiornamento da parte dell’uomo.

Nell’impiego dell’IA nel settore sanitario, l’aggiornamento dell’uomo ha luogo nella fase di “addestramento degli algoritmi”. Addestramento che permette all’IA di ottenere delle previsioni con diversi gradi di probabilità.

È, pertanto, necessario che, in fase di addestramento dell’IA, sia centrale il ruolo del professionista sanitario e che quest’ultimo non si rimetta esclusivamente alla decisione dello strumento tecnologico, altrimenti i rischi di discriminazione algoritmica possono incidere sull’inclusività delle cure, aumentando così il divario e le disuguaglianze socio sanitarie.

  1. Ulteriori profili rispetto alla disciplina sulla protezione dei dati personali connessi alla dignità e all’identità personale.

Il Regolamento AI Act sottolinea la necessità che l’IA sia accompagnata da una attenzione ai profili etici del trattamento dei dati personali, soprattutto se, attraverso l’IA, si traggono informazioni sulla salute della popolazione al fine di fornire servizi ai professionisti sanitari che cureranno l’interessato. Dunque, tenuto conto che il concetto di “etica” assume un ruolo centrale nel nostro ordinamento, tant’è vero che ha influenzato in maniera significativa il quadro normativo nazionale e comunitario in merito alla tutela dei diritti e delle libertà fondamentali della persona, è importante che anche l’impiego dell’ IA si conformi all’etica, escludendo scelte automatizzate che possano produrre effetti discriminatori e lesivi della dignità umana.

Data di pubblicazione
23.10.2023

Iscrizione Newsletter

Share