Dietro all’iniziale scelta del governo inglese di evitare il lockdown a favore di una presunta immunità generalizzata sembrerebbe esserci un algoritmo. Inizialmente l’algoritmo aveva scartato il locdown totale dando fiducia al sistema sanitario inglese. Quando lo stesso algoritmo ha smentito la sua prima previsione il governo avrebbe cambiato rapidamente direzione, tentando di rimediare. L’utilizzo di modelli matematici è una novità delle più recenti epidemie ma, tolta qualche eccezione, le previsioni di tali modelli si sono tradotte in uno strumento piuttosto antico: la quarantena. Il connubio tra tecnologia avanzata e soluzioni degne della Venezia del quattordicesimo secolo (dove il termine quarantena è stato forgiato) fa sorgere interessanti quesiti sull’evoluzione della medicina. Prevedere l’evolversi di un campo così vasto e complesso è ovviamente impossibile, ma si può “dare un’occhiata” al futuro osservando quali nuovi strumenti verranno implementati.

Tra gli strumenti che hanno suscitato più attenzioni negli ultimi dieci anni ci sono sicuramente le intelligenze artificiali. Seguendo un trend che non è esclusivo del campo medico, gli articoli che parlano di intelligenze artificiali e della loro applicazione in medicina sono aumentati in modo esponenziale dal [inserire] ad oggi tanto che le intelligenze artificiali sembrano essere la potenziale soluzione per ogni problema del mondo medico-sanitario. In particolare, due tipi di intelligenze artificiali sono adatti per la medicina: le reti neurali e le macchine a vettore di supporto. Entrambi sono modelli dotati di machine learning. Il machine learning è una tecnica che permette all’intelligenza artificiale stessa di individuare strutture e raggruppamenti all’interno dei dati e di apprendere da essi. Questo comporta una serie di vantaggi: prima di tutto non è necessario che i programmatori sappiano quale sia la soluzione del problema a cui stanno applicando l’intelligenza artificiale. Per esempio, l’unico modo per [esempio]. In secondo luogo, le intelligenze artificiali potrebbero abbattere gli errori medici se è vero che il 65% degli errori diagnostici più gravi sia dovuto a qualche bias cognitivo umano. Bias che non sarebbero condivisi dalle macchine. Infine, la rapidità con cui le intelligenze artificiali potrebbero gestire le informazioni solleverebbero i professionisti sanitari dai compiti di routine.

Per immaginarci come cambierà la medicina con l’ausilio di questi nuovi strumenti possiamo provare a creare tre scenari con diversi gradi di realismo (e di attuabilità) andando dal futuro prossimo a quello più fantascientifico. Lo scenario A vede le intelligenze artificiali uscire dalla fase attuale di prova e iniziare i test clinici veri e propri. Con le giuste tutele e assicurazioni sulla loro sicurezza e accuratezza, saranno implementate come strumento di sostegno e aiuto per molteplici campi e processi medici. Sicuramente nel decision making saranno usate come convalida delle diagnosi mediche o come strumento di previsione del rischio. Un’esperta umana sarà poi chiamata a verificare o smentire costantemente l’operato della macchina. Altre applicazione meno rischiose, come per esempio la gestione dei database o la creazione dei farmaci, avranno molta più autonomia (abbaiamo visto come alcune intelligenze artificiali siano già utilizzate per produrre farmaci e velocizzare la fase di ricerca). Sicuramente saranno inserite in macchinari e strumenti già esistenti. Un low-hanging fruit è la radiologia: è già stato messo in luce come l’analisi delle radiografia sia un’arte incerta e con ampi margini di variazione tra esperti. Probabilmente le reti neurali saranno inserite direttamente nella macchina per migliorare le immagini e sintetizzare meglio i dati prima di passarli allo specialista. Un’ipotesi affascinante è quella di inserire intelligenze artificiali dotate di machine learning all’interno di applicazioni per la salute. Gli smartphone più recenti hanno già una serie di sensori utili per dare un primo allarme in caso di malattie cardiovascolari e la capacità di previsione delle reti neurali o delle macchine a vettore di supporto potrebbe migliorarne grandemente l’efficacia. In questo primo caso l’applicazione delle intelligenze artificiali sarà ancora limitata dal fatto che siano sostanzialmente delle black box. Allo stadio attuale infatti è impossibile sapere come queste intelligenze artificiali formano le regole del loro comportamento, per lo meno a un livello sufficientemente semplice da trasformarlo in una spiegazione narrativa.  Le intelligenze applicate non potranno adattarsi autonomamente al lavoro che stanno svolgendo principalmente per riuscire a mantenere una qualche forma di oversight. La cornice etica per la loro applicazione rimarrà quindi la stessa che si applica per altri strumenti medici e problemi di attribuzione di responsabilità saranno risolti con strumenti legali già esistenti (per esempio valutando la soglia di accuratezza e se questa sia paragonabile a quella dei test svolti dalla manifattura). Alcuni studi mettono in luce come le applicazioni di strumenti automatici e autonomi producano nei loro utilizzatori eccessiva sfiducia o, all’estremo opposto, eccessiva fiducia: probabilmente in questa fase si dovranno trovare modelli di intelligenza artificiale che lascino in controllo l’utilizzatore limitando questi tipi di bias.

Nello scenario B le intelligenze artificiali saranno progressivamente accettate. Una qualche tecnica sarà stata sviluppata per controllarne l’operato rendendole più sicure e affidabili. Di conseguenza alcune delle pratiche sanitarie a basso impatto etico potranno essere completamente automatizzate. Controlli di routine dei parametri dei pazienti, analisi dei risultati di test e diagnosi di malattie stagionali come l’influenza potranno essere svolti in autonomia dalle intelligenze artificiali alleviando il peso sulla medicina di base e su infermieri e tecnici negli ospedali. Se la medicina prosegue sul trend di iper-specializzazione e parcellizzazione delle cure sanitare che si è potuto osservare finora, le intelligenze artificiali colmeranno il divario tra i vari specialisti, unendo i dettagli della vita clinica dei pazienti e fornendo previsioni e allarmi durante l’insorgenza di malattie croniche e non. Per questo scenario sarà necessario una nuova cornice etica e filosofica che colmi il problema dell’attribuzione di responsabilità. Le intelligenze artificiali più avanzate sono in grado infatti di continuare ad apprendere mentre operano sul campo rendendo difficile e nebulosa l’attribuzione di responsabilità sia ai creatori che non hanno codificato quel particolare aggiornamento delle regole del funzionamento, sia agli utilizzatori finali che difficilmente potrebbero costantemente monitorare l’apprendimento della macchina. Una possibile soluzione sarà considerare queste intelligenze artificiali come agenti morali a tutti gli effetti, parzialmente e funzionalmente responsabili per le azioni che compiono. Strumenti legali ed etici come il consenso informato dovranno essere ampliati per tenere conto della presenza di questi nuovi attori nel rapporto professionista-paziente. Per prevenire alcune delle preoccupazioni più pressanti che ruotano attorno a queste intelligenze artificiali, principalmente al riguardo della violazione della privacy e a possibili discriminazioni, potranno essere create commissioni degli interessati per regolare il funzionamento delle intelligenze artificiali e verificare che siano conformi agli standard e alle disposizioni etiche richieste.

Lo scenario C è quello più fantascientifico: se l’autonomia e l’efficacia delle intelligenze artificiali continuerà ad aumentare non è impossibile immaginare un mondo in cui la medicina sia automatizzata quasi completamente. In cui ogni smartphone, tablet o PC possa connettersi al proprio medico artificiale e avere responsi in tempo reale, farmaci creati appositamente per il proprio corredo genetico e risultati di complessi test in pochi secondi. Ovviamente, per uno scenario del genere, dovremo aspettare di vedere come si evolveranno realmente.

Concludendo, bisogna comunque tenere presente che queste forme di intelligenze artificiali presentano anche notevoli rischi etici: l’autonomia e la privacy di pazienti e professionisti potrebbe essere a rischio, così come l’attribuzione della responsabilità in caso di errore. Inoltre, per tornare al nostro discorso iniziale, difficilmente le intelligenze artificiali sapranno gestire situazioni di emergenza come quella in cui ci troviamo. Quindi sarà sempre necessario affidarsi all’expertise e alla flessibilità umane.

Per approfondire l’impatto etico delle intelligenze artificiali e i potenziali sviluppi nei prossimi anni:

-         Asaro Peter M. (2015). Ii. Responsibility and Liability: Robots As Products. Proceedings of 2007 IEEE International Conference on Robotics and Automation, 9286(0), 20–24. http://www.peterasaro.org/writing/ASARO Legal Perspective.pdf%0Ahttp://www.peterasaro.org/writing/asaro legal perspective.pdf

-         Battaglia, F., Mukerji, N., & Nida-Rümelin, J. (A c. Di). (2014). Rethinking Responsibility in Science and Technology. Pisa University Press.

-         Dennett, D. (2014). When HAL Kills, Who Is to Blame? Computer Ethics. In Fiorella Battaglia, N. Mukerij, & Julian Nida-Rümelin (A c. Di), Rethinking responsability in science and technology (pagg. 203–214). Pisa University Press.

-         Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data and Society, 3(2), 1–21. https://doi.org/10.1177/2053951716679679

-         Topol, E. (2019). Deep Medicine. Basic Books.

-         Vallor, S. (2015). Moral Deskilling and Upskilling in a New Machine Age: Reflections on the Ambiguous Future of Character. Philosophy and Technology, 28(1), 107–124. https://doi.org/10.1007/s13347-014-0156-9

-         Cho, B. A., & Sette, A. (2020). AI systems aim to sniff out coronavirus outbreaks. Science, 368(6493), 810–811.