Tendenze Nuove n.1 – 2019; 1-4: DOI: 10.32032/TENDENZE201901.PDF
Scarica Pdf
Questa relazione è stata presentata a: Fondazione Smith Kline Symposium, Scienza Salute Società 2018 – Lavoro e tecnologia – Isola della Scala – Verona , 28 Settembre 2018
Le interessanti relazioni che mi hanno preceduto convergono ora necessariamente verso una domanda ineludibile: la tecnologia è contro l’umanità? Come ripensare l’uomo nel mondo post-umano?
In altre parole, queste domande, pur partendo dall’ambito specifico del lavoro e dei problemi a questo connessi, pongono in modo urgente la necessità di una riflessione etica sul futuro degli uomini nella relazione con robotsempre più pervasivi e invadenti.
Infatti, mentre la tecnologia si sviluppa a un ritmo esponenziale e ridefinisce il modo in cui lavoriamo, viviamo e addirittura pensiamo, è necessario dare voce a una serie di dubbi e di domande, che avremmo dovuto affrontare già da tempo. Se è utile, quindi, vedere i rapporti che in questi anni recenti si sono instaurati tra uomo e tecnologia, e la conseguente annosa discussione sui posti di lavoro a rischio, dobbiamo essere ancora più avveduti, in quanto forse le questioni più scottanti potrebbero essere altre, perché le ingerenze tecnologiche non si limitano all’economia e alla società, ma riguardano la nostra biologia e tutto il nostro sistema morale e valoriale.
Ed eccoci catapultati nella questione forse più importante: la necessità di una riflessione etica e precisamente una “roboetica”, che è l’etica applicata alla robotica, al mondo dei robot, ai rapporti tra noi e un androide e all’uso dei dispositivi robotici. La roboetica è dunque quella parte dell’etica che si occupa dei rapporti tra l’uomo e i robot.A quindici anni dalla sua nascita, la roboetica -l’etica applicata agli aspetti etici, legali e sociali della robotica e delle sue applicazioni – si sta dimostrando un utile strumento culturale per stimolare una maggiore sensibilità dei ricercatori robotici nei confronti delle loro responsabilità verso la società. La dimostrazione è il crescente numero di autorevoli scienziati che si mostra interessato e partecipe, e il fiorire di iniziative, leggi e progetti sul tema. A tal proposito è significativa la risoluzione approvata nel Febbraio 2017 dal Parlamento Europeo (396 voti favorevoli, 123 contrari, 85 astenuti) in materia di «Norme di diritto civile sulla robotica».
La robotica in ambito sanitario
La robotica e, per l’ambito specifico clinico-sanitario, la biorobotica sono ormai realtà con le quali conviviamo. Nei prossimi anni tutti noi vivremo fianco a fianco con robote dispositivi robotici umanoidi sempre più sofisticati. E così come oggi pensiamo di non poter fare più a meno di smartphone, tablet, pc, nei prossimi anni sarà consuetudine convivere con i robot. Si tratterà di social robot, di robotcollaborativi, di macchine robot, di dispositivi robotici e farne a meno sarà praticamente impossibile.
L’etica della robotica deve comunque già oggi tentare di offrire risposte a una serie di interrogativi nuovi, che sono definiti dal passaggio repentino fra progettazione e costruzione di robotindustriali per scopi tecnici e specialistici alla progettazione e alla creazione di altri robotcapaci di cooperare con l’uomo.La riflessione sugli aspetti etici infatti è sempre andata di pari passo con il pensiero filosofico e scientifico/tecnologico.
Ad esempio, è giusto che si costruiscano robotche replicano alla perfezione un essere umano? È giusto che in futuro i rapporti sessuali tra esseri umani e robotumanoidi diventino la regola? È giusto che i bambini vengano accuditi ed educati da un robot?
A fronte dei progressi della robotica, che consentiranno di realizzare intelligenze artificiali così evolute da ipotizzare che possano sviluppare in sé una coscienza e una vita interiore simile a quella umana, sarà ancora possibile pensare ai robotcome macchine, così come li consideriamo oggi? E sotto il profilo etico sarà ancora corretto potere parlare di proprietà e di possesso esercitato dall’uomo su macchine così evolute e autonome?
Di chi sarà la responsabilità per i danni che queste macchine potrebbero causare con le loro azioni alle cose o alle persone per le quali lavorano? Pensate a un robotbadante per anziani o a un robot babysittere alla delicatezza dei ruoli che dovranno svolgere. Accettiamo di affidare a un’intelligenza artificiale determinate scelte? Accetteremmo di essere medicati a forza da un robot?
Alcuni esempi di ambiti emblematici della roboetica, ovvero della riflessione sul problematico rapporto tra robote uomo, tra le azioni dettate dalla volontà umana e quelle determinate dall’intelligenza artificiale.
I sofisticati sistemi di high frequency trading (transizioni ad alta frequenza) guadagnano in Borsa evolvendosi sulle conoscenze acquisite e con tempi di reazione dell’ordine di decimillesimi di secondo. Si tratta di sistemi che si servono di sofisticati softwarecon i quali vengono realizzate negoziazioni ad alta frequenza, guidate da algoritmi matematici; scopo di questo approccio è lucrare su margini estremamente esigui che, per trasformarsi in guadagni significativi, devono operare su grandi quantità. Si stima che in alcune Borse rappresentino oltre il 70% delle transazioni e che il loro uso massiccio sia all’origine dell’estrema volatilità dei mercati; inoltre, possono essere volutamente utilizzati per destabilizzare i mercati.
Queste Intelligenze Artificiali possono mettere in crisi la stabilità finanziaria di interi Paesi. È ovvio che sono necessarie delle regole; ma chi e quali regole devono essere impostate affinché questi sistemi siano “coscienti” degli eventuali impatti devastanti che possono produrre?
Robot e responsabilità
Un altro tema riguarda la capacità di compiere scelte in situazioni estreme dove la componente “etica” rappresenta un elemento determinante della scelta. Al riguardo, proviamo a chiederci come si comporterebbe un’auto senza guidatore – cfr. taxi con pilota automatico già oggi in uso – se dovesse scegliere, per esempio in caso di un improvviso sbandamento, tra l’incolumità del passeggero dell’auto e quella di un gruppo di persone ai margini di una strada. Deciderebbe di salvare il passeggero, provocando magari una strage di innocenti in attesa dell’autobus? Deciderebbe di “suicidarsi”? Oppure andrebbe in tiltpuntando direttamente sulla fermata dell’autobus a tutta velocità e provocando la morte di tutti?
Si entra così in una fase di rischio di tipo nuovo, etico e di conseguenza legale. Ogni macchina con capacità decisionale agisce con riferimento esplicito o implicito a algoritmi che le fanno agire e che potrebbero andare in tilt. Di chi sarà la responsabilità per i danni che queste macchine potrebbero causare con le loro azioni alle cose o alle persone per le quali lavorano?
Sarà la responsabilità del progettista-costruttore, di colui che acquista tali robot, dell’appaltatore o dello stesso robot, atteso che nell’ottobre 2017 l’Arabia Saudita ha riconosciuto la cittadinanza a un’Intelligenza Artificiale, Sophia che, quali che fossero le intenzioni del governo saudita, è ora equiparata sul piano giuridico a una persona? Lo stesso problema si affaccia per i possibili errori che potrebbero essere posti in atto da robotche sempre più frequentemente sono in uso in ambito chirurgico…. a chi fare risalire eventuali responsabilità?
Rimanendo nell’ambito della Sanità, un settore molto specialistico oltremodo promettente riguarda proprio la bio-robotica, ovvero la progettazione e applicazione di protesi robotiche e sistemi bionici ibridi, con il conseguente e non secondario problema dell’integrità dell’identità personale.
Sono innegabili i progressi compiuti dalla bioingegneria e ci sono sistemi che consentono di leggere e utilizzare i segnali neurali associati all’attività cognitiva per controllare un arto artificiale, con indubbio beneficio per chi ha subito un’amputazione. Queste ricerche bioniche si propongono soprattutto di ripristinare o di vicariare funzioni senso-motorie perdute, ma aprono la strada al potenziamento di apparati senso-motori e cognitivi che funzionano regolarmente.
È opportuno chiedersi se sia nella nostra disponibilità modificare la nostra dotazione ‘naturale’ di capacità senso-motorie e cognitive attraverso interventi bionici. Una risposta positiva a tale quesito suscita a sua volta domande sulla persistenza dell’identità personale, prima e dopo l’intervento bionico. Più specificamente: una modifica delle funzioni mentali, sensoriali o motorie resa possibile dai sistemi bionici può indurre una modifica dell’identità personale?
In conclusione, il tema di questa relazione potrebbe essere volto in domanda: Intelligenza Artificiale e Uomo: Relazioni Pericolose?
Le riflessioni esposte non hanno inteso essere e non rappresentano un freno all’evoluzione delle nuove tecnologie e alla ricerca sull’Intelligenza Artificiale, ma ci spronano a sviluppare in maniera più accurata l’esame della relazione tra essere umano, valori e tecnologia.
E mentre ci portano a ricordare che deve essere sempre l’intelligenza umana a governare la tecnologia più sofisticata, qual è l’Intelligenza Artificiale, ci offrono l’opportunità e forse l’obbligo improrogabile di riflettere ancora una volta su ciò che rende unico l’essere umano, in pratica, ripensare la nostra umanità nel mondo post-umano.
