Care amiche e cari amici,

vi rivolgo il mio più cordiale benvenuto per questo tempo di approfondimento e di scambio su un argomento di grande attualità, che mette in questione in modo nuovo quanto è stato sempre al centro della missione della PAV nei suoi 25 anni di attività, cioè la difesa e la promozione della vita della persona umana. Per svolgere con sempre maggiore efficacia e profondità questo compito si tratta di inscriverlo nel contesto storico in cui ci troviamo. Il papa ce lo ha detto chiaramente nella lettera che ci ha inviato per il nostro anniversario: non basta considerare le situazioni che minacciano la vita umana in modo isolato e avulso dall’insieme dei fattori che la determinano. Proprio perché è la vita umana a interessarci, è necessario tenere conto della fitta trama di relazioni in cui si sviluppa, che nel nostro mondo globalizzato è profondamente influenzata dalle nuove acquisizioni della tecno-scienza.

1. Un orizzonte che cambia

Tali novità non solo ci aiutano svolgere compiti specifici delle nostre attività, ma cambiano il nostro modo di relazionarci tra noi e con il mondo. Con l’avvento dell’ambiente digitale si tende a trasformare ogni fenomeno in dati numerici e a elaborarlo sulla base di rapporti calcolabili. Questa riduzione informatica del mondo reale, non introduce soltanto un nuovo approccio conoscitivo alla realtà, ma anche un nuovo schema che dà forma alle relazioni e un nuovo processo per le decisioni.

Interagire mediante dispositivi artificiali che influenzano l’organizzazione e le relazioni sociali, come anche prendere decisioni in base alla elaborazione automatica di correlazioni e di previsioni sui fatti, è già parte del nostro stile di vita presente. La nuova frontiera della svolta digitale (digital turn), però, non è semplicemente data dall’incremento pervasivo di queste mediazioni strumentali del sapere e dell’agire umano. Piuttosto la novità sta nella precisione e affidabilità di strumenti che superano i limiti della percezione, della sensibilità, della coscienza e del ragionamento propriamente umani. Per cui diventa possibile sostituire funzioni valutative e decisionali della soggettività umana, con effetti che incidono profondamente nella sfera di questa stessa soggettività. La tecnica, dunque, compresa e raccomandata come alleggerimento e potenziamento delle risorse strumentali del soggetto umano, potrebbe condurre piuttosto a esonerarlo dal ruolo di attore razionale delle applicazioni operative e sospingerlo verso un volontario adeguamento alle procedure automatiche selezionate dal dispositivo.

Se da una parte si lavora al progetto di potenziare il soggetto umano (enhancement) grazie alle tecnologie che intervengono fin nella profondità del suo corpo, dai geni ai neuroni, dall’altra si concretizza il rischio di esonerare l’umano dalla cabina di regia della potenza della tecnica. L’ambizione della “robotica antropomorfa”, per cui i rapidi progressi della logica digitale hanno reso disponibile la cosiddetta “intelligenza artificiale”, evoca questa ambivalenza della frontiera in cui ci troviamo: la straordinaria potenza del sistema tecnico, pur sempre frutto dell’opera del desiderio e dell’intelligenza umane, ci trova sostanzialmente impreparati. La condizione dell’uomo è di essere allo stesso tempo storicamente condizionato ed affidato in modo consapevole e responsabile a sé stesso: senza poter disporre completamente della propria realtà è tuttavia chiamato a prendersene cura, per sé e per gli altri, con gli strumenti che lui stesso è capace di inventare e di realizzare. Questa osservazione ci pone di fronte al nostro compito. Perché la tecnica sia umana, noi dobbiamo rimanere umani. E per rimanere umani dobbiamo mantenere la signoria dell’intelligenza umana – e della coscienza, della sensibilità, della valutazione e della decisione umane – sull’umano. Per scongiurare “l’esito faustiano” del nostro artigianato tecnico, dobbiamo essere risoluti a non “vendere l’anima”: neppure per acquistare l’immortalità del corpo. Perché quel corpo, senza la nostra anima, per quanto bello ed efficiente ci riuscisse, sarebbe un mostro orribile.

A questo proposito, apprezziamo molto il fatto che su questa nuova frontiera proprio dalla comunità dei super-tecnici ci vengono segnali forti e competenti a riguardo della necessità di una riflessione antropologica e di un ragionamento etico all’altezza della sfida. L’algoritmo non è così governabile come si era immaginato: perché non è affatto così ragionevole come si pensava né è ancorato a un corpo umano, che è indispensabile per le funzioni mentali umane, come ci dicono le scienze cognitive interpretate in modo non riduzionista. La gestione dei big data non è soltanto prezioso accumulo di informazioni che, opportunamente elaborato, rifluisce a vantaggio di tutti: è anche selezione inquinabile di correlazioni che ci ignorano e ci escludono. Del rimodellamento psichico indotto dalle nuove tecniche che intervengono a livello genetico, riproduttivo, neuronale e organico, sappiamo tuttora pochissimo. (Abbiamo appena incominciato ad analizzare le conseguenze dell’uso pervasivo dello smartphone sul linguaggio, la relazionalità, l’affettività, l’angoscia: e ci rendiamo conto che possono scaturirne esiti analoghi alle alterazioni delle sostanze psicotrope). Per non parlare degli effetti di selezione e di esclusione sociale, di organizzazione del lavoro e dell’economia, di trasformazione delle strutture di educazione e socializzazione, di formazione del consenso etico e politico, di umanizzazione del lavoro di cura e di mediazione personale dei processi di apprendimento.

Siamo dunque riconoscenti per la lealtà intellettuale dei molti esperti che ci segnalano con serietà e con giusta preoccupazione la necessità di un soprassalto di coscienza e di responsabilità che affina le risorse dell’anima richieste dalla potenza di questa sfida: indirizzare le straordinarie risorse dell’intelligenza umana, creata da Dio proprio per questo, al governo della tecnica per il bene dell’intera polis (Platone, giustamente, dice che l’arte del governo umano delle risorse umane è la basiliké techné, la tecnica sovrana che attinge alla sapienza dell’anima, non delle ricchezze o della guerra: e ci rende “signori” e non “schiavi” di tutte le altre). Questo è proprio il compito insostituibilmente umano della ragione e della sensibilità: nessuna macchina, per quanto sofisticata nella simulazione e nel potenziamento delle capacità di calcolo e di percezione della realtà, potrà assumersi questo compito. E nessuno erediterà questa potenza umana, se non i nostri figli.

• Una nuova alleanza tra umanesimo e tecnica

Mentre esprimiamo dunque la nostra ammirazione per la sensibilità che gli stessi tecnici manifestano nei confronti del problema che dobbiamo affrontare, raccogliamo anche l’implicito – ma spesso anche esplicito – appello ad una nuova alleanza dell’umanesimo e della tecnica. Nuova anch’essa, certo. Non ci sono più sufficienti le categorie e le nozioni, pur venerabili, che abbiamo acquisito e affinato nella fase precedente. Nello stesso tempo, siamo indotti a interrogare con passione l’eredità della storia e della sapienza umana. Perché la competenza dell’umano si forma umanamente. Dietro i linguaggi e le teorie, la competenza umana dell’umano si trasmette di generazione in generazione: perché gli strumenti della cultura sono diversi, ma l’umano della storia è comune. I ruoli sono differenti, ma gli affetti sono condivisi. L’onore della parola data e la giustizia della cura dei figli sono, da sempre e per sempre, semplicemente umani. La loro violazione è una vergogna che solo gli umani possono capire e patire. Nessuna cognizione, nessuna valutazione, nessuna decisione, su questo, può essere ereditata dalla macchina, calcolata dall’algoritmo, prodotta dalla genetica. La sostituzione dei nostri sensi è priva di senso, se immagina di poter affidare alla macchina la dimensione umana della sensibilità e della coerenza con la logica dei nostri affetti più profondi e più cari. Non ci sono, e non ci devono essere, macchine della preghiera e dell’invocazione, del dono e del perdono, della felicità e della compassione propriamente umane. Le molte, indicibili, irrinunciabili, parti dell’umano che la tecnica non deve ereditare, devono imparare a comprendersi e a viversi – individualmente e socialmente – in stato di signoria nei confronti della mediazione strumentale dell’algoritmo e del dispositivo. Senza soggezione, senza disprezzo. Non saremo né apocalittici, né integrati. Potremo diventarlo, naturalmente, se ci immagineremo di dover competere con gli strumenti della nostra intelligenza e della nostra creatività, o di dover soccombere ad essi, invece di pensare seriamente ad assegnare loro il posto che devono occupare. Sono umani, gli attori e gli inventori delle macchine: anche quando se lo dimenticano. Sono umani gli utenti e i signori dei loro servizi, anche quando si lasciano fuorviare dalla rinuncia alla dignità della loro natura. Non ci confronteremo su questo con le macchine, per quanto ce le arredino simili a noi, per incuterci timore o indurci soggezione. Ragioneremo tra umani, sempre, sulle macchine, con cui certo si tratterà di trovare modi convenienti e saggi di cooperazione. Senza dimenticare, infine, la sapiente e umanissima parola del credente, che tutto vuole eccetto che creare guerre di religione fra gli umani, a riguardo delle insidiose potenze – di ogni genere – che si disputano la loro anima: “La nostra battaglia […] non è contro la carne e il sangue, ma contro i Principati e le Potenze, contro i dominatori di questo mondo tenebroso, contro gli spiriti del male che abitano le regioni celesti” (Efesini, 6, 12).

Per essere all’altezza di questa sfida, e ricomporre l’ambiente mentale e sociale di un umanesimo “signorile” e “condiviso”, la testimonianza della nostra fede, secondo la quale il mondo, con tutte le sue risorse e le sue potenzialità, è affidato alla sensibilità e all’intelletto d’amore dell’uomo e della donna, perché ne accrescano le risorse e ne trasmettano le ricchezze di generazione in generazione, si fa forte della parola definitiva a riguardo della nostra destinazione. Noi crediamo fermamente che la grazia della signoria di Gesù Cristo, morto e risorto, nella quale sono state create tutte le cose, apre la strada di una creazione risorta, nella quale la nostra lotta contro le potenze dell’assoggettamento dell’umano e della corruzione della terra, sarà riscattata, onorata, e gioiosamente pacificata.

Proprio qui si radica l’impegno responsabile della nostra intelligenza e della nostra sensibilità umana per assicurare sin d’ora alla comunità dei popoli la tutela di una vita umana degna della sua qualità umana. La vita umana è degna per sua natura di questa passione e di questa compassione: dal suo inizio al suo congedo, per quanto vulnerabile e fallibile, ferita e mortificata. La tecnica che si mette al servizio della cura della vita, rifiutandosi di scartarla quando non risponde agli standard di efficienza e di benessere decisi dal dispositivo, diventa parte della benedizione. Quando si fa padrona, con la complicità di un nostro atteggiamento dimissionario, noi stessi diventiamo responsabili della perdita di quella benedizione. Essere signori della tecnica, al servizio della vita; e non padroni della vita, assoggettati alla tecnica. Questo è il patto da rinsaldare. La complessità di questo discernimento è reale, certo: occorre una fase attenta e disponibile di ascolto e di comprensione critica dei fenomeni in cui siamo già da ora immersi. Gli strumenti che abbiamo a nostra disposizione, tutto sommato, ancora poco affinati e solidi. La ricerca scientifica, qui, è parte insostituibile di questo patto. L’insidia latente nelle nuove risorse tecnologiche, infatti, dipende dalla enorme estensione della loro invisibilità. Non sono sensorialmente e mentalmente avvertibili dal soggetto umano e neppure dal corpo sociale. Non sono macchine enormi e appariscenti. Sono relazioni virtuali ed effetti di calcolo: prima ancora che mediare la connessione tra noi, i dispositivi si connettono tra loro.

Le intelligenze artificiali, gli algoritmi capaci di apprendere — il cosiddetto machine learning — e gli altri sistemi cognitivi informatici sono i veicoli di questa rivoluzione. Questi sistemi si stanno diffondendo sempre più in ogni ambito del nostro vivere come in passato il vapore e l’energia elettrica hanno cambiato il modo con cui eravamo soliti svolgere tutte le nostre attività. Per questo, in stretta correlazione con l’approccio di quest’anno, l’intelligenza artificiale sarà il tema del Workshop del prossimo anno. Siamo intenzionati a frequentare la nuova frontiera, con rigore e passione, nello spazio della più ampia collaborazione possibile. Per onorare, con scienza e coscienza, il compito che ci è autorevolmente affidato.

Intervento di apertura del workshop Robo Ethics, humans, machines and health, Vaticano, 25 febbraio 2019

Pubblicato il 25 Febbraio 2019 in: interventi, News da redazione