Siamo in un tempo di cambiamento di epoca, ama dire Papa Francesco, per sottolineare la peculiarit\u00e0 di questo inizio di millennio. E\u2019 passaggio inedito che incide profondamente nella storia dell\u2019umanit\u00e0. E\u2019 sufficiente ricordare che, per la prima volta nella storia dell\u2019umanit\u00e0, l\u2019uomo ha nelle sue mani il potere di distruggersi. Gi\u00e0 dagli anni Quaranta del secolo scorso, con la bomba nucleare, gli uomini possono distruggere la vita nel pianeta. La esplosione nucleare in Giappone ha suscitato una paura cos\u00ec grande da spingere i politici a cercare una intesa. E, in effetti, un accordo si \u00e8 raggiunto, anche se sembra indebolirsi sempre pi\u00f9. Il pericolo \u00e8 ancora alle porte. Papa Francesco, nel suo recente viaggio in Giappone, ha sostenuto che \u00e8 un crimine anche solo il possesso della bomba nucleare.<\/p>\n
Vi \u00e8 stato poi un secondo orizzonte che rischia di distruggere il creato: la distruzione dell\u2019ambiente. Una forsennata corsa allo sfruttamento delle risorse della terra per raggiungere profitti senza freni ci ha portato, come direbbe Hans Jonas, sull\u2019orlo dell\u2019abisso. Ancora una volta, la paura per la distruzione del creato ha convinto i governi \u2013 nonostante i successivi ripensamenti –\u00a0 a ritrovarsi a Parigi per un accordo globale sul clima.<\/p>\n
Ora siamo su un terzo fronte. Non \u00e8 il nucleare e neppure il clima. Ad essere messo a rischio \u00e8 l\u2019umano come tale. Con la sua lettera Humana Communitas<\/em>, inviata alla Pontificia Accademia per la Vita, Papa Francesco ha invitato a riflettere sulla \u201cfamiglia umana\u201d che ora corre rischi ancor pi\u00f9 pericolosi di quelli della \u201ccasa comune\u201d. La Pontificia \u00a0Accademia per la Vita ha quindi allargato i suoi orizzonti, senza abbandonare, ovviamente, quelli tradizionali della bioetica, come l\u2019eutanasia, il suicidio assistito, le cure palliative, le cellule staminali. Questo comporta un ampliamento del significato semantico del termine \u201cvita umana\u201d. Nella Lettera papa Francesco invita a sviluppare la riflessione sul versante delle nuove tecnologie emergenti e convergenti, come le tecnologie dell\u2019informazione e della comunicazione, le biotecnologie, le nanotecnologie, la robotica. Con i risultati ottenuti dalla fisica, dalla genetica e dalle neuroscienze, come pure della capacit\u00e0 di calcolo di macchine sempre pi\u00f9 potenti, \u00e8 oggi possibile intervenire molto profondamente nell\u2019umano. L\u2019innovazione digitale infatti, tocca tutti gli aspetti della vita, sia sul piano personale che sociale; incide sul nostro modo di comprendere non solo il mondo, ma anche noi stessi. Le decisioni, anche le pi\u00f9 importanti come quelle in ambito medico, economico o sociale, sono oggi il frutto sia del volere umano che di una serie di contributi algoritmici. L\u2019atto personale viene a trovarsi cos\u00ec al punto di convergenza tra l\u2019apporto propriamente umano e il calcolo automatico, cosicch\u00e9 risulta sempre pi\u00f9 complesso comprenderne l\u2019oggetto, prevederne gli effetti, definirne le responsabilit\u00e0.<\/p>\n L\u2019Accademia ha affrontato nel 2017\u00a0il tema della tutela e promozione della vita umana nell\u2019era tecnologica e quindi nell\u2019orizzonte della bioetica globale. L\u2019anno scorso ci siamo indirizzati sulle questioni etiche poste dalla robotica (la cosiddetta \u201croboetica\u201d) e quest\u2019anno \u2013 in continuit\u00e0 \u2013 affronteremo il tema su etica e intelligenza artificiale. Mentre procedevamo nella preparazione di questa Assemblea ha chiesto di vedermi il nuovo presidente di Microsoft, Brad Smith. In sintesi mi dice: \u201cA Microsoft abbiamo potenzialit\u00e0 enormi per il progresso dell\u2019uomo ma anche per la sua radicale alterazione. E\u2019 una enorme responsabilit\u00e0 che pesa sulle nostre spalle. E tra noi ci sono solo ingegneri. Mancano esperti di etica, di filosofia morale e cos\u00ec oltre\u2026 Vorremmo chiedere alla Pontificia Accademia per la Vita se siete disposti, conservando ovviamente la vostra piena libert\u00e0 e la totale autonomia, ad accompagnarci come interlocutori etici nel nostro lavoro. Non abbiamo bisogno di fare qualche convegno con voi, ma di avervi come compagni di viaggio, aiutandoci a porre sempre nel centro del nostro lavoro la dignit\u00e0 dell\u2019uomo\u201d. Fu una richiesta sorprendente. Gli dissi di una ideale Parigi della tecnologia analogamente a quella avvenuta sul clima\u2026 Analoga richiesta \u00e8 venuta dal presidente della IBM. Dopo mesi di lavoro, di incontri, di dibattiti, siamo giunti alla prossima Assemblea Generale al termine della quale \u00e8 prevista la firma di una Call che poi presentiamo a Papa Francesco e che vorremmo fosse l\u2019inizio di un itinerario per la sua diffusione.<\/p>\n \u00a0<\/em>La tecnologia oggi. <\/em><\/p>\n Ma torniamo al cuore del problema, ossia alla questione della tecnica e del suo dominio sulla vita umana e del pianeta. Ho accennato alle \u201ctecnologie dell\u2019informazione\u201d e alle \u201ctecnologie emergenti e convergenti\u201d che intervengono in maniera cos\u00ec profonda sull\u2019umano e sul creato da metterli in serio pericolo. Alcuni studiosi della met\u00e0 del Novecento hanno avvertito il pericolo di una tecnica che va ben oltre il suo statuto umanistico. Per essi si tratta di una nuova forma di dittatura, alcuni ne parlano come della nuova religione. Heidegger, ad esempio, di fronte all\u2019invasione della tecnica, affermava: \u201cSolo un dio ci pu\u00f2 salvare\u201d, non era il Dio cristiano ma la ragione umanistica che doveva riprendere il suo posto di guida della storia umana. Ho accennato a Hans Jonas, ma anche altri studiosi sono intervenuti, Habermas, Virilio, Ellul, e altri ancora. Tutti concordi nell\u2019avvertire la sciet\u00e0 di guardarsi dalla \u201cdittatura della tecnica\u201d.<\/p>\n E\u2019 appena uscito il volume di una economista e psicologa, che insegna nella Harvard Businnes School negli Stati Uniti che ha studiato a fondo le trasformazioni dell\u2019era digitale, Shoshana Zuboff. Nel suo ultimo volume Il capitalismo della sorveglianza,<\/em> l\u2019autrice descrive con efficacia il pericolo di essere soggetti ad un nuovo potere che minaccia la stessa natura dell\u2019umano. Ella sostiene che dopo il capitalismo industriale, nato dalla spinta della crescita dei mezzi di produzione, se ne sta affermando uno nuovo, quello della sorveglianza che, attraverso un eccezionale sviluppo della tecnologia intacca in profondit\u00e0 l\u2019umano. I proprietari delle nuove grandi aziende tecnologiche, con il possesso dei cosiddetti \u201cbig data\u201d (Microsoft, IBM, Google, Amazon…), hanno nelle loro mani il potere sulla nostra vita in maniera senza precedenti. Essi, per dirla in breve, sanno tutto di noi<\/em>, della nostra vita personale e di quella collettiva. Per di pi\u00f9 \u00e8 impossibile\u00a0 per noi<\/em> sapere quello che loro fanno di questa enorme quantit\u00e0 di conoscenze. Le prendono da noi <\/em>ma non \u00e8 detto che le usino sempre per noi<\/em> o per il bene. Possono predire il nostro futuro perch\u00e9 qualcun altro ci guadagni, ma non noi. Insomma, lo sviluppo tecnologico pu\u00f2 dare nelle mani di pochi il futuro sia personale che collettivo di tutti. Eric Schmidt, di Google, nel 2010 scriveva agli utenti di Google: \u201cpi\u00f9 informazioni ci date su di voi e sui vostri amici, migliore sar\u00e0 la qualit\u00e0 delle ricerche. Non serve nemmeno che scriviate. Sappiamo dove siete. Sappiamo dove siete stati. Sappiamo pi\u00f9 o meno a cosa state pensando\u201d. Insomma: i capitalisti della sorveglianza sanno troppe cose di noi per essere e dirci liberi. E\u2019 ovvio che una concentrazione di conoscenza produce inevitabilmente una concentrazione di potere.<\/p>\n A questo punto le domande diventano incalzanti: verso quel futuro stiamo andando? Quale tipo di societ\u00e0 stiamo edificando? Quali tipi di relazioni instauriamo tra noi? E molte altre ancora. E\u2019 comunque urgente comprendere quel che sta accadendo. Aprire gli occhi senza rassegnarci a quel che invece sembra inevitabile. C\u2019\u00e8 bisogno di intervenire perch\u00e9, anche in questo tempo di invasione tecnologica, la stella polare dell\u2019esistenza resti la centralit\u00e0 della persona e dell\u2019intera famiglia umana.<\/p>\n Oltre a quanto ho gi\u00e0 accennato circa il capitalismo della sorveglianza c\u2019\u00e8 anche la capacit\u00e0 di intervento della tecnica sulla dimensione biologica della vita umana. Le nuove tecnologie consentono ad esempio una crescente capacit\u00e0 di intervento che non si limita solo al ripristino delle funzioni compromesse, ma pu\u00f2 potenziare le prestazioni fisiche e mentali, tanto da prevedere un uomo cosiddetto \u201cpotenziato\u201d. Nel campo della sanit\u00e0 viene sconvolto il rapporto tra medico e paziente con un profondo cambiamento dello stesso servizio sanitario. Un programma pilota del Servizio sanitario nazionale britannico che utilizza IA per analizzare tutti i dati dei pazienti in tempo reale, ha fatto diminuire i tassi di riammissione degli ospedali, come anche si sono ridotte le visite per urgenze. Senza parlare poi della ingegneria genetica e del cosiddetto post-umano. Ovviamente restano importantissimi i progressi per aiutare tutti a vivere meglio. In effetti, si possono raggiungere vette altissime di progresso, in tutti i campi. Ci sono riflessi anche sul versante giudiziario. Negli Stati Uniti, ad esempio, si utilizzano algoritmi che assistono le corti nel calcolare i rischi che il soggetto sotto giudizio possa ricommettere in futuro dei crimini. Questi programmi informatici (di riskassessment<\/em>) sono ampiamente utilizzati in tutto il sistema penale statunitense per individuare, ad esempio, chi pu\u00f2 rimanere in libert\u00e0 durante il processo.<\/p>\n Molti altri esempi si potrebbero portare. Ma qual \u00e8 il punto delicato della questione e che chiede un supplemento di attenzione. E\u2019 evidente che le tecnologie dell\u2019informazione (ICT), con le \u201ctecnologie emergenti e convergenti\u201d (nanotecnologie, biotecnologie, scienze cognitive\u2026), non sono solo strumenti. Esse trasformano il nostro modo stesso di vivere. E\u2019 qui il tema centrale. E\u2019 la comprensione di noi stessi che va affermandosi: la persona umana \u00e8 un \u201corganismo informazionale\u201d (inforg<\/em>), reciprocamente connesso con altri organismi simili ed \u00e8 parte di un ambiente informazionale (l\u2019infosfera<\/em>), che condividiamo con altri agenti, naturali e artificiali, che processano informazioni in modo logico e autonomo. Nella realt\u00e0 \u201ciperconnessa\u201d – nella quale siamo immersi – non ha pi\u00f9 neanche senso porre la domanda se si \u00e8 online<\/em> o offline<\/em>, perch\u00e9 attraverso la molteplicit\u00e0 di dispositivi con cui interagiamo e che interagiscono tra loro (spesso a nostra insaputa), sarebbe pi\u00f9 corretto dire che siamo onlife<\/em>: un neologismo che alcuni pensatori usano per dire l\u2019inestricabile intreccio tra vita umana e universo digitale.<\/p>\n Algocrazia e algoretica<\/em><\/p>\n All\u2019interno di questo scenario la domanda che ci poniamo \u00e8 la seguente: quale etica dobbiamo sviluppare per avere un impatto reale sulla tecnologia? Come evitare che l\u2019uomo venga tecnologizzato invece che la tecnica umanizzata? Come non diventare succubi della \u201calgocrazia\u201d, ossia del potere degli algoritmi? Bisogna evitare di assegnare un ruolo dogmatico e dirigistico sia alla gestione politica sia al liberismo tecnocratico dei \u201cdata\u201d. E questo \u00e8 possibile solo attraverso regole etiche che entrino nel processo della stessa tecnologia. Non \u00e8 sufficiente circoscrivere l\u2019attenzione al controllo dei singoli dispositivi, collegandolo in modo astratto e generico al rispetto dei diritti soggettivi, della dignit\u00e0 e di quei principi che la dottrina sociale della Chiesa sottolinea: dignit\u00e0, giustizia, sussidiariet\u00e0, solidariet\u00e0. Si tratta di punti di riferimento irrinunciabili. Ma la complessit\u00e0 del mondo tecnologico contemporaneo ci chiede di elaborarne una interpretazione che possa renderli effettivamente incisivi. Appare ormai chiaro che \u201cl\u2019umano\u201d \u00e8 condizionato in modo tale da \u201cassecondare\u201d il dispositivo di Intelligenza Artificiale, molto pi\u00f9 del contrario: \u00e8 il dispositivo stesso a plasmare l\u2019utente come \u201cdegno\u201d e \u201clibero\u201d di farne uso. Il feed-back caratteristico dell\u2019Intelligenza Artificiale \u00e8 appunto l\u2019alimentazione e la sofisticazione di questo meccanismo selettivo di conformit\u00e0 sociale al dispositivo. Si potrebbe perci\u00f2 parlare di \u201calgoretica\u201d, ossia di controllo della moralit\u00e0 degli algoritmi.<\/p>\n Questo \u00e8 possibile se si individua un modello di monitoraggio inter-disciplinare per un\u2019etica che sia presente nell\u2019intero percorso in cui intervengono le diverse competenze nell\u2019elaborazione degli apparati tecnologici (ricerca, progettazione, produzione, distribuzione, utilizzo individuale e collettivo). Mediazione ormai indispensabile, vista la capacit\u00e0 della strumentazione dell\u2019Intelligenza Artificiale di determinare vere e proprie forme di controllo e orientamento delle abitudini mentali e relazionali, e non solo di potenziamento delle funzioni cognitive e operative. Si tratta di elaborare un modello condiviso che consenta di esaminare dai diversi punti di vista le ricadute prevedibili dei singoli momenti del percorso. L\u2019obiettivo \u00e8 quello di assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nuova era aperta dalla Intelligenza Artificiale. \u00c8 questo un compito che richiede disponibilit\u00e0 al dialogo e alla collaborazione.<\/p>\n \u00a0<\/em>Una Call su IA e aspetti etici, educatici e giuridici<\/em><\/p>\n Il cammino di riflessione intrapreso dalla PAV, con accademici, membri della societ\u00e0 civile e aziende produttrici di queste tecnologie, ha portato alla elaborazione, come ho gi\u00e0 accennato, alla elaborazione di una Call che sar\u00e0 presentata e firmata durante la prossima Assemblea Generale di fine febbraio. La Call, dopo un preambolo che ne descrive la ragione, si declina in tre orizzonti tematici. Il primo riguarda l\u2019orizzonte etico<\/em>, un orizzonte basilare per la realizzazione delle condizioni della vita sia sociale sia personale, che permette tanto ai gruppi quanto ai singoli membri di adoperarsi per raggiungere possibilmente la piena espressione di s\u00e9.<\/p>\n Un secondo orizzonte, quello educativo<\/em>, per \u00a0costruire un futuro per e con le nuove generazioni. E\u2019 una responsabilit\u00e0 che va tradotta in un impegno educativo che sviluppi curriculum specifici e interdisciplinari tra materie umanistiche, scientifiche e tecniche, e sappia farsi carico della formazione delle nuove generazioni. L\u2019impegno deve tradursi nel contribuire a migliorare la qualit\u00e0 della formazione dei giovani. L\u2019accesso universale all\u2019educazione deve realizzarsi attraverso principi di solidariet\u00e0 e giustizia.<\/p>\n Un terzo ambito \u00e8 quello giuridico. <\/em>Lo sviluppo dell\u2019Intelligenza Artificiale per essere a servizio dell\u2019umanit\u00e0 e del pianeta deve tradursi in norme e principi che tutelino le persone, specialmente i deboli e gli ultimi, e gli ambienti naturali.<\/p>\n I firmatari che diventano di fatto anche i promotori di questa Call esprimono la loro volont\u00e0 a lavorare congiuntamente e si impegnano a promuovere una ricerca, uno sviluppo e un uso etico dell\u2019Intelligenza Artificiale.<\/p>\n Con la Call vorremmo avviare riflessioni e iniziative che contribuiscano a trasformare l\u2019innovazione tecnologica in un fattore di autentico sviluppo umano, per la promozione del bene comune. Oltre a quella parte di mondo accademico internazionale che si \u00e8 unita alla PAV in questo processo e alle due aziende, IBM e Microsoft, che sono coinvolte fin dall\u2019inizio del processo, si sono aggiunte due strutture pi\u00f9 politiche, la FAO e il Presidente del Parlamento europeo, che hanno condiviso con l\u2019Accademia alcune prospettive di fondo. La Call, frutto di una serie di contatti e dialoghi avuti in questi anni in una serie di iniziative e confronti internazionali, intende incidere su alcune tecnologie basate sul cloud computing e su servizi cognitivi avanzati (Watson e Azure per fare alcuni esempi) che vedono, le due aziende citate, come leader nella ricerca e nell\u2019applicazione. L\u2019intento della Call \u00e8 dar vita a un movimento che si allarghi e coinvolga altri soggetti: istituzioni pubbliche, ONG, industrie e gruppi per produrre un indirizzo nello sviluppo e nell\u2019utilizzo delle tecnologie derivate dall\u2019IA. Da questo punto di vista possiamo dire che la prima firma di questa Call non \u00e8 un punto di arrivo, ma un inizio per un impegno che appare ancora pi\u00f9 urgente e importante di quanto fin qui fatto.<\/p>\n Aderire a questa iniziativa comporta per le industrie che firmano un impegno che ha anche una rilevanza in termini di costi e di vincolo industriale nello sviluppo e nella distribuzione dei loro prodotti. Se l\u2019Accademia si sente chiamata a intensificare il proprio impegno per facilitare la conoscenza e la firma di altri soggetti, non di meno, la Call \u00e8 un primo passo che ne prelude altri.<\/p>\n Il testo della Call si caratterizza anche per essere un primo tentativo nel formulare un insieme di criteri etici con comuni riferimenti di valore, offrendo un contributo all\u2019elaborazione di un linguaggio comune per interpretare quanto \u00e8 umano. Il suo linguaggio ha il sapore tecnico e industriale per farsi ponte con le tradizioni umanistiche e con valori etici condivisi. La stessa insistenza sulla \u201cintelligenza\u201d, \u00e8 una scelta che enfatizza un termine che non \u00e8 per nulla neutrale, ma \u00e8 carico di valori e di una storia che non di rado ha conosciuto abusi e usi strumentali per giustificare rapporti di potere non sempre giusti. A partire da questo testo sembra comunque urgente sviluppare adeguate riflessioni che sappiano fornire al mondo dell\u2019educazione spunti e strumenti per preparare le nuove generazioni alle sfide che le attendono. L\u2019Accademia si sente chiamata ad approfondire l\u2019impatto specifico che queste tecnologie hanno sul mondo medico sanitario e sulla cura e tutela della vita. L\u2019attivit\u00e0 umana in questi settori appare sempre pi\u00f9 scomposta in molteplici elementi non facilmente riconducibili al controllo o alla volont\u00e0 di singoli soggetti. Questa nuova modalit\u00e0 in cui si svolge l\u2019agire personale in un contesto strutturato, sfida particolarmente le professioni mediche e sanitarie che hanno come oggetto valori cos\u00ec fondamentali come quelli connessi alla corporeit\u00e0 e alla vita umana. L\u2019innovazione tecnologica ci sfida anche come Chiesa, la PAV inizia cos\u00ec a prendere posizione e parte in un contesto storico e sociale in profonda e continua trasformazione.<\/p>\n Lima, Per\u00f9, 13 febbraio 2020<\/strong><\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" Siamo in un tempo di cambiamento di epoca, ama dire Papa Francesco, per sottolineare la peculiarit\u00e0 di questo inizio di millennio. E\u2019 passaggio inedito che incide profondamente nella storia dell\u2019umanit\u00e0. E\u2019 sufficiente ricordare che, per la prima volta nella storia dell\u2019umanit\u00e0, l\u2019uomo ha nelle sue mani il potere di distruggersi. Gi\u00e0 dagli anni Quaranta del […]<\/p>\n","protected":false},"author":2,"featured_media":25490,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[3,8],"tags":[],"class_list":["post-25635","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-interventi","category-news"],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/www.vincenzopaglia.it\/wp-content\/uploads\/2019\/12\/CNA_59d25b8a0a33a_136358_1-e1576153281905.jpeg?fit=500%2C334&ssl=1","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p5mkxU-6Ft","_links":{"self":[{"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/posts\/25635","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/comments?post=25635"}],"version-history":[{"count":1,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/posts\/25635\/revisions"}],"predecessor-version":[{"id":25636,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/posts\/25635\/revisions\/25636"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/media\/25490"}],"wp:attachment":[{"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/media?parent=25635"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/categories?post=25635"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.vincenzopaglia.it\/index.php\/wp-json\/wp\/v2\/tags?post=25635"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}