0
intelligenza artificiale studio UNESCO

Etica dell’intelligenza artificiale: lo studio dell’UNESCO

Nel periodo storico in cui stiamo vivendo, uno dei temi di maggior interesse e al centro di numerosi studi e analisi, riguarda l’Intelligenza Artificiale (AI). Si tratta di un fenomeno di fondamentale importanza, che ha numerose implicazioni in ogni aspetto della vita dell’uomo e delle società, all’interno delle diverse culture, nel campo della comunicazione, in materia ambientale, nella ricerca scientifica, nell’educazione, nella sanità, nella sicurezza, nei trasporti.

Di certo, l’IA è una tecnologia così complessa da dover essere valutata in ogni suo aspetto, considerandone gli indubbi benefici ma rilevandone certamente anche i rischi. Se da un lato, infatti, l’intelligenza artificiale ha il potenziale di trasformare il futuro dell’umanità in meglio alla luce di uno sviluppo sostenibile, dall’altro lato prevale la consapevolezza delle sfide ad essa associate in termini di ineguaglianza e di tutela dei diritti umani.

Molte delle preoccupazioni che sorgono quando si pensa all’AI spaziano dalla possibilità di frode, furto di identità, molestie e abusi sessuali, alla divulgazione di messaggi di odio, alla disinformazione, alla trasparenza degli algoritmi e all’impatto ambientale dovuto al consumo di energia. Per questi motivi, e anche visto e considerato che le tecnologie IA non sono neutrali ma naturalmente distorte dai dati e le scelte sulle quali sono progettate e quindi sull’imprevedibilità, è necessaria una profonda riflessione etica sull’utilizzo e le conseguenze di AI.

I dibattiti odierni mostrano che oggi, a livello globale, è necessario avere delle linee-guida che siano alla base dello sviluppo delle tecnologie AI. Ma dato che l’AI influenza diversi aspetti di una società, è necessario che più soggetti provenienti da ambiti diversi siano consapevoli dell’impatto etico che l’intelligenza artificiale indubbiamente ha sui vari aspetti sociali, culturali e scientifici della comunità.

È importante, quindi, elaborare uno strumento normativo in grado di regolare i cambiamenti apportati dalle tecnologie emergenti e di integrare i valori etici universali nei sistemi AI, che devono essere compatibili con i diritti umani universalmente riconosciuti ed essere improntati a una visione antropocentrica.

 

 

Come funziona una tecnologia AI?

Una delle particolarità dell’AI e ciò che suscita maggior preoccupazione riguarda la nostra scarsa familiarità con questa tecnologia nella misura in cui il modo in cui essa lavora risulta del tutto estranea e misteriosa agli esseri umani. Quindi, per avere le idee più chiare, è necessario innanzitutto cercare di capire in cosa consiste l’IA.

Per essere in grado di portare avanti i compiti della mente umana, una macchina AI deve essere in grado di percepire l’ambiente e raccogliere dati in modo dinamico, elaborarli e replicare, sulla base delle sue esperienze passate, i principi prefissati per poter prendere decisioni. In ogni caso, la tecnologia AI, come una standard ICT, è basata su:

  1. Dati dinamici: il sistema deve essere esposto ad ambienti mutevoli e a tutti i dati rilevanti acquisiti da vari scenari. Deve classificarli, conservarli, ed essere in grado di elaborarli tempestivamente;
  2. Elaborazione tempestiva: le macchine cognitive devono reagire tempestivamente. L’intelligenza artificiale deve avere capacità di calcolo e comunicazione affidabili, veloci e forti.
  3. Principi decisionali: il processo decisionale dell’intelligenza artificiale è basato su algoritmi di apprendimento automatico. Quindi, la sua risposta a un compito specifico dipende sulla sua “esperienza”, che si basa sui dati ai quali è stata esposta. Gli algoritmi dietro le decisioni prese dalle macchine cognitive sono basate su principi generali a cui l’algoritmo obbedisce e cerca di ottimizzare, una volta fornitegli i dati.

In cosa si differenzia l’AI dalle altre tecnologie? La maggior parte delle tecnologie del ventunesimo secolo sono basate su modelli. Al contrario, l’IA è costruito su un approccio basato sui dati.

Questo approccio basato sui dati è il cuore delle macchine di apprendimento che sono comunemente costituite da “reti artificiali neurali”. Queste ultime sono formate da una serie di nodi concettualmente simili ai neuroni del cervello interconnessi attraverso una serie di livelli.

I nodi del livello degli input ricevono informazioni dall’ambiente dove viene applicata una trasformazione non lineare. Questo sistema “impara” a portare avanti dei compiti considerando esempi, generalmente senza essere programmati con regole o modelli specifici. Un’altra caratteristica delle tecnologie AI è la loro scalabilità, ossia caratteristica principale per quanto riguarda l’abilità di IA di mostrare capacità simili a quelle dell’uomo. La performance delle macchine AI dipende dai dati ai quali sono esposti e per una migliore prestazione l’accesso ai dati rilevanti dovrebbe essere senza confini.

 

 

Gli ambiti rilevanti per l’intelligenza artificiale

Come già osservato, l’AI è un tema particolarmente rilevante per le questioni etiche che pone in essere in diversi ambiti e che necessitano di una menzione particolare.

In primo luogo, è bene citare le sfide che l’IA porta nel campo dell’educazione. Alcune forme di intelligenza artificiale, infatti, richiedono una nuova formazione dei dipendenti e un nuovo approccio nel formulare le qualifiche finali dei programmi educativi. Inoltre, il nuovo tipo di educazione impartita dovrebbe permettere ai cittadini di sviluppare nuove forme di pensiero critico, inclusa la consapevolezza degli algoritmi e l’abilità di riflettere sull’impatto di AI sull’informazione, la conoscenza e i processi decisionali.

Un’altra preoccupazione poi riguarda il ruolo dell’intelligenza artificiale nel processo educativo stesso in quanto elemento di ambienti digitali di apprendimento, robot educativi, e di sistemi per l’apprendimento analitico. Infine, anche gli ingegneri e gli sviluppatori di software dovrebbero essere formati in modo adeguato ad assicurare un progetto e una implementazione responsabile di AI.

Anche il campo della pratica scientifica viene notevolmente influenzato dalle nuove tecnologie. L’intelligenza artificiale può fare delle previsioni scientifiche basate su dati senza darci una spiegazione causale delle stesse perché i suoi algoritmi non lavorano attraverso gli stessi concetti semantici che adottano gli umani per raggiungere una comprensione scientifica di un fenomeno.

Questo gap tra le previsioni di successo da una parte e la comprensione scientifica soddisfacente dall’altra giocherà probabilmente un ruolo chiave nella pratica scientifica, come nei processi decisionali basati su AI. Ciò potrà avere anche implicazioni per la fiducia nella scienza, che è tipicamente basata sul metodo scientifico che spiega fenomeni differenti in modo sistematico e trasparente rendendo le sue previsioni razionali e basate sulle prove.

Andando avanti, nella scienza ambientale l’AI registra vantaggi e svantaggi. Si pensi, per quanto riguarda i primi, all’uso che si può fare di IA nell’elaborazione e interpretazione di dati nelle ricerche sul clima o i benefici dovuti a un miglior riciclaggio, ai processi di bonifica e ai più efficienti sistemi di consumo dell’energia, così come all’aumento della produzione dei raccolti e il benessere degli animali, i ridotti rischi di malattie.

Tuttavia, anche qui i benefici devono essere bilanciati con l’impatto ambientale di AI e delle tecnologie informatiche sul ciclo di produzione. Questo include le attività estrattive di materiali rari e l’energia per utilizzare queste macchine, per non parlare di tutto quel che riguarda il difficile smaltimento dei rifiuti elettronici.

I metodi di IA poi possono avere anche un grande impatto in molte aree quali quella legale e giudiziaria per aiutare il processo decisionale dei corpi pubblici amministrativi e legislativi; nella cultura e nell’arte dove possiamo notare sempre più collaborazioni tra gli algoritmi intelligenti e la creatività umana; o i cambiamenti apportati nel linguaggio in riferimento alle macchine di traduzione o nel giornalismo dove i sistemi algoritmici di news sui social media sono un esempio che fa emergere preoccupazioni in merito all’accesso alle informazioni, alla disinformazione (le note “fake news”), discriminazione, libertà di espressione, privacy.

Un’ulteriore preoccupazione poi emerge quando si pensa all’utilizzo dell’intelligenza artificiale nei sistemi di sicurezza o nelle missioni di pace dei paesi per il potenziale uso militare che se ne può fare.

IA è in grado di analizzare ed elaborare enormi quantità di dati di diversa natura idonei per identificare minacce interne ed esterne e suscita particolari preoccupazioni nel caso di armi totalmente autonome che possono decidere di attaccare indipendentemente dalla volontà dell’uomo. Anche la propaganda è un qualcosa che AI ha molto potenziato. La facilità nel rendere finte le voci, le immagini e le notizie e propagarle ad audience selezionati minaccia di influenzare e ridisegnare completamente l’opinione pubblica.

 

 

Quale strumento normativo?

Il Gruppo di lavoro sull’Etica dell’Intelligenza Artificiale della Commissione Mondiale sull’Etica delle Conoscenze Scientifiche e Tecnologiche (COMEST) ha preparato uno studio preliminare sulle implicazioni etiche dell’intelligenza artificiale che include anche la raccomandazione all’UNESCO di esaminare la possibilità di adottare uno strumento normativo in quest’area.

Una proposta avanzata riguarda l’adozione di una Dichiarazione sull’Etica dell’Intelligenza Artificiale, poiché nel 2018 si è registrato un elevato aumento di dichiarazioni sui principi etici di AI. Tuttavia, c’era una grande eteronomia nei principi e nell’implementazione dei valori promossi, quindi la domanda che sorge è: una eventuale Dichiarazione dell’UNESCO sull’Etica di AI dovrebbe permettere che questa eteronomia venga raggruppata sotto pochi principi guida che risponderebbero in una maniera comprensiva alle questioni etiche di AI?

Certamente sarebbe possibile ma il rischio sarebbe che durante il processo che porta alla Dichiarazione, gli Stati Membri si mettano sostanzialmente d’accordo su alcuni principi generali, astratti e non vincolanti, vista la natura dello strumento in oggetto.

L’altra ipotesi contemplata, invece, riguarda l’utilizzo della Raccomandazione come strumento più adeguato. A livello internazionale, europeo e nazionale per molti paesi c’è un passaggio verso forme simili di regolamentazione con rispetto all’economia digitale.

Le crescenti critiche mosse per quanto riguarda la scarsa trasparenza, le distorsioni e i modi di agire delle grandi società o la crescente sfiducia delle persone dovuta ai timori di cyber-attacchi stanno creando un nuovo clima politico che sta avendo un impatto sullo sviluppo di AI.

A livello europeo è presente un movimento di regolamentazione digitale sulla protezione dei dati che potrebbe essere esteso a livello internazionale e che potrebbe estendersi anche all’AI. Tuttavia, a questo livello, gli strumenti sono ancora in fase di sviluppo anche se la strategia dell’OECD è quella di enfatizzare gli aspetti economici delle tecnologie AI, in particolare su temi come quello della responsabilità, sicurezza, trasparenza e protezione.

L’approccio dell’UNESCO tramite una Raccomandazione sull’Etica di AI potrebbe essere un’alternativa complementare alla visione di governance economica. Il Gruppo di lavoro ritiene che l’UNESCO, proponendo una Raccomandazione, sarebbe in grado di distinguersi non solo in termini etici ma anche per via di specifiche proposte da parte degli Stati Membri che permetterebbe loro di intervenire maggiormente in quelle aeree che sono influenzate dallo sviluppo di AI come la cultura, l’educazione, la scienza e la comunicazione.

La raccomandazione, così, sarebbe composta da due dimensioni: la prima sarebbe l’affermazione di alcuni principi base di etica per AI; la seconda sarebbe abbozzare specifiche proposte per aiutare gli Stati a monitorare e regolare gli usi di AI nelle aree sotto il mandato dell’UNESCO.

Su proposta del Gruppo di lavoro, gli elementi che potrebbero essere inclusi in una eventuale Raccomandazione sull’Etica di AI sarebbero i seguenti: tra i principi, il rispetto dei diritti umani, l’inclusività, la prosperità, l’autonomia, la comprensibilità, la trasparenza, la consapevolezza e l’alfabetizzazione digitale, la responsabilità, la democrazia, la good governance, la sostenibilità; per quanto riguarda i risvolti etici, l’educazione, la scienza, la cultura, la comunicazione e informazione, la pace, l’Africa, il genere, l’ambiente.

1 Star2 Stars3 Stars4 Stars5 Stars (3 votes, average: 5,00 out of 5)
Loading...

Lascia un commento

Your email address will not be published.