diff --git a/doc/capitolo_2.rst b/doc/capitolo_2.rst index 4d04171..58f49b2 100755 --- a/doc/capitolo_2.rst +++ b/doc/capitolo_2.rst @@ -94,14 +94,14 @@ tutti campi che promettono grandi risultati, grazie alla capacità dell’Intelligenza Artificiale di immagazzinare ed elaborare molte informazioni sui pazienti, ma che al contempo richiedono sia un accurato controllo da parte delle comunità medica, sia una stretta osservanza -della privacy. +della privacy e delle norme etiche e deontologiche. [7]_ Qualcosa di molto simile sta accadendo anche nella scuola, dove sono già disponibili assistenti didattici artificiali in grado di seguire gli -studenti singolarmente, somministrando loro contenuti e nozioni -selezionati apposta per aiutarli a sviluppare al meglio le loro -capacità, per approfondire le loro conoscenze, oppure per recuperare il -divario dai compagni [7]_. +studenti singolarmente, proponendo loro contenuti e nozioni selezionati +apposta per aiutarli a sviluppare al meglio le loro capacità, per +approfondire le loro conoscenze, oppure per recuperare il divario dai +compagni [8]_. Questi strumenti possono essere utilizzati dalla Pubblica amministrazione per la formazione del personale, per la gestione delle @@ -111,14 +111,14 @@ Anche il settore della sicurezza può beneficiare dello sviluppo delle tecnologie di Intelligenza Artificiale. Per esempio, nell’ambito della sorveglianza, con i sistemi di *computer vision* e di *natural language processing* che possono processare grandi quantità di immagini, testi e -discorsi, per individuare eventuali minacce in tempo reale [8]_. Oppure +discorsi, per individuare eventuali minacce in tempo reale. Oppure nell’ambito della prevenzione dei disastri ambientali, dove è possibile operare simulazioni delle conseguenze dei fenomeni naturali, sia prima che questi si verifichino, sia durante il loro svolgimento, aiutando le -autorità a decidere come intervenire [9]_. Simili tecnologie possono -essere utilizzate anche dalle forze dell’ordine, per pattugliare le -città, in funzione dei dati continuamente aggiornati, legati ai crimini -commessi nelle varie zone e ad altre variabili significative. +autorità a decidere come intervenire. Simili tecnologie possono essere +utilizzate anche dalle forze dell’ordine, per pattugliare le città, in +funzione dei dati continuamente aggiornati, legati ai crimini commessi +nelle varie zone e ad altre variabili significative. +-----------------------------------------------------------------------+ | Box | @@ -129,9 +129,9 @@ commessi nelle varie zone e ad altre variabili significative. | pilotare un autobus, può mettere a repentaglio la vita di chi vi si | | troverà a bordo, così come la manomissione degli strumenti di | | sorveglianza di un luogo pubblico possono renderlo vulnerabile ad | -| attacchi, oppure la conoscenza, da parte di un *hacker*, del modello | -| utilizzato dall’Intelligenza Artificiale per la gestione dei dati | -| sensibili, può rendere questi dati insicuri. Per affrontare | +| attacchi, oppure la conoscenza, da parte di un *pirata informatico*, | +| del modello utilizzato dall’Intelligenza Artificiale per la gestione | +| dei dati sensibili, può rendere questi dati insicuri. Per affrontare | | efficacemente questi temi, è necessario mettere in campo diverse | | soluzioni, alcune tecniche, altre di carattere più generale, | | sensibilizzando i cittadini e le amministrazioni. Da un punto di | @@ -139,7 +139,7 @@ commessi nelle varie zone e ad altre variabili significative. | garantiti alcuni standard, sia per la sicurezza dei dati di cui si | | nutrono gli algoritmi, sia per la sicurezza degli algoritmi stessi, | | imponendo che, per la loro implementazione, venga sempre seguito il | -| paradigma *security by design* [10]_. | +| paradigma *security by design*\ [9]_. | +-----------------------------------------------------------------------+ Infine, anche i decisori pubblici possono servirsi di algoritmi @@ -148,7 +148,7 @@ sulle risorse disponibili nelle aree disagiate, oppure sull’andamento dei vari settori - sanitario, giudiziario, scolastico, agroalimentare, etc. -, al fine di ottenere una visione più chiara delle scelte che devono o che vogliono compiere. È possibile, come si sta sperimentando -in Giappone [11]_, che il personale degli uffici pubblici risponda in +in Giappone [10]_, che il personale degli uffici pubblici risponda in maniera personalizzata a tutte le richieste dei cittadini, servendosi di strumenti di Intelligenza Artificiale adeguatamente istruiti, che producono automaticamente i contenuti da inviare. @@ -159,7 +159,7 @@ di opzioni che includono il miglioramento qualitativo dei servizi e la riduzione dei costi per il loro esercizio. Le potenzialità dell’IA nella Pubblica amministrazione ------------------------------------------------------- +====================================================== Le potenzialità dell’Intelligenza Artificiale per la Pubblica amministrazione sono molteplici. Tuttavia la comunità scientifica e @@ -167,19 +167,19 @@ l'opinione pubblica evidenziano alcune criticità che vanno tenute in conto al fine di prevenire effetti distorti nell’applicazione di questi strumenti e tecnologie. -Con riferimento ai sistemi di apprendimento automatico (machine -learning) accade già oggi che sia i dati di cui un’IA si nutre sia gli -algoritmi da cui è composta producano *bias* [12]_ - interpretazioni -distorte delle informazioni in possesso - inficiando i “ragionamenti” e -inducendola in errore [13]_. +Con riferimento ai sistemi di apprendimento automatico (*machine +learning*) accade già oggi che sia i dati di cui un’IA si nutre sia gli +algoritmi da cui è composta producano *bias*\ [11]_ - interpretazioni +distorte delle informazioni in possesso - inficiando i +“ragionamenti” [12]_ e inducendola in errore. Fare previsioni con strumenti progettati in modo inadeguato non può che portare a decisioni sbagliate e, in molti casi, anche eticamente -scorrette [14]_. +scorrette [13]_. Inoltre, è bene sottolineare che allo stato attuale l’Intelligenza Artificiale è in grado di portare a compimento, con una certa -precisione, un ristretto numero di attività cognitive [15]_ riferite a +precisione, un ristretto numero di attività cognitive [14]_ riferite a specifici ambiti settoriali, mancando generalmente di conoscenze di sfondo (*background knowledge*). @@ -204,7 +204,16 @@ La PA potrà, inoltre, avvalersi delle metodologie e delle tecnologie di IA per supportare la razionalizzazione e l’integrazione delle proprie basi dati, in una prospettiva di interoperabilità semantica che renda più semplice circolazione delle informazioni tra le amministrazioni a -beneficio degli utenti finali [16]_. +beneficio degli utenti finali [15]_. + +L’enorme patrimonio di conoscenza generata e raccolta nel tempo in tali +basi di dati è spesso “invisibile”, perché destrutturato, disperso in +molteplici archivi e in gran parte nella memoria delle persone piuttosto +che dell’organizzazione. Rendere visibile la “conoscenza invisibile” è +uno dei potenziali e più promettenti ambiti di applicazione della IA +nella PA con soluzioni in grado di leggere e comprendere e classificare +i contenuti dei documenti e delle relazioni prodotte in decenni per +arrivare a ottenere le informazioni più rilevanti. L’IA inciderà anche nella ridefinizione del rapporto tra pubblico e privato in un’ottica di maggiore trasparenza attraverso @@ -212,8 +221,8 @@ l’implementazione delle pratiche di *e-procurement*. Tra gli ambiti che nel prossimo decennio trarranno beneficio dalla rivoluzione IA ci sarà, infatti, proprio quello degli acquisti pubblici. -**Qui saranno inserite schede di termini tecnici estratti dal glossario per -una migliore lettura del resto del documento.** +**Qui saranno inserite schede di termini tecnici estratti dal glossario +per una migliore lettura del resto del documento.** .. discourse:: :topic_identifier: 748 @@ -221,125 +230,67 @@ una migliore lettura del resto del documento.** .. rubric:: Note .. [1] - *Artificial Intelligence and life in 2030*, One hundred year study on - Artificial Intelligence, Stanford University, 2016, p. 5 (*Cfr*. - `https://ai100.stanford.edu/2016-report `__). + *Cfr. “Artificial Intelligence and life in 2030, One hundred year + study on Artificial Intelligence*\ ”, Stanford University, 2016, p. + 5. .. [2] Si pensi al computer Hal9000 di *2001 Odissea nello spazio* (Kubrick, 1968) o al robot sterminatore di *Terminator* (Cameron, 1985). .. [3] - *Artificial Intelligence and life in 2030*, One hundred year study on - Artificial Intelligence, Stanford University, 2016, p. 9. Si veda - anche - `https://www.eff.org/it/ai/metrics `__. + *Cfr*. box di approfondimento in “I principali ambiti di + applicazione”. .. [4] - *Cfr*. Hila Mehr, *Artificial Intelligence for Citizen Services and - Government*, Harvard Ash Center for Democratic Governance and - Innovation, 2017. + *Cfr. “Artificial Intelligence and life in 2030, One hundred year + study on Artificial Intelligence*\ ”, Stanford University, 2016, p. + 9. .. [5] - Medici che, ad esempio, si potrebbero trovare a favorire la conferma - della diagnosi "della macchina" per evitare attribuzioni di - responsabilità potenzialmente pericolose per la propria professione. + *Cfr*. Hila Mehr, “\ *Artificial Intelligence for Citizen Services + and Government*\ ”, Harvard Ash Center for Democratic Governance and + Innovation, 2017. .. [6] - Si cita il caso del team di ricercatori dell’Università di Bari che - ha sviluppato un algoritmo che permette di identificare i piccoli - cambiamenti strutturali provocati dall’Alzheimer una decina di anni - prima che i sintomi si manifestino (*Cfr*. - `www.uniba.it/ateneo/rettorato/ufficio-stampa/comunicati-stampa/2017/alzheimer `__) - oppure “Watson for Oncology” di IBM, immaginato come vero e proprio - assistente degli oncologi nella lotta contro i tumori (*Cfr*. - `https://www.ibm.com/watson/health/oncology-and-genomics/oncology/ `__). + Vedi “\ *Watson for Oncology*\ ” di IBM, immaginato come vero e + proprio assistente degli oncologi nella lotta contro i tumori. .. [7] - Si sta parlando di *Intelligent tutoring systems* (Cfr. - `https://www.techemergence.com/examples-of-artificial-intelligence-in-education/ `__, - `http://www.lastampa.it/2017/06/15/multimedia/tecnologia/woogie-lassistente-robot-che-aiuta-i-bambini-a-studiare-e-non-solo-ZlrNV7rKtt3MqoKZ54U3uM/pagina.html `__) + Ad esempio il paradosso dell’automazione: il medico potrebbe dare + eccessiva fiducia alla macchina (che nel suo vissuto psicologico “non + sbaglia mai”) e non assumersi la responsabilità di una diagnosi + diversa da quella della macchina (che potrebbe essere errata, + eventualmente per colpa di un bug, un errore del sistema). .. [8] - Si pensi al nuovo sistema di riconoscimento facciale che entrerà in - funzione la prossima estate all'aeroporto di Dubai. Un sistema che - sostituirà i controlli di frontiera con una tecnologia basata sulla - rilevazione biometrica effettuata da 80 telecamere opportunamente - posizionate all'interno di un tunnel - sulle cui pareti saranno - proiettati dei video immersivi - nel quale tutti viaggiatori verranno - invitati a passare dopo essersi identificati con il proprio volto e i - propri documenti presso dei totem installati nello scalo (soluzione - di IA presentata lo scorso anno alla `Gulf Information Technology - Exhibition - GITEX `__, fiera dell'hi-tech e - sicurezza che si tiene annualmente a Dubai. *Cfr*. - `https://www.gitex.com/ `__). + *Cfr.* + http://www.lastampa.it/2017/06/15/multimedia/tecnologia/woogie-lassistente-robot-che-aiuta-i-bambini-a-studiare-e-non-solo-ZlrNV7rKtt3MqoKZ54U3uM/pagina.html. .. [9] - Un esempio sono le simulazioni degli effetti dei tornado e di altri - eventi naturali, insieme all'elaborazione dei dati prodotti dalle - centraline di raccolta durante gli eventi stessi, soluzioni che hanno - coadiuvato in molti casi le autorità a prendere decisioni rispetto a - dove e come intervenire. - -.. [10] In sostanza, questo paradigma prevede che la sicurezza venga perseguita già al momento del design delle banche dati e degli algoritmi di Intelligenza Artificiale. -.. [11] +.. [10] Hila Mehr, *Artificial Intelligence for Citizen Services and Government*, Harvard Ash Center for Democratic Governance and Innovation, 2017, p. 8. +.. [11] + *Cfr*. “\ *Bias and inclusion*\ ”, AI NOW 2017 Report, p. 14. + .. [12] - Il termine “bias” (lett. “pregiudizio”) ha molteplici significati. In - ambito statistico, così come è utilizzato in molte applicazioni di - machine learning, il "bias" ha un significato diverso da quello - popolare e sociale/scientifico. Ad esempio, l'idea di "selection - bias" si riferisce ad errori di stima che vengono a determinarsi - quando alcuni membri di una popolazione hanno maggiori probabilità di - essere campionati rispetto ad altri. Quando un programma di - apprendimento automatico è addestrato a riconoscere, per esempio, i - volti di una razza particolare e viene in seguito applicato a - popolazioni più vaste o semplicemente differenti, può produrre - risultati distorti e avere una misura inferiore di precisione. La - parola "bias" ha poi significati normativi sia nel linguaggio - colloquiale che giuridico, dove si riferisce ad un giudizio basato su - nozioni o pregiudizi, in contrasto con un valutazione imparziale dei - fatti (*Cfr*. AI NOW 2017 Report, p. 14 “*Bias and inclusion*” - - `https://ainowinstitute.org/AI_Now_2017_Report.pdf `__). - - Per esempio, tecniche di elaborazione del linguaggio naturale formate - su un corpus di scrittura estratto dal web degli gli anni '90 possono - riflettere associazioni di parole stereotipate e ormai non più - attuali: la parola "femmina" potrebbe essere infatti associata a - "receptionist". Se modelli costruiti con tali assunti logici vengono - usati per prendere decisioni in campo educativo o nel mondo del - lavoro, ad esempio in tema di assunzioni, ecco che ci si trova di - fronte a un caso in cui le disparità esistenti possono essere - addirittura rafforzate, a prescindere delle intenzioni o dalle - conoscenze dei progettisti del sistema (*Cfr*. AINOW 2017 Report, p. - 4 “Bias and inclusion”). + *Cfr.* box di approfondimento in “Prevenire le diseguaglianze”. .. [13] - Ci sono molti casi di applicazioni di Intelligenza Artificiale che - possono riprodurre i pregiudizi sociali di chi le ha addestrate o di - chi le ha programmate, stabilendo ad esempio che è preferibile - presentare offerte di lavoro più remunerative agli uomini piuttosto - che indirizzarle alle donne, perché di solito sono i primi ad avere - gli stipendi più alti, oppure che è preferibile offrire un prestito a - un maschio bianco di un determinato quartiere piuttosto che a uno - nero di un altro, oppure ancora che non è saggio offrire la libertà - vigilata ad alcuni detenuti appartenenti a gruppi etnici particolari, - perché solitamente la loro recidività è molto alta. + *Cfr*. “Sfida Etica”. .. [14] - Si rimanda per una trattazione più dettagliata alla Sfida 1 “Etica”. - -.. [15] Per approfondimenti - `https://hbr.org/2016/11/what-artificial-intelligence-can-and-cant-do-right-now `__. + https://hbr.org/2016/11/what-artificial-intelligence-can-and-cant-do-right-now. -.. [16] - *Cfr*. Il modello di interoperabilità del Piano Triennale: +.. [15] + *Cfr*. Il modello d’interoperabilità del Piano Triennale: https://pianotriennale-ict.italia.it/interoperabilita. +