Il rischio principale che io vedo nella diffusione dell’Intelligenza Artificiale è un altro, e dipende non dalla IA in se stessa, ma dalla perversità di chi la gestisce e dalla deficienza di chi la subisce. Come al solito, la science fiction se n’è accorta prima di tutti. Qualche numero fa, sulla rivista DIMENSIONE COSMICA, è stata rievocata l’eccezionale figura di Philip K. Dick, pubblicando fra l’altro integralmente una sua lettera. Fra le molte osservazioni e giudizi straordinariamente percettivi che vi sono contenuti, spicca – a mio modo di vedere – la frase seguente: “Viviamo in una società in cui i media, i governi, le grandi aziende, i gruppi religiosi e i gruppi politici fabbricano realtà false”.
Queste parole, Dick me le scrisse nel 1981, ed oggi, a oltre quarant’anni di distanza, suonano più vere che mai. Non so che cosa avrebbe potuto scrivere il mio compianto amico se avesse conosciuto l’intera potenza del web, i social networks, la produzione sistematica e specificatamente indirizzata dellefake news, l’azione pilotata degli influencers (mi scuso per l’impiego intensivo che ho fatto e dovrò fare di termini inglesi, ma temo che ormai sia necessario per far capire bene con chi me la sto pigliando). Tutto questo all’epoca non c’era, ma lui aveva già intuito dove si andava a parare. Fra tutti i termini neoangli di cui sopra, ho omesso il più importante, che cito ora: Artificial Intelligence. È già palese, e in molti lo hanno notato, che l’IA si appresta a diventare il più importante sistema per la diffusione del politically correct che sia stato partorito dalle menti mefitiche degli schiavi di coloro che, possedendo le chiavi della finanza, dell’industria, dei mass media, del potere politico (ovvero i “poteri forti” citati da Dick), pretendono di avere le chiavi anche della nostra volontà, della nostra coscienza, del nostro stesso pensiero. Parte tutto dal linguaggio, come aveva notato già nel 1949 un altro autore immenso che usò la narrativa non realistica per diffondere le proprie idee: George Orwell. Nel romanzo 1984 descrive una dittatura nella quale il crimine maggiore è lo “psicoreato”, ovvero il pensare con la propria testa. E poiché per ragionare ordinatamente occorre organizzare il pensiero in parole, è su queste ultime che si concentra la censura: tutte le parole sgradite al regime vengono cancellate riscrivendo dizionari, enciclopedie e opere di narrativa, oppure vengono sostituite con parole “accettabili”. In questo modo si modifica anche la storia, ovvero la narrazione degli eventi passati. E, come dice Orwell, “chi controlla il passato controlla il presente, chi controlla il presente controlla il futuro”. Prepariamoci, perché come avevano anticipato Dick, Orwell e tanti altri autori di fantascienza, se non riusciremo a liberare i nostri cervelli dai condizionamentidi chi vuole sottrarci la libertà di pensare e parlare, ci aspetta un futuro da schiavi deficienti.
3D rendered digital human head outlined with neon contour lines that resemble a fingerprint’s unique swirls, against a deep blue background.
Concept of digital identity and security, blending the human element with the precision of technology.
Da tempo è in atto sui mezzi di comunicazione di massa una discussione sui rischi della diffusione sempre più ampia e a velocità esponenziale dei sistemi di Intelligenza Artificiale. Le preoccupazioni che vedo emergere a livello non di esperti ma di opinione pubblica, espressa attraverso stampa e televisione, è che le criticità siano due: 1) il rischio di perdere un altissimo numero di posti di lavoro, con conseguenti turbative sociali, perché l’IA potrebbe sostituire gli esseri umani in molte di quelle attività che una volta si definivano “di concetto”; 2) il rischio inerente all’affidare un gran numero di decisioni, via via più importanti, non ad esseri umani ma a computer. Personalmente, non mi pare che siano questi i principali motivi di preoccupazione. Il rischio 1) si è già presentato più volte nel corso della storia umana. È famosissima la crisi dei lavoratori tessili tra fine Settecento e inizio Ottocento in seguito all’invenzione dei telai meccanici, resa celebre dal (probabilmente leggendario) Ned Ludd che, distruggendone un paio a martellate in una crisi di rabbia, diede vita al movimento dei Luddisti, come vennero poi chiamati i sabotatori delle innovazioni di ogni tipo. Ma, oltre ai dipendenti delle filande, che ne è stato con la diffusione dell’automobile degli allevatori di cavalli, i cocchieri, gli stallieri, i fabbricanti di selle e briglie, i distributori di fieno e così via? Che ne è stato, dopo l’invenzione della macchina da scrivere, dell’immensa legione dei Policarpo De’ Tappetti, ovvero gli “ufficiali di scrittura” incaricati presso le istituzioni pubbliche e private di redigere in bella e soprattutto leggibile calligrafia i documenti pubblici e privati, dalle leggi dello Stato ai contratti fra cittadini,che dovevano essere vergati secondo regole calligrafiche codi-ficate per non essere soggetti aerrori d’interpretazione? E quali drammatiche conseguenze ha portato nella società (a parte la riduzione dei sindacati a teatrini delle marionette) l’ingresso dei robot nelle catene di montaggio al posto dei metalmeccanici umani? Si dirà che quelli citati sono cambiamenti di portata ben inferiore a quelli che si paventano in seguito all’ingresso della IA nel sistema lavorativo. È vero, ma è vero anche che la società di oggi è ben più ampia e complessa rispetto a fine Settecento (telai meccanici), fine Ottocento (automobile e macchina da scrivere), anni Sessanta del secolo scorso (robot nelle fabbriche). Il mondo è molto più diversificato, la mobilità è immensamente maggiore, le compensazioni sociali sono più diffuse. E comunque bisogna rassegnarsi al fatto che non si può accettare il futuro senza perdere parte del passato. Quanto al rischio di delegare le decisioni che devono essere prese con la ragione umana a una macchina che non ragiona ma compila statistiche, è anche questo un rischio contenuto: si dovrà semplicemente elaborare un sistema di controlli adeguato. Del resto, già oggi le decisioni importanti vengono sottoposte a controllo, anche quelle dei politici (almeno nelle democrazie) da parte degli elettori. Soltanto i magistrati, in alcuni Paesi, possono sbagliare provocando tragedie e fare lo stesso carriera senza problemi, per fare sbagli sempre peggiori.
Digital generated image of multicolored particles forming eye shape against black background.
Questo articolo inaugura una miniserie di altri tre articoli successivi, dedicati all’intelligenza artificiale. L’articolo originale è apparso intero su DIMENSIONE COSMICA a firma Sebastiano Fusco.
All’inizio degli anni Sessanta del secolo scorso, quando ero studente d’ingegneria elettronica, i programmi relativi all’IA si chiamavano sistemi esperti (in ambito accademico il concetto di “intelligenza artificiale” era accuratamente evitato perché troppo fantascientifico). Il loro nome derivava da due considerazioni. In primo luogo, perché le loro serie di regole li rendevano in grado di risolvere problemi che potevano essere affrontati soltanto da tecnici esperti di un determinato settore; in secondo luogo, perché“imparavano” dalla loro stessa esperienza: cioè, le regole potevano essere aggiornate in base alla maggiore o minore efficacia riscontrata nella risoluzione dei problemi. In altre parole, più dati “macinavano” questi sistemi, più imparavano e potevano risolvere problemi sempre più complessi facendo sempre meno errori. Erano in grado cioè di aggiornare facilmente i loro passaggi logici in base all’esperienza. Cosa che agli esseri umani riesce molto spesso alquanto difficile se non addirittura impossibile: pensiamo a quante volte le nostre radicate ideologie ci impediscono di guardare in faccia obiettivamente la realtà. In quegli anni io studiavo automazione del calcolo, e con quei sistemi – alquanto rudimentali rispetto a quelli di oggi – avevo per forza di cose una certa dimestichezza. Come tutti mi rendevo conto che il limite principale alle loro capacità era posto dalla potenza di calcolo (numero di operazioni eseguibili in un secondo) dei computer su cui erano implementati. All’epoca in cui io tentavo di imparare qualcosa sui computer, questi ultimi erano grandi quanto un intero piano di un grosso edificio, ma avevano una potenza di calcolo inferiore a quella del chip che gestisce il telefonino che oggi portiamo in tasca. La tecnologia, grazie soprattutto allo sviluppo dei circuiti integrati, ha poi cambiato rapidamente le cose. Personalmente, ho avuto il privilegio di poter assistere da vicino all’evolversi dell’informatica non soltanto grazie a ciò che avevo studiato, ma anche perché, essendomi dedicato alla divulgazione scientifica, ero in contatto con molti dei protagonisti di tale evoluzione.
In particolare con Roberto Vacca, grande ingegnere, grande matematico e grande scrittore di fantascienza, che è stato uno dei più assidui collaboratori delle riviste che nel tempo mi hanno incaricato di dirigere. È stato lui, soprattutto, a chiarirmi uno dei concetti di base: parlare di “intelligenza” in rapporto con questi sistemi, è improprio. Un programma di IA non è “intelligente”, perché gli manca la principale delle funzioni che caratterizzano l’intelligenza umana: la creatività. Un sistema esperto non “crea” nulla, non“immagina” nulla, non “inventa”nulla: si limita a restituire ciò che è stato immagazzinato nei suoi banchi di memoria, in base a regole che gli sono state imposte e secondo una gerarchia di priorità definita dalla frequenza statistica con cui determinate parole emergono e sono collegate con altre parole nell’immenso oceano di informazioni che ha assorbito dalle “letture” selezionate per questo da chi ha addestrato il sistema stesso. Questa considerazione è fondamentale, perché fa capire che i sistemi di Intelligenza Artificiale possono essere impostati in modo tale da obbedire a direttive ideologiche predefinite. Manca loro infatti un’altra caratteristica essenziale dell’intelligenza umana, oltre alla creatività: ovvero, sono privi di libertà di pensiero. Non conoscono il libero arbitrio, ma fanno soltanto ciò che gli è stato chiesto di fare. Se chiediamo loro qualcosa, non “ragionano” per fornirci la risposta più opportuna, ma si limitano a restituirci quella statisticamente più frequente in base ai testi che sono stati loro somministrati. Non solo: adeguano la risposta alle regole “etiche” che sono state inserite nel loro stesso linguaggio di programmazione, già a livello di codice, da chi li ha allestiti.
Scrive l’enciclopedia del sapere libero e universale, alias Wikipedia: Dicesi carta carbone una carta rivestita su un lato da uno strato di inchiostro asciutto, di solito unito a della cera, che era utilizzata per creare una o più copie di un documento durante la scrittura dello stesso. Viene chiamata più propriamente carta copiativa, in quanto se ne distinguono vari tipi e non tutti creano copie del colore nero tipico del carbone. Ti ricordi quanta ne usavamo? A scuola no perché la penna biro non era stata ancora inventata. In ufficio, anni dopo, con le macchine da scrivere manuali e poi elettriche, non c’era ufficio che non ne fosse provvisto. E anche a casa, perche dovevi assolutamente avere tre copie di un documento o di una lettera originale che con l’andare del tempo via via impallidiva, parlo dell’ultimo foglio quasi illeggibile, non potevi certo premere troppo rischiando di lacerare la carta per avere nitido anche l’ultimo foglio, che così sembrava scritto con la matita.
Che fine ha fatto la carta carbone? Triste fine visto che nostra sorella Wikipedia conclude con: Oggi, la carta carbone è caduta quasi in totale disuso. È stata largamente soppiantata da dispositivi elettronici come le fotocopiatrici, che permettono la copia di documenti in maniera più veloce e agevole. Inoltre, ha anche contribuito alla diffusione dei personal computer e delle stampanti negli uffici. Le moderne tecnologie hanno eliminato anche l’impiego di carta carbone manuale da tutti gli studi professionali. La utilizzano ancora taluni artigiani e chi si diletta con il bricolage. Non è che la carta carbone sia importante come cosa in sé, ti sporcavi anche le mani se premevi troppo i polpastrelli su quella serica funebre superficie che via via si consumava, se vogliamo dire, la carta carbone, come altri oggetti di consumo e strumenti di uso comune sono stati assorbiti dalla macchina che fa le cose meglio, che è assai più veloce, che crea copie perfette “inossidabili” per così dire, e che non sbiadiscono nel tempo. La carta carbone, come la penna, il pennino, l’inchiostro, la cornetta del telefono, la carta da scrivere e perché no? busta e francobollo servivano una utenza che, per comunicare verbalmente e oralmente, si affidava alla manualità, al gesto, all’oggetto, alla sua fisicità; ti ricorderai senz’altro della sferragliante rumoreggiante telescrivente, un’altro dinosauro sulla strada dell’affinamento per poi essere soppiantata dall’attestarsi delle nuove tecnologie, e come dimenticare il telefax: mandami un fax, dammi conferma via fax,senza fax l’ordine non passa, tutto via fax per mostrare evidenze (spesso contraffatte). Cosa? Cosa sono? Chi le conosce ormai quelle vecchie cose? Ottuse e assorbite nel grande imbuto della rete e delle rampanti nuove tecnologie, nonché dalla fuorviante frenetica sbornia dei social, dall’inconsistenza e dalla superficialità della comunicazione odierna, me la passi l’espressione? Non arrabbiarti, anche tu, come me, sei coinvolto in questo modo di comunicare. La carta carbone rientrava nel grande bacino dell’artigianalità, della manualità, degli oggetti fisici che si consumavano via via con l’uso, la mail che già è una roba antica oggi, rappresentava il futuro remoto per quei tempi. Tornando alla carta carbone, se non mettevi per bene e ben disteso il foglio veniva fuori un pasticcio illeggibile. E se il foglio era stato usato troppe volte: idem. La macchina ci sostituisce o meglio ci ha sostituito fino a ieri, e adesso? Adesso basta un click, un pulsante, un iPhone, una presa di corrente…appunto e se non ce l’hai la corrente? Hai la batteria. E se non funziona la batteria per i fatti suoi? Sei alle prese con una tecnologia che ti esclude perché incomprensibile, lo sai te come funziona un cellulare e lo sapresti riparare? Qualcosa a cui sei estraneo a meno che tu non sia un tecnico specializzato. il gioco è fatto. Ti han tagliato fuori. Ci hanno tagliato fuori. Lo scriba comunicava sempre e comunque, il monaco che copiava antichi testi anche, e così lo scrittore, lo storico, il poeta, lo scolaro prima dell’avvento della tecnologia che tutto fagocita e trattiene in sé, loro comunicavano e duplicavano i loro scritti. Senza problemi. Ti faccio un esempio: Se sei in mezzo al deserto o nella jungla e ti viene voglia di comunicare cosa fai? Col cellulare, l’iPhone, ma se l’hai appena scaricato e la jeep risulta sprovvista di presa che fai? Ma perchè devo andare nel deserto? dirai. Giusto, non fa una grinza. È solo per dirti che le nuove tecnologie pensano solo a sé stesse, sono egoiste, non pensano a te e alle condizioni in cui ti trovi, e se non c’è corrente elettrica apriti cielo. Ma non divaghiamo. Per quelli che, come me, hanno usato la carta carbone per anni di seguito non è una grossa perdita, non c’è nostalgia, intendo, è una cosa che non c’è più e basta, ma una sottile vena di inquietudine ce l’ho. Se penso che le tue mani, la capacità di arrangiarti comunque con mezzi semplici e alla portata di tutti è sparita perché inutile e antidiluviana, devi adattarti, si fa più in fretta; meglio se ti affidi al sistema. E invece no. Sarà l’oggetto che salverà il mondo, le tue mani, la tua fantasia, il modo che hai di sbrigartela comunque e cavartela perché aguzzi l’ingegno, con o senza tecnologia. Non la macchina o il virtual, e nemmeno il social, (non voglio fare l’apocalittico o il troglodita ma ho più fiducia nella mazza, nella scure, nella zappa, ecc.) La carta carbone non è del tutto sparita, essa resiste ancora in qualche bollettario di consegna e invio merce e nel blocchetto di ricevute di qualche drogheria di alta montagna. Faccio per dire. Pelikan, che la sa lunga su prodotti di consumo e utensili di scrittura, su: Chimica on line la pubblicizza ancora. Non ne sono sicuro ma dietro qualche bacheca di museo devono avercela collocata la carta carbone. Vado a controllare e poi ti dico.
Ti ricordi quando, mezzo secolo fa, le scrivevi lunghe lettere d’amore fino a farti indolenzire la mano? Carissima, ti penso sempre con affetto crescente, e non vedo l’ora di rivederti…Sceglievi un pennino nuovo, con la punta morbida. Così ti sembrava che il messaggio scorresse più fluido, e che le parole fossero più convincenti. Fantasie, certo, ma era l’impressione che contava. Quello che preferivi era fatto a forma di cuore, brunito, flessibile, scricchiolava sulla carta. Nella cartoleria di fronte alla scuola facevano bella mostra, tutti in fila, i pennini. Quello più flessibile, quello rigido, azzurrato addirittura, alcuni scolpiti, ma quelli erano da collezione.
Degni del negozio di un antiquario. Ce n’erano di super rigidi, d’acciaio. Tutti recavano un forellino per lasciare scendere l’inchiostro. E le boccette dell’inchiostro Pelikan, blu, nero, e perfino verde e rosso, e di altri colori, te le ricordi? Se eri diligente avevi sottomano la carta assorbente, per evitare irreparabili sbavature, quella bianca e spessa era la migliore. Comunque c’era sempre la gomma in tuo aiuto, ma si vedeva che avevi grattato. Attento a non grattare troppo, puoi fare un buco! e allora dovevi rifare tutto daccapo! La carta assottigliata avrebbe comunque denunciato il misfatto. Troppe cancellature non erano ammesse. Guardavi soddisfatto le tue dichiarazioni d’amore, mentre asciugavano lentamente fra le righe del foglio. Ti ricordi quando intingevi il pennino nelll’inchiostro? Ti macchiavi sempre l’anulare, sempre quello.
Ti ricordi quando arrivava la bidella col grembiule nero, che passava fra i banchi con l’ampolla dal beccuccio sottile e ricurvo, a riempire i calamai? Fermi e composti, se no succedeva il disastro e la bidella avrebbe versato l’inchiostro dove non doveva. Ci voleva perizia a versarlo, arrivata all’ultimo banco senza intoppi tirava un respiro di sollievo. Compiti, lettere, semplici biglietti di invito. Scrricch! faceva la punta di metallo sulla carta. A volte l’inchiostro stentava, il pennino era troppo nuovo. Ci mettevi del tuo a scrivere, era una attività più complessa delle apparenze, la tua calligrafia rifletteva il tuo umore, e se eri calmo o nervoso. Anni avevano impiegato i maestri a insegnarti come tenere la penna in mano. Tu, bambino, bambina, col colletto di plastica, bianco e rigido, o il fiocco e poi le palline che descrivevano la tua età. Ti ricordi quando rosicchiavi la punta dell’asticciola perché non ti veniva in mente subito quanto faceva la sottrazione: tredici meno sette. Quanto fa? Quanto fa? Ti ricordi quando capivi a colpo d’occhio chi ti stava scrivendo dalla calligrafia sulla busta? E di quando innestavi l’altro pennino d’acciao, più rigido di quelli bruniti, scivolava via sulla carta senza scricchiolii, era un pennino più “serio”, non c’era da scherzare con quello. Munito di stilo e rotolo di papiro, scolaro nell’antico Egitto e poi allievo nella scuola dei Greci e dei Romani, e infine amanuense, monaco benedettino, che, in bello stile, produceva capolavori miniati trascrivendo preziosi manoscritti del passato. Caro amico ti scrivo come recita Lucio Dalla nella sua bella canzone. Quanti proclami d’amore, e laconici addii e inviti imploranti, scritti col pennino intinto nell’inchiostro. Non c’era altro modo di comunicare, a parte la macchina da scrivere, ma quel modernissimo aggeggio ancora in pochi se lo potevano permettere.
Ti avevano insegnato la scrittura, a tenere la penna in mano, e quello dovevi imparare, l’arte antica di comunicare attraverso segni, disegni, lettere, cifre e simboli. La scrittura diventava parte di te. Un’arte, una dedizione, una passione. Ma non dovevi raggiungere la perfezione e il fascino sprigionato da certi codici miniati. No, solo “belle lettere”: un piacere scriverle, un piacere leggerle. La bella calligrafia: La penna e la parola devono servire all’umanitàper portare un raggio di luce piùbrillante alla coscienza umana per portare un rivolo di più al grande oceano delle idee. Sta scritto su un documento ingiallito del primo giugno 1922, in la Scuola di una volta. Bello, eh? Ma poi qualcosa è cambiato. Ti ricordi quando riempivi pagine intere di vocali e consonanti? Dovevi migliorare i tuoi geroglifici incomprensibili, non scrivere in gotico su carta pergamena. Se ti ci mettevi di impegno ce la potevi fare, prima di andare a giocare in cortile. Ti ricordi quanto andavi fiero della tua bravura? Avresti scritto giorno e notte e crampi addio! Era il tuo primo romanzo, e non potevi certo fermarti a pagina 52. Non era uno scherzo saper tenere la penna in mano. Eri responsabile e conoscevi tutto del tuo strumento per comunicare. Anche perché c’era davvero poco da sapere. Pennino, inchiostro, un po’ di pazienza e via! E oggi? Apparati, sistemi, aggeggi dalla tecnologia impenetrabile, che non recano la tua impronta, che non rivelano se quel giorno di maggio in cui ha scritto Ti amo! eri teso, affannato o triste perché lei ti voleva lasciare. Nulla ti rammentano, alla memoria del tuo passato e non necessitano della tua perizia. Premi un tasto e via, tutti uguali, tutti analfabeti ad un tratto. Le macchine nulla sanno di te, e nulla tu sai di loro. Se non che devi aggiornare il programma proteggendolo dai virus se non vuoi vedere il tuo video riempirsi di scarafaggi vaganti. Ma devi farlo in fretta, sei a pagina 58 del tuo romanzo. Qualcuno ha deciso di farti dipendere dalla macchina! I brividi ti vengono se leggi certi articoli. Ma c’ è di peggio perchéoltre a dipendere in toto dalla macchina, l’analfabetismo invece di diminuire cresce, sotto altre forme come nel caso dell’ analfabetismo funzionale. Ma risulta ancora peggiore, come si legge su uno sconsolante articolo di Repubblica; accade a proposito del nostro antico pennino intinto nell’inchiostro che: “….Lavoriamo pigiando tasti di un computer, scriviamo e-mail e non più lettere, usiamo carte di credito e sempre meno assegni, inviamo sms, la materialità e la fisicità della scrittura si sta dissolvendo nelle specchio liquido di un display, la complessità del pensiero è ridotta ad un copia-incolla, così, giorno dopo giorno, assistiamo ad un passaggio epocale, ad una regressione generazionale, ad una trasformazione del pensiero…. Ma dai!
ti ricordi quando... 