Caro Diario, Roberto Paura, che scrive libri belli e ho raccontato qui, ha pubblicato su un social questa citazione del 1977 di Asimov tratta da Quel che desideriamo, un articolo pubblicato nell’antologia Visioni di robot:
«In un mondo istruito e automatizzato nella maniera corretta, le macchine potrebbero rivelarsi la vera influenza umanizzante. Così, le macchine svolgranno il lavoro che rende possibile la vita, e gli esseri umani potranno dedicarsi alle occupazioni che rendono la vita piacevole e degna di essere vissuta.»
Ora non so se già ce lo siamo detti ma quando qualcuno mi chiede qual è secondo me la cosa più importante che si possa imparare rispondo imparare a pensare, e un po’ anche a fare, dato che come scrive Sennett ne L’uomo artigiano, fare è pensare. Proprio così amico mio, quello che penso io è che noi umani non dobbiamo mai perdere il difetto di pensare, specialmente adesso che stiamo insegnando alle macchine a pensare da sole. Detto che il termine difetto va inteso nell’accezione che ci è stata tramandata da Brecht in una delle sue più belle poesie, Generale, aggiungo che solo se manteniamo questo difetto possiamo immaginare per noi umani un futuro come quello raccontato da Asimov.
Te lo posso dire senza giri di parole caro Diario? Oggi come oggi faccio molta fatica a essere ottimista, come del resto ti ho raccontato qualche giorno fa con il post intitolato L’istituzione totale di Goffman e il manicomio a portata di pollice. Voglio essere ancora più diretto: a me, un futuro prossimo venturo nel quale le macchine si abituano sempre di più a pensare e a imparare da sole mentre gli esseri umani si disabituano sempre più a pensare e a imparare dalle loro conquiste e dai loro errori, non dice nulla di buono. Ecco, te l’ho detto chiatto chiatto, come si diceva da ragazzi nella mia Secondigliano, e te lo ripeto anche così fissi bene il concetto: se guardo da un lato alle conquiste e alle frontiere dell’intelligenza artificiale, e dall’altro alla spinta autodistruttiva galoppante della massa e del potere, questa volta nel senso che dobbiamo al genio di Canetti, la vedo nera assai, e naturalmente non per colpa delle macchine.
Ciò detto, dato che la parte di Cassandra non mi piace, ho chiesto a Roberto se aveva voglia di animare assieme a me una discussione basata su questo tema, così magari vengono fuori parole e scenari di speranza che in questa fase io non sono capace di vedere. Roberto mi ha detto di sì e dunque si parte.
Alla fine la traccia sta già nel titolo, ci aspettiamo che tu e chi ci legge raccontiate cosa ne pensate di un mondo nel quale le macchine pensano e imparano sempre di più e gli umani sempre di meno.
Ecco, direi che per ora mi fermo qui, anzi no. Devo aggiungere che il disegno nella foto è di Stefano Bonora, che l’indirizzo dove inviare pensieri e opinioni è partecipa@lavorobenfatto.org e che spero siate davvero in tante/i a dire la vostra.

INTERVENTI
@Rodolfo Baggio @Luigi Maiello @Monica C. Massola @Nicola Chiacchio @Jacopo Berti e Roberto Paura @Flavia E. Cantiello @Francesco Alfi

Rodolfo Baggio Torna agli interventi
Vincenzo, una risposta è difficile. Provo a dire la mia, che poi è una non-risposta, ma credo tocchi punti importanti.
Come diceva il buon vecchio Arthur Clarke: “Ogni tecnologia sufficientemente avanzata è indistinguibile dalla magia”. E nel caso di intelligenza artificiale, robot e simili mi sa che ci siamo in pieno. Se ne parla molto, forse troppo, e soprattutto spesso, ahimè, senza grande cognizione di causa.
Sì, è vero, abbiamo visto e vediamo macchine far cose che fino a non molto tempo fa eran considerate fantascienza. Ma una riflessione seria su questi argomenti deve necessariamente partire da un buona conoscenza di quel che è possibile e di quel che non è possibile fare con una macchina. Ricordo sempre l’affermazione di Augusta Ada King, contessa di Lovelace, figlia di Lord Byron, prima programmatrice della storia: “Non bisogna nutrire idee esagerate sui poteri della Macchina Analitica. […] Essa non pretende di creare nulla. Può fare tutto ciò che riusciamo a ordinarle di fare. Può eseguire l’analisi, ma non ha il potere di anticipare alcuna rivelazione o verità analitica. Il suo compito è quello di assisterci mettendoci a disposizione ciò che già conosciamo” ed era il 1834.
Quel che vediamo oggi è il risultato di una combinazione di tre elementi: grandi capacità di calcolo, grandi disponibilità di dati e incredibile raffinatezza di algoritmi che consentono di raccogliere, analizzare e ricombinare i materiali di base (i dati). In realtà non c’è molto di “intelligente” in queste cose, c’è solo la possibilità, oggi reale, che le macchine riescano a macinare così velocemente quel che gli viene sottoposto, da fornire risultati che fino a qualche anno fa erano impensabili, o a mostrare cose che magari prima ci sfuggivano, impegnati come eravamo a usare risorse limitatissime per estrarre qualche informazione possibilmente utile.
I risultati che vediamo sono il trionfo delle tecniche di machine learning, tecniche che consentono di estrarre informazione una volta “insegnato” alla macchina attraverso esempi o regole abbastanza precise che cosa fare. E molte delle cose che insegniamo alle macchine oggi sono state messe a punto decine o centinaia di anni fa.
Certo è che questi sviluppi pongono problemi grossi. Lavoro, comportamenti, disuguaglianze, etica, protezione da errori o malfunzionamenti, riservatezza. Ovviamente soluzioni facili non esistono, ma almeno stavolta mi pare che istituzioni, enti e associazioni si son posti il problema senza per forza aspettare che situazioni di fatto obblighino a prendere atto invece di poter in qualche modo incidere. E perfino alcuni degli attori in prima linea in questa evoluzione si stanno attrezzando per tener bene conto del fatto che, in ultima analisi, come diceva Andreas Ekström: “dietro ogni algoritmo c’è sempre una persona, con un insieme di convinzioni personali che nessun codice potrà mai completamente sradicare.”
La discussione è aperta e spero, come notava Mariarosaria Taddeo a Firenze qualche giorno fa, che i successi fantasmagorici non oscurino la necessità di ragionare intorno a questi problemi. In un mondo ideale una macchina “buona” combina ragionevole fattibilità tecnica con sostenibilità ambientale, sociale e umana.
Questo è, secondo me, compito importante di chi prepara la macchina, ma anche, e soprattutto, di chi prepara chi le macchine istruisce. Perché che piaccia o no le macchine ci sono, e sarà meglio capire presto che tipo di rapporto vogliamo averci. I risultati che ottengono sono clamorosi, ma ancor più clamorosi sono quelli (come già in molti casi si è visto) che si riescono a ottenere quando teste pensanti usano le macchine in modo appropriato. L’ “intelligenza aumentata” è già qui, ma va promossa e sostenuta, prima che, spinti da bramosie di potere o di quattrini ci si ritrovi in situazioni poco piacevoli.

Luigi Maiello Torna agli interventi
A cosa stai pensando? A domani.

Monica C. Massola Torna agli interventi
Caro Vincenzo, capisci che è una bella e complessa domanda la tua.
E allora da dove ti devo rispondere, dalla parte che mi vede come appassionata di fantascienza, oggi direi nerd, che sin da giovanissima, insieme al suo papà, consumava con voracità gli Urania (per chi non fosse un affezionato lettore: è una collana di romanzi di fantascienza, editi da Mondadori). Con lo sguardo di una avida consumatrice di film di fantascienza, che oggi si chiede ancora se il futuro sarà quella di HER, o di Matrix, o se dobbiamo soffermarci sulle domande che ci sta consegnando l’ultimo Blade Runner? Cioè chi e cosa è davvero umano? Si è umani per nascita o per costruzione? Qual’è l’etica per umani e per una Intelligenza Artificiale? Le domande ci sono tutte, in Asimov, e le tre domande della robotica non sono tanto lontane dalle tre domande che forse ognuno si dovrebbe porre; ma che alcuni si pongono, e che altri ignorano con soddisfazione. E stare nelle tre domande è già un bel problema, ancora prima dell’avere un futuro abitato da robot, da intelligenza artificiale, in forma umanoide. Cioè noi umani sappiamo continuare ad usare le tre domande (e ciò che simbolicamente comportano)?
Sai Vincenzo, penso già alle commistioni tra umano e IA, ed è questo è un altro bel dubbio che mi porto dentro. Intrecci che mi lasciano perplessa, e su cui mi interrogo, anzi su cui dovremmo interrogarci. Ma in fondo ti sto rispondendo per questo, no?
Sarà anche perchè mi occupo di “educazione” in senso professionale, e seguo cosa accade tra i tanti colleghi pedagogisti ed educatori impegnati a preparare i genitori a guidare i figli nell’uso dei social network mostrandone i rischi (cyberbullismo, dipendenza dal web, regole etc). Eppure sento che non sono trattati un’altra serie di problemi che invece ci tocca tenere presente.
I robot, i bot e gli algoritmi. Lo so, che non sono precisa, d’altronde non è il mio mestiere, mescolo cose che non dovrebbero essere mescolate, e sono solo una che cerca di capire, mettere in fila ciò che leggo, quello che capisco con quello che non capisco.
Di robotica so poco, ma ho appena intuito cosa siano i Bot, anzi i Chatbot, grazie ad una avventura con il mio gestore telefonico. Stavo cercando di risolvere un problema di fatturazione (dopo due anni di inutili telefonate ai mitologici call – center) e mi sono interfacciata con messaggi più o meno intelligenti di un BOT, messo a rispondere su Twitter e su Facebook. Dopo un primo sconcerto, mi è apparso evidente che non stavo scrivendo in una chat con un umano ma con un programma destinato a dare risposte preformate, standard, in quel senso poco intelligenti. Ma non più intelligenti né più risolutive erano state le risposte gli operatori umani.
Sai cosa mi ha risolto il problema? Non l’umano, non l’intelligenza artificiale ma la rete social, il potere dato dalle interconnessioni. Io mi ostino a credere che ad un certo punto il mio gestore abbia deciso di risolvere il mio problema, perchè stavo evidenziando sui social, che non stava funzionando, non mi stava rispondendo, nolo lo facevano gli uomini e nemmeno i Bot messi ridicolmente al posto degli operatori. Per fortuna sappiamo bene che i brand/le marche vogliono fare bella figura sui social, in luogo pubblico, nella piazza virtuale. Forse il mio esser “fastidiosa”, continuando ad usare i social per narrare cosa andava accadendo, mi ha difeso dalle storture burocratiche, e dai Bot usati senza criterio, senza intelligenza progettuale. (Forse). La rete che pure ormai si muove grazie agli algoritmi che ci profilano, e ci offrono ciò che “potremmo pensare di volere”, che pure ci offre risposte grazie a operatori non umani, è il grande calderone in cui tutto si mescola, e le criticità diventano domande, perchè la rete è fatta di umani interconnessi e iperconnessi, ancora abbastanza liberi.
Citando un tema tipico del film Matrix il nostro problema è domanda. Ma se penso al nostro futuro mi ritrovo assai in alcuni temi che permeano il nuovo Blade Runner 2049, in cui la domanda di fondo sposta l’ottica dal chiedersi cosa sia umano o cosa non lo sia, ma dal ricercare chi sa, chi vuole e chi può presidiare i valori, l’etica, i diritti, i significati e i sensi, e le domande che generano altre domande. Ci sarebbe ancora altro, pensieri che girano per la mente ma che devo ancora riordinare così per ora mi fermo qui, scusandomi per gli umani errori dettati dalla fretta di scrivere.
Grazie, come sempre, per le belle occasioni che offri.

Nicola Chiacchio Torna agli interventi
In aula M (Corso di Comunicazione e Cultura Digitale) ci è stato più volte suggerito di pensare con la genialità dei bambini, io ci ho provato, e immedesimandomi la prima cosa che mi viene in mente è questa: «come facciamo a smettere di pensare, se nel momento io cui vogliamo costruire macchine più potenti che possano pensare al posto nostro, dobbiamo pensare di più?».
All’apparenza può sembrare paradossale, ma se l’uomo è stato in grado, nei secoli, di costruire macchine sempre più potenti (a partire dagli utensili da caccia nel Paleolitico, fino all’ultimo Iphone X dei giorni nostri) è perché si è sforzato di pensare di più, in meglio, per migliorarsi.
Si raggiungerà davvero il limite del pensare? Arriverà il giorno in cui avremo macchine che potranno pensare tutto al posto nostro, o vivremo sempre della convinzione di poter far meglio, di poter un giorno pensare sempre meno, e quindi per tale scopo ci sforzeremo di pensare e pensare ancora, all’infinito?
Se l’indole umana rimarrà sempre la stessa, ovvero scoprire cosa c’è di meglio in un mondo che rimane per la gran parte a noi sconosciuto, allora non si smetterà mai di pensare, non c’è pericolo che accada. Si pensa al fine di poter pensare in futuro sempre meno, ma si pensa sempre di più per far si che ciò accada, perché ogni invenzione nuova rappresenterà un «andare l’oltre» il già conosciuto. Dubito che questo ciclo possa avere una fine.

Jacopo Berti e Roberto Paura Torna agli interventi
Jacopo Berti
Ma noi uomini siamo il nostro patrimonio genetico o memetico? Insomma, se ci identifichiamo soprattutto con la nostra intelligenza, creatività, etica, ecc., beh, siamo semplicemente destinati a cambiare supporto.
Roberto Paura
Jacopo, quindi sei d’accordo con la visione transumanista della Singolarità, della futura fusione uomo-macchina? Peraltro una possibile risposta alla questione di Vincenzo (ma poi la metto meglio per iscritto) è quella visionaria di Elon Musk: sistemi artificiali per aumentare la nostra capacità intellettiva e restare così al passo con l’aumento della capacità di pensiero dei computer per non farsi sopravanzare.
Jacopo Berti
Non è che io sia d’accordo, è una provocazione. Ma come in tutte le provocazioni c’è un fondo di opinione: se dobbiamo scegliere se preservarci come specie biologica senza qualità morali, intellettuali, culturali nel senso alto del termine o piuttosto come una versione macchinea di queste qualità umane, la seconda opzione mi sembra preferibile.
La provocazione è volta a scongiurare la necessità di tale scelta.

Flavia E. Cantiello Torna agli interventi
Credo che uno degli aspetti più interessanti della #tecnologia sia quello ‘oscuro’. Porta sempre a porci la domanda «cosa rende umano un umano». Pare che tra non molti decenni le macchine saranno capaci di comunicare non solo attraverso le parole, ma addirittura attraverso mezzi alternativi, per esempio potranno produrre film.
Secondo me la domanda non riguarda la qualità di ciò che può essere prodotto da una macchina ma dalle emozioni che essa potrà trasmettere. Di nuovo: cosa rende umano un umano?
Il provare emozioni, oltre che comunicarle? Allora il fatto di provarle ci da una marcia in più, per comunicarle meglio? Possiamo paragonare il cervello umano ad un cielo che proietta fuochi d’artificio, disordinati e maestosi nel cielo scuro e quello di una macchina ad una maestosa biblioteca, perfettamente ordinata, con i volumi in ordine cronologico, alfabetico e tutti consultabili simultaneamente?
Se così fosse io direi che più che pensare di più, dovremmo pensare meglio. Pensare illuminando di più il cielo scuro con le nostre luci, creare connessioni e lasciarci trasportare da queste. Mi viene in mente Proust che insieme a Joyce e Svevo ha dato vita alla pratica più umana di tutte, diventata agevolmente tecnica narrativa, quella che chiamavano ‘stream of consciousness’, il flusso di coscienza.

Francesco Alfi Torna agli interventi
Nell’ultima settimana ho visto sia Blade Runner (che a mio avviso va visionato più di una volta per apprezzarne a pieno il fascino) che il suo sequel, la versione 2049: in entrambi vi sono ovviamente i replicanti, che per principio dovrebbero nascere o sviluppare un intelletto pari agli ingegneri che li hanno creati, dunque di base già più intelligenti di una grossa fetta di mondo (sebbene per me è meglio un analfabeta che uno stupido convinto). Ciò detto questo, ci si potrebbe certo interrogare sul fatto che molte persone ormai non pensino più, non facciano più prendere adito ai loro sogni, che si concentrino più sui numeri che sull’essenziale (Il Piccolo Principe insegna), però forse ci si dimentica troppo spesso che chi non pensa a volte non vuol pensare.
Accadono così tante cose che non ti aspetti, che non ti cerchi, che eviti usando il cuore, ma che il cuore te lo fermano; ovviamente quest’ultima frase può essere interpretata per gli eventi di gioia, ma soprattutto per quelli dolorosi. Ecco, forse la chiave è tentare di usare il cuore per non ottenebrare il pensiero, anche se ce lo hanno fatto fermare, tentando di rianimarlo proprio con il pensiero.
Potrebbe sembrare stupido, perché come fai se hai perso entrambi?! Beh basta farli di nuovo innescare insieme, perché l’uno ha bisogno dell’altro.
Ritornando alle macchine, penso che se nel futuro ci saranno replicanti che in punto di morte comprendono il significato della vita, come Roy Batty che salva Deckard ed esala l’ultimo respiro tenendo in mano una colomba, beh, allora c’è da preoccuparsi.

LEGGI ANCHE
La fabbrica viva e disseminata, di Daniele Gambetta
Il postcapitalismo secondo Paul Mason, di Christian Dalenz
Frammento sulle macchine, di Karl Marx
L’istituzione totale di Goffman e il manicomio a portata di pollice
Quinto, se sei una macchina, non uccidere