Caro Diario, negli universi del lavoro ben fatto, nei futuri che piacciono a me, la capacità di pensare, la libertà, l’autonomia e la consapevolezza delle persone sono la prima cosa. Tutto il resto, per quanto importante possa essere, viene dopo. È anche per questo che non mi stanco mai di farmi domande e di inventare narrazioni intorno al rapporto tra umani e macchine, (algoritmi, intelligenza artificiale, web, social, robot, e altre cose così). Questa volta insieme alla parte narrativa, una sorta di improbabile sceneggiatura che prende le mosse dal racconto “U come Umano” pubblicato in AlphaBeta, cè la parte in cui invito ad approfondire con l’aiuto di possibili scenari, parole chiave, note a margine, link e altro ancora. Direi che è tutto, buona lettura.

PARTE PRIMA | SCENEGGIATURA

INDICE SCENE
Scena 1; Scena 2; Scena 3; Scena 4; Scena 5; Scena 6; Scena 7; Scena 8; Scena 9; Scena 10

SCENA 1 – ESTERNO – PIAZZA DEL LAVORO BEN FATTO – PANCHINA – MATTINO
Torna all’indice

[L’anno scolastico è terminato da qualche giorno, DOMENICO e suo nonno MICHELE sono intenti a chiacchierare quando arriva GIOVANNA, insegnante del ragazzo e amica del nonno. Dopo essersi salutati il nonno invita GIOVANNA a fermarsi qualche minuto con loro.]

GIOVANNA (Mentre si siede, rivolta a DOMENICO)
È bello starsene al sole a chiacchierare con il nonno invece che in classe a studiare, vero?

DOMENICO (Sorridente)
Sicuramente. Però stavamo chiacchierando di una cosa che quest’anno abbiamo discusso anche in classe, i rapporti tra gli esseri umani e le macchine.

NONNO MICHELE (Fintamente serioso)
Confermo!

GIOVANNA (Sorpresa)
Caspita, argomento bello e impegnativo. Posso chiedere in particolare qual è il punto?

DOMENICO (Orgoglioso)
Certo. Una delle domande, ce ne stanno tante, è se è giusto che una macchina, un algoritmo, un’intelligenza artificiale, possa prendere decisioni importanti in maniera del tutto autonoma, senza alcun controllo umano.

GIOVANNA (Scherzosa)
Niente male, mi viene da pensare che voi due, quando state seduti su una panchina d’estate, è meglio evitarvi.

[Ridono tutti.]

NONNO MICHELE (Divertito)
Tu hai qualche risposta GIOVANNA?

GIOVANNA (Seria)
No, però ho un po’ di domande.

DOMENICO (Curioso)
Tipo?

GIOVANNA (Riflessiva)
Tipo queste:
Ci sarà davvero un momento in cui non sapremo più gestirle e rischieremo di diventarne schiavi?
Si possono dare poteri così grandi a una macchina?
Come può succedere se siamo noi umani a programmarle?
La responsabilità non continua ad essere nostra?
Dobbiamo avere paura dell’algoritmo o dei loro padroni?
Come difenderemo la nostra capacità di pensare, la nostra umanità, la nostra unicità, la nostra creatività, le nostre libertà?
Se le macchine diventano senzienti, si può dire che si umanizzano?
E se si umanizzano, avranno bisogno a loro volta di macchine?
Ma siamo davvero sicuri che noi umani siamo in grado di prendere decisioni molto difficili secondo criteri di razionalità, imparzialità, obiettività, utilità, giustizia migliori di quelli di una macchina?
Se a Los Alamos ci fossero state macchine al posto degli umani, avrebbero inventato la bomba atomica?
Se a pilotare gli aerei che hanno scaricato le bombe su Hiroshima e Nagasaki ci fossero state macchine invece di umani avrebbero fatto lo stesso?

NONNO MICHELE (Scherzoso)
GIOVANNA, vedo che pure tu sei da evitare quando stai seduta su una panchina.

[Ridono di nuovo di gusto tutti e tre.]

NONNO MICHELE (Affettuoso)
Adesso però si è fatta quasi ora di pranzo e bisogna che DOMENICO e io torniamo a casa, altrimenti chi la sente la nonna. È stato come sempre un piacere GIOVANNA.

GIOVANNA (Sorridente)
Il piacere è mio. Andiamo, che pureper me si è fatto tardi, però questa discussione non finisce qui.

[NONNO MICHELE, DOMENICO e GIOVANNA si salutano con affetto e complicità.]

SCENA 2 – INTERNO – CASA DI NONNO MICHELE – POMERIGGIO
Torna all’indice

DOMENICO (Mentre butta giù l’ultimo boccone di gelato)
Nonno, te la ricordi l’ultima domanda di Giovanna? Cosa ne pensi?

NONNO MICHELE (Sornione, per nulla sorpreso)
Certo che me la ricordo. Penso che devo pensarci. E anche che hai una prof. di Matematica e Scienze molto in gamba, è vero che ormai sei al liceo, ma anche lì le prof. in giro non sono mica tutte così.

DOMENICO (Impaziente)
E poi?

NONNO MICHELE (Serio)
E poi che non posso sapere cosa avrebbe fatto una macchina al posto del pilota. Però so che se la macchina fosse stata programmata nel rispetto della prima legge della robotica di Asimov certamente non avrebbe sganciato la bomba. Le conosci vero le leggi della robotica di Asimov?

[DOMENICO è andato in cucina a prendere un bicchiere d’acqua al nonno, lui dopo il gelato deve sempre bere. Il ragazzo non ha sentito bene la domanda e se la fa ripetere.]

NONNO MICHELE (Paziente)
Le leggi della robotica di Asimov? Le conosci?

DOMENICO (Mortificato)
No!

NONNO MICHELE (Sorridente)
Ecco, questa non me l’aspettavo, ma puoi rimediare facilmente, le trovi su Wikipedia. Comunque la prima legge prescrive che “Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.”

DOMENICO (Confuso)
Nonno, ti devo dire la verità, adesso non ci sto capendo niente, allora le macchine sono migliori di noi umani?

NONNO MICHELE (Rassicurante)
Io non la prenderei da questo versante, più le questioni sono controverse e più è un errore cercare di arrivare subito alle conclusioni. Secondo me ci dobbiamo prendere del tempo per pensarci, e magari parlane anche a casa con tua madre e tuo padre, vedi anche loro che dicono.

[Nonna ANTONIA che chiama da sopra per avvertire DOMENICO che è arrivata la mamma per riportarlo a casa interrompe la discussione. Nonno e nipote si salutano con l’impegno di rivedersi il giorno dopo.]

SCENA 3 – INTERNO – AUTO DI MAMMA NINA – SERA
Torna all’indice

[La macchina è nello slargo, NINA si sporge dal finestrino e saluta nonno MICHELE. DOMENICO fa il giro dal suo lato, si siede, chiude la portiera, allaccia la cintura, dà un bacio sulla guancia alla mamma e comincia a parlare.]

DOMENICO (Entusiasta)
Mamma, oggi è stata una giornata bellissima, stasera a tavola vi racconto tutto.

NINA (Contenta)
Tu quando stai con tuo nonno MICHELE passi sempre giornate bellissime, meno male, così almeno stai in compagnia. Comunque ancora un paio di settimane e anche noi a scuola finiamo, così sono anche io più libera.

DOMENICO (Frenetico)
Oggi abbiamo incontrato anche GIOVANNA, la mia prof. di matematica e scienze, abbiamo parlato anche con lei, ha fatto un sacco di domande, poi mi dovete dire anche tu e papà che cosa ne pensate, è una questione importante, riguarda il rapporto tra noi esseri umani e le macchine.

NINA (Comprensiva)
Caspita, argomento davvero bello e impegnativo, dai, una di queste sere di sicuro ne parliamo.

[Ogni tanto con lo sguardo NINA sbircia ai lati della strada come se stesse cercando qualcosa, o qualcuno.]

DOMENICO (Impaziente)
Mamma non hai capito, non una di queste sere, ne dobbiamo parlare stasera.

NINA (Stanca)
Vediamo DOMENICO, vediamo, non essere sempre così precipitoso. Oggi per me è stata una giornata molto faticosa, vediamo anche che dice tuo padre, l’ho sentito un attimo a pranzo e credo che abbia avuto anche lui una giornata complicata.

DOMENICO (Deluso)
Va bene mamma.

[Arrivati a casa, NINA parcheggia l’auto nel garage mentre DOMENICO gioca un poco con SOCRATE, il suo cane. All’arrivo della mamma entrano in casa.]

SCENA 4 – ESTERNO – ATRIO CASA DI DOMENICO – NOTTE
Torna all’indice

[La cena a casa di DOMENICO è finita da un po’. Il ragazzo si è reso conto subito che non era la serata giusta per discutere della sua nuova passione. Non è che ci sia rimasto male, alla fine lui è in vacanza  ma i genitori no, però gli è rimasto come si dice il colpo in canna, così è uscito fuori e si è seduto sullo scalino in compagnia di SOCRATE.]

DOMENICO (Dolce. Con una mano abbraccia SOCRATE e con l’altra gli accarezza la testa)
Capisci SOCRATE, io già ero pieno di dubbi, poi è arrivata GIOVANNA con tutte le sue domande e adesso sto in una situazione di confusione totale.

SOCRATE
Arf, Arf.

DOMENICO (Serio)
Tranquillo amico a quattro zampe, tu non c’entri, non ti cambierei mai con un cane macchina. O forse si?

SOCRATE
Grr, Grr.

DOMENICO (Divertito)
Dai, non ti arrabbiare, lo sai che scherzo. Comunque, tornando a noi, su questa storia delle macchine intelligenti c’è veramente da perderci la testa. Alla fine la responsabilità di tutto quello che accade è nostra, nel senso di noi umani, siamo noi a programmarle, almeno fino a quando non impareranno a farlo da sole.
SOCRATE, ci pensi che figuraccia facciamo se adesso che le gestiamo noi abbiamo dato loro la libertà di decidere in autonomia se possono uccidere delle persone e invece quando si gestiranno da sole decideranno che in nessun modo potranno fare male o arrecare danno agli umani, o a rimanere inermi se qualche umano subisce violenza? Ma lo sai quante volte facciamo finta di non vedere per paura o per indifferenza di fronte a episodi di violenza di ogni tipo?

[Il ragazzo raccoglie un piccolo bastone da terra, lo lancia, il cane corre a prenderlo e glielo riporta.]

SOCRATE
Woof, Woof.

DOMENICO (Riflessivo)
Sì, hai ragione, voi cani siete molto meglio di noi, almeno se veniamo attaccati intervenite per difenderci. Comunque devo trovare un modo per riprendere il discorso con il nonno, lui ha più tempo di mamma e papà, e sa un sacco di cose, lui legge sempre, approfondisce, è curioso, e poi mi vuole un sacco di bene. Domani anche lui è impicciato, ma dopodomani mi faccio venire a prendere e passo un’altra bella giornata con lui.
Adesso me ne vado a letto SOCRATE, si è fatto tardi e tra poco arriva mamma che mi sgrida. Vieni qua, dammi un altro abbraccio.

SOCRATE
Slurp, Slurp.

[DOMENICO fa un’altra carezza al cane e gli indica la cuccia, dopo di che si alza, si chiude la porta alle spalle, e se ne va in camera. È inquieto, spera che non sia una notte agitata.]

SCENA 5 – ESTERNO – PIAZZA DEL LAVORO BEN FATTO – BAR SPORT – GIORNO
Torna all’indice

[Dopo 12 giorni di isolamento NONNO MICHELE finalmente è potuto uscire, il tampone ha portato finalmente la lieta novella, è completamente guarito. Dopo aver avvertito DOMENICO la sera precedente, stamattina di buon’ora è passato a prenderlo e se ne sono andati al Bar Sport per prendere un caffè e una spremuta d’arancia.]

DOMENICO (Affettoso)
Allora nonno, adesso che siamo soli dimmi la verità, come ti senti?

NONNO MICHELE (Sorridente)
Abbastanza bene DOMENICO, comunque il peggio è passato. Però mi sei mancato molto nipote bello.

DOMENICO (Impaziente)
Pure tu mi sei mancato nonno, un sacco. In questi giorni ho fatto un po’ di scoperte, ho una novità importante, però mi devi promettere che rimane un segreto tra me e te, altrimenti mamma si arrabbia.

[Il cameriere che arriva con il caffè e la spremuta d’arancia interrompe per qualche attimo la conversazione. Sistemata la comanda sul tavolo e lasciato lo scontrino se ne torna al banco.]

NONNO MICHELE (Severo)
Non ti prometto proprio niente DOMENICO, anzi quello che hai appena detto non mi è piaciuto per niente, se si arrabbia tua mamma mi arrabbio pure io, perciò tu adesso non solo mi dici quello che hai combinato ma oggi stesso lo dici pure a tua madre.

DOMENICO (Mortificato)
Hai ragione nonno, faccio sicuramente come hai detto tu. Ho scaricato una nuova app di Intelligenza Artificiale che è consigliata dai 17 anni in poi, si chiama TaleQuale.

NONNO MICHELE (Risoluto)
Pessima idea ragazzo, ti ricordo che hai 14 anni, non 17. Comunque che cosa fa questa app?

DOMENICO (Sulla difensiva)
In realtà tra qualche mese ne compio 15 di anni nonno, in ogni caso hai ragione, ho sbagliato. Per quanto riguarda l’app sul sito si presenta come un’amica o un amico che non ti giudica mai, non tiene pensieri, non ti contraddice mai, è sempre dalla tua parte e si adatta sempre meglio a te a seconda delle domande che le fai e delle risposte che le dai.

NONNO MICHELE (Incalzante)
Va bene, questo è quello che posso leggere anche sul sito. Invece l’esperienza diretta che hai fatto fin qui che cosa suggerisce?

DOMENICO (Convinto)
Che mantiene le promesse che fa.

NONNO MICHELE (Perentorio)
Se è così, contrordine, ragazzo, con tua mamma ci parlo io, poi stasera mi guardo il sito e l’app e appena possibile torniamo a parlarne. Tu nel frattempo segnati i punti di cui vuoi discutere.

DOMENICO (Turbato)
Va bene nonno, facciamo come dici tu.

[A DOMENICO la spremuta di arancia non è sembrata mai così amara. Mentre si dirigono verso casa lui e il nonno non dicono una parola, ciascuno immerso nei propri pensieri. Nel pomeriggio è il nonno ad accompagnare il ragazzo a casa, in un clima sicuramente più rilassato, ma parlano solo di cose così.]

SCENA 6 – INTERNO – CAMERA DI DOMENICO – LETTO – NOTTE
Torna all’indice

[È da poco passata la mezzanotte e DOMENICO continua a girarsi e rigirarsi nel letto senza riuscire a prendere sonno.
È stata una serata decisamente difficile, il padre non gli ha rivolto la parola per tutto il tempo e anche la mamma si è limitata a fargli l’elenco di tutte le cose che non potrà fare per un mese dopo che lui si è scusato e ha promesso solennemente che non accadrà mai più.  Niente rimproveri, nessuna scenata, solo indiffirenza, e tanta delusione, insomma il peggio che al ragazzo potesse capitare.
Del resto se lo doveva aspettare, tra i valori che la famiglia condivide, e che vanno rispettati sempre, c’è la fiducia, mentre lui scaricando di nascosto quella app l’aveva tradita. Per fortuna che c’era stata la telefonata del nonno, di sicuro non lo aveva giustificato però lo aveva capito, la mamma ne aveva accennato, altrimenti le conseguenze sarebbero state anche peggiori.
“Sì, sono stato uno stupido a fare questa cosa senza pensare”, si è ripetuto mentre faceva la centesima giravolta nel letto, poi finalmente il sonno lo ha vinto, e si addormentato, però di un sonno pesante, simile a un incubo, comunque pieno di sogni brutti.]

SCENA 7 – ESTERNO – PIAZZA DEL LAVORO BEN FATTO – PANCHINA – GIORNO
Torna all’indice

[DOMENICO e NONNO MICHELE se ne stanno da qualche minuto seduti sulla solita panchina senza dire una parola. Anche per strada avevano scambiato solo monosillabi, cose come “Come va?”, “Così!” e poco altro. È il nonno a rompere gli indugi.]

NONNO MICHELE (Sfarfuglia con la mano i capelli di DOMENICO)
Allora, te li sei segnati i punti che vuoi discutere?

DOMENICO (Nervoso)
Sì!

NONNO MICHELE (Sorridente)
Me li vuoi dire?

DOMENICO (Nervoso)
Sì, però non oggi.

NONNO MICHELE (Paziente)
Che ne dici se intanto ti parlo di un documentario che ho visto ieri sera? Si chiama The Social Dilemma, l’ho visto su Netflix, mi ha colpito molto.

DOMENICO (Esitante)
L’ho visto pure io, certo che ne puoi parlare, che cosa ti ha colpito in particolare?

NONNO MICHELE (Affettuoso)
Tante cose. Per esempio la quantità degli effetti collaterali che l’uso dei social può provocare. E anche la loro qualità, in senso negativo purtroppo. Mi chiedo: se sono gli stessi autori di quel mondo, o comunque una parte di essi, a metterci in guardia dai possibili pericoli, vuol dire che la faccenda è seria. O no?

[NONNO MICHELE fa un segno con il dito indice a DOMENICO, poi tira fuori il fazzoletto dalla tasca è si soffia il naso.]

NONNO MICHELE (Complice)
Scusami, tenevo una cosa nel naso.

DOMENICO (Convinto)
Figurati nonno. Tornando a noi, certo che la faccenda è seria, ma gli antidoti ci sono.

NONNO MICHELE (Curioso)
Cioè?

DOMENICO (Orgoglioso)
Per esempio l’educazione, la consapevolezza. Quest’anno come classe abbiamo partecipato a un progetto che si chiama “A scuola di lavoro ben fatto, di tecnologia e di consapevolezza“, continuerà anche il prossimo. Il suo ideatore lo presenta così: “l’idea da cui sono partito un po’ di anni fa è che al tempo di internet, dell’intelligenza artificiale e della blockchain il lavoro ben fatto e l’uso consapevole delle tecnologie siano due fondamentali chiavi di accesso alla nostra umanità, alla nostra autonomia, alla nostra capacità di apprendere, di fare e di pensare.” E poi aggiunge: “Lavoro ben fatto e uso consapevole delle tecnologie per connettere fare e pensare in ogni fase del processo di apprendimento, in qualunque disciplina. Per accrescere autonomia. Senso civico. Responsabilità. Approccio critico. Creatività. Capacità di cooperare e di risolvere problemi. Per valorizzare conoscenze e competenze. Per utilizzare al meglio la cassetta degli attrezzi analogici e digitali che di volta in volta abbiamo a disposizione.” Che ne dici?

NONNO MICHELE (Perplesso)
Dico che è interessante, bello, giusto, ma forse un poco troppo semplicistico.

DOMENICO (Motivato)
Non sono d’accordo nonno, non è affatto semplicistico. Alla fine, se ci pensi, funziona così anche nel mondo degli atomi, non solo in quello dei bit, tutte le tecnologie non sono nè buone e né cattive, né belle e né brutte, dipende da come le usi. Ce lo siamo detti già, vale per il web e vale per l’ago, che se invece di infilarlo nel bottone te lo infili nell’occhio te lo cechi; vale per i social e vale per per il martello, che se invece di batterlo sul chiodo lo batti sul dito ti fai male parecchio.

NONNO MICHELE (Curioso)
Non nego che il tuo argomento è solido, che c’è senso in quello che dici. Però rimango della mia idea, i danni che possono creare il web e i social sono molto più profondi, estesi e pericolosi di quelli che possono essere procurati da un ago o da un martello. Per carità, il dito e l’occhio sono importanti, ma qui parlamo di cervelli, di coscienze, di fenomeni che coinvolgono miliardi di persone di ogni età in ogni parte del mondo, c’è una bella differenza.

DOMENICO (Motivato)
Una differenza che chiede più educazione e più consapevolezza nonno, da qui non si può fuggire, stiamo parlando di cose che non possono essere fermate, non si può tornare indietro, possiamo soltanto imparare a gestirle. E comunque non vale solo per il martello e l’ago, vale anche per il coltello, che ci puoi tagliare il pane, che è una cosa bellissima, o ammazzare una persona, che è un’azione orribile.

NONNO MICHELE (Frastornato)
Magari hai ragione, ma ci devo pensare. Adesso andiamo a casa, ieri ho chiesto a tua madre se potevi restare tutto il giorno con me, ne riparliamo nel pomeriggio.

[Il ragazzo e il nonno se ne tornano a casa mano nella mano come due innamorati. Sono un po’ strani, uno 70 anni passati, l’altro alle soglie dei 15, però tra loro funziona così, e si potrebbe anche pensare che è una bella cosa.]

SCENA 8 – INTERNO – CASA DI NONNO MICHELE – POMERIGGIO
Torna all’indice

[NONNA ANTONIA è uscita per andare a trovare una sua amica, NONNO MICHELE e DOMENICO sono in cucina e aspettano che il fischio della macchinetta avverta che è pronto il caffè.]

NONNO MICHELE (Pensieroso)
Allora, per cominciare ci tengo a dirti due cose. La prima è che sono d’accordo con te quando dici che processi di questo tipo non si possono fermare, non c’è partita, è successo così anche tra il bufalo e la locomotiva come ci ricorda una bella canzone di Francesco De Gregori. La seconda è che il paragone con il coltello e il martello anche dopo che ci ho pensato non regge, oggi le conseguenze non riguardano più l’occhio o il dito, riguardano la testa, le menti, il controllo delle coscienze, le libertà di ognuno di noi, e c’è una bella differenza.

DOMENICO (Interessato)
Capisco quello che vuoi dire.

NONNO MICHELE (Determinato)
Perfetto, ci speravo, sono contento. Ti ricordi? Stamattina ti ho parlato di The Social Dilemma.

DOMENICO (Curioso)
Certo che me lo ricordo. E allora?

NONNO MICHELE (Motivato)
E allora ieri sera me lo sono rivisto, e ho preso parecchi appunti, dopo che li ho sistemati te li mando, mi fa piacere condividerli con te. Per la nostra discussione di oggi mi sono segnato invece queste tre cose:
1. “Il prodotto è il graduale e impercettibile cambiamento del tuo comportamento e della tua percezione ad essere il prodotto. Cambiare quello che fai, il modo in cui pensi, chi sei, è questo l’unico modo che hanno di fare profitti.” Questo lo detto Jaron Lanier, sviluppatore di softwre, compositore e saggista statunitense, ha fondato la Virtual Programming Languages (VPL Research) e scrive per riviste, come Edge e Discover.
2. “Tutto questo è basato su sistemi che non prevedono nessuna supervisione umana. Previsioni sempre più accurate su quello che faremo, e su chi siamo.” Questo invece è un pensiero di Sandy Parakilas, anche lui sviluppatore di software molto attivo sul terreno della tutela della privacy, noto per le sue battaglie contro alcuni giganti dei social.

[Il fischio della macchinetta non ammette perdite di tempo. Il nonno si alza, si versa il suo rigorosamente senza zucchero, chiede a Domenico se ne vuole un goccio ma il ragazzo declina l’invito. Rimessosi seduto, il nonno si gode una buona mezza tazzina di caffè prima di appoggiarla sul piattino e riprendere a parlare.]

NONNO MICHELE (Beato)
3. “Tutto questo è normale o siamo tutti sotto una specie di incantesimo?” Infine Tristan Harris, l’autore della terza e ultima frase, laureato a Stanford, dove ha studiato etico della persuasione, è un informatico e imprenditore, presidente e cofondatore del Center for Humane Technology che prima si occupato di etica del design per una grande compagnia, direi grandissima.
Ecco, la palla a questo punto direi che ripassa a te. Vorrei che tu commentassi in tutta tranquillità, e naturalmente sincerità, il pensiero, l’affermazione e la domanda. Sia chiaro che non ti sto chiedendo di commentarle, ti sto chiedendo di dire quello che ne pensi tu, le tue idee in proposito, se ne hai. Che dici?

DOMENICO (Confuso)
Dico time out!

NONNO MICHELE (Sornione)
Cioè?

DOMENICO (Orgoglioso)
Cioè ho bisogno anche io di pensarci, anzi no, direi che io ho il diritto di pensarci. Quando sarò pronto te lo dico e ne parliamo.

NONNO MICHELE (Soddisfatto)
Ottimo, quando sei pronto me lo dici e ne parliamo, mi sembra la cosa migliore da fare. Adesso raduna le tue cose, che è ora di riportarti a casa.

[DOMENICO ritorna che nonno MICHELE sta bevendo l’ultimo sorso di caffè, dopo di che lava la tazza, la rimette a posto e finalmente si avviano.]

SCENA 9 – ESTERNO – PARCHEGGIO DEL SUPERMERCATO – AREA CARRELLI – GIORNO
Torna all’indice

[NINA, la mamma di DOMENICO, è da qualche giorno che cerca il momento giusto per parlare con DOMENICO. NONNO MICHELE la tiene puntualmente informata delle sue conversazioni con il ragazzo, ma lei sa che adesso è venuta l’ora di ristabilire il dialogo diretto con suo figlio. Il marchingegno del carrello che non ne vuol sapere di restituirle la moneta che ha inserito per prelevarlo sembra fornirle un’occasione, e così decide di non farsela scappare.]

NINA (Indispettita)
Ecco qua, tutte queste chiacchiere sugli algoritmi e sull’intelligenza artificiale e poi non riesci neanche a riprenderti la moneta che hai messo nel carrello della spesa.

DOMENICO (Divertito)
Mamma, lo sai che questo è un marchingegno meccanico, non c’entra niente con gli algoritmi.

NINA (Complice)
Lo so, lo so, ma la cosa mi innervosisce lo stesso. Le macchine sono sempre macchine, e quando si inceppano non è che glielo puoi far capire.

DOMENICO (Serio)
Questo dipende mamma. Ci sono già da tempo macchine che imparano dai loro errori. E anche la loro relazione con le persone diventa sempre più intelligente.

NINA (Pensierosa)
Quello che dici è vero, non voglio contraddirti per partito preso. Però ti dico che insieme all’Intelligenza Artificiale c’è in giro anche molta stupidità artiifciale, come quando, per fare un esempio, la più grande piattaforma mondiale di vendita online mi consiglia di comprare un libro che ho scritto io.

DOMENICO (Combattivo)
Nessuno è perfetto mamma, su questo Hal 9000, quando dice che “nessun calcolatore 9000 ha mai commesso un errore o alterato un’informazione”, e che loro sono, “senza possibili eccezioni di sorta, a prova di errore e incapaci di sbagliare!” ha torto. Persino l’Architetto di Matrix ha dovuto progettare un’anomalia, Neo, per garantire il futuro del sistema. Nonostante ciò, io non me la sento di affermare che un futuro governato dalle macchine sarà sicuramente peggiore del futuro governato da noi umani. Tu invece?

NINA (Perplessa)
Guarda figlio mio, se penso a chi sono, a metà del 2022, i leader dei più importanti paesi del mondo, alle guerre in corso, alle ingiustizie e alla condizioni disumane in cui vivono centinaia di migliaia di persone, se non miliardi, bambini compresi, mi viene da dire che è difficile che le macchine possano essere peggiori di noi. Eppure, che vuoi da me, non me la sento di dirlo, è una possibilità che mi inquieta.

DOMENICO (Affettuoso)
Credimi mamma, io ti capisco, pure a me fa più o meno lo stesso effetto, perciò ti propongo di lasciar perdere la questione generale, proviamo a fare un esempio concreto, guarda, scegliamo un tema rispetto al quale tu combatti da sempre, il divario di genere, la disparità di trattamento tra uomini e donne sul posto di lavoro. Ci stai?

NINA (Curiosa)
Certo che ci sto, come potrei non starci. Ti dò qualche dato di qualche mese fa che ho letto in un articolo vado a memoria e non posso essere precisa, ma il senso si capisce. L’autore parte dal fatto che anche in Italia le donne siano mediamente più istruite degli uomini, almeno per quanto riguarda i livelli superiori, per dimostare che diventano minoranza al momento di trovare lavoro e di vedere riconosciuta la propria professionalità. Le italiane restano da sempre fra le meno occupate in Europa nella fascia di età fra i 15 e i 64 anni, con un tasso pari nel 2018 al 50%. Peggio di noi solo la Grecia, con 5 punti percentuali in meno, mentre la media europea è più elevata di 13 punti percentuali.E la musica non cambia quando parliamo di retribuzione. In un quadro europeo per niente positivo (le donne europee guadagnano in media il 16% in meno degli uomini, un divario che arriva al 23% quando si tratta di top-management) l’Italia sta parecchio più indietro. Detto questo vorrei capire dove vuoi andare a parare.

DOMENICO (Deciso)
Non voglio andare a parare da nessuna parte, voglio solo farti una domanda: Ma tu sei proprio sicura che se fossero le macchine a decidere inquadramenti e retribuzioni la situazione per le donne sarebbe peggiore di quella attuale?

[Con un ultimo gesto di stizza verso il carrello, NINA abbandona le residue speranze di recuperare la sua moneta.]

NINA (Contrariata)
Torniamo verso la macchina, meglio lasciar perdere.  Comunque, per rispondere alla tua domanda, dipende da come vengono programmate queste macchine e da chi.

DOMENICO (Incalzante)
Giusto! Però mi pare difficile che oggi chiunque possa dare apertamente alle macchine indicazioni diverse dal seguire criteri di professionalità e di merito, contro ogni forma di discriminazione di genere o di qualsiasi altro tipo, di corruzione, di raccomandazione, di favoreggiamento di amici e familiari. Cosa succederebbe a questo punto?

NINA (Confusa)
Che le donne non potrebbero più essere discriminate, perché le macchine, rispetto a noi umani, non possono fare eccezioni se non sono programmate per farle. No, troppo facile, vieni, adesso saliamo e torniamo a casa, ho bisogno di pensarci su.

DOMENICO (Compiaciuto)
Va bene mamma, come vuoi tu.

[Sulla mia del ritorno la discussione prende altre strade, però dai versi e dai movimenti della testa e delle labbra si vede che NINA di tanto in tanto ci ritorna su. ]

SCENA 10 – ESTERNO – PIAZZA DEL LAVORO BEN FATTO – BAR – POMERIGGIO
Torna all’indice

[NONNO MICHELE ha invitato DOMENICO a mangiare il gelato, ci sono tanti gusti e sono uno più buoni dell’altro. Per lui ha scelto nocciola e pistacchio nel secchiello, il ragazzo fragola e cioccalata nel cono. Mentre mangiano, DOMENICO racconta al nonno della sua chiacchierata con la mamma, avendo in risposta qualche cenno di assenso con la testa e qualche “mmmmmhhh”.]

DOMENICO (Impertinente)
Che fai nonno, non hai detto una parola, spero che almeno tu mi abbia sentito, a te il gelato nocciola e pistacchio ti fa perdere la testa, non c’è niente da fare.

NONNO MICHELE (Indispettito)
Ti ho sentito, non ti preoccupare, non mi sono perso una parola. Semplicemente io se mangio, il gelato o qualunque altra cosa, non riesco a parlare. Lo sai come diceva mio padre? “Quando si mangia non si parla, si contratta con la morte.”

DOMENICO (Divertito)
E dai, nonno, che esagerazione.

NONNO MICHELE (Sorridente)
Niente affatto, ci stanno secoli di saggezza popolare dietro questi modi di dire. Comunque, veniamo a noi.
In questi giorni mi sono visto un dibattito molto interessante tra una economista e una filosofa. Mi è piaciuto innanzitutto perché non hanno litigato, si sono confrontate, ognuno ha portato i suoi argomenti in maniera rispettosa dell’altra. Se ti devo dire la verità sono davvero stufo della continua rissosità, delle grida e delle prepotenze dei dibattiti televisi, spesso sconfinano anche nella volgarità, ma di questo parliano un’altra volta.
L’economista ha messo in risalto la questione del lavoro, ha detto perché tante cose umane cambiano ma il lavoro umano non finisce, perché dobbiamo essere fiduciosi, perché insomma gli scenari di povertà associata alla diffusione della I. A. non sono credibili.
La filosofa, invece di limitarsi a confutare i dati dell’economista, ha messo in campo un altro punto di vista, che per non è semplice da spiegare, perciò te lo riassumo per punti:
“1. Detto che il lavoro delle persone è importantissimo anche per me, insieme al lavoro c’è la libertà delle persone, la loro capacità di pensare in maniera autonoma e consapevole.
2. Per certi versi la libertà viene prima e mi spiego con un esempio: se tra 50 anni mia nipote lavora e viene pagata molto bene, facciamo 4 mila euro al mese, e però lei non sceglie più autonomamente non solo i suoi vestiti, le sue scarpe, le sue vacanze, cosa che avviene molto spesso già oggi, ma anche i suoi libri, la sua musica, le sue idee politiche ecc., ecc., io sono contenta? La mia risposta è no.
3. È per forza una partita tra umani e macchine? E gli umani se non pensano sono ancora umani? O resteranno solo macchine di ferro e macchine di carne controllate dai signori degli algoritmi?”
Sì, direi che più o meno ha detto questo, si è scusata per il concetto un po’ forte, ma a me ha colpito. E a te?

[Il cameriere porta a nonno MICHELE il bicchiere d’acqua che gli ha chiesto dopo il gelato.]

DOMENICO (Pensieroso)
Lei dice forte, io direi pure fortissimo. Credo che vada oltre il mondo dei cyborg, credo che voglia dire che senza libertà pure se ci pagano bene lo fanno per farci spendere nei loro villaggi fisici e digitali, e forse non ha torto, se non siamo autonomi siamo delle macchine di carne, ancora non ci usano come pile come in Matrix ma ci sorvegliano e ci fanno fare quello che dicono loro.
Detto questo, è vero anche che gli architetti di tutto questo non saranno le macchine e gli algoritmi, ma i loro signori, che per ora sono ancora umani, e chissà che non sia proprio questo è il problema. Forse è davvero meglio che le macchine diventano senzienti, chi lo sa.

[Mentre tornano a piedi a casa, il tema della discussione sono proprio i signori dell’algoritmo, e nonno e nipote si ripromettono di fare ricerche e di tornarci su.]

PARTE SECONDA | APPROFONDIMENTI

1. SCENARI
1. Uomo e Macchina: quelli in cui condivideremo futuri win win con le macchine.
2. Uomo è Macchina: quelli in cui condivideremo futuri ibridi, cyborg, con le macchine.
3. Uomo o Macchina; quelli in cui condivideremo futuri dominati o dagli umani o, più probabilmente, dalle macchine.

2. PAROLE CHIAVE
Algoritmi, Aspettative, Attenzione, Consapevolezza, 
Controllo, Cyber Security, Dipendenza, Etica, Futuri, Intelligenza Artificiale, Macchine, Machine Learning, Microchip, Paure, Percezione, Pericoli, Possibilità, Prodotto, Profondità, Robot, Sorveglianza, Speranza, Tempo, Uomo, Velocità

3. NOTE  A MARGINE
1. Non dare niente per scontato.
2. Soglia di attenzione molto bassa.
3. Umani mammiferi o umani virus.
4. Intelligenza artificiale e stupidità artificiale.
5. Dilemmi etici.
6. Vita propria e conseguenze non previste delle tecnologie.
7. Difficile dire qual è il problema.
8. Aumento del controllo, salute mentale e uso dei social media.
9. Dipendenza dalla tecnologia, Social Media, Depressione.
10. Fake news. Dall’era dell’informazione all’era della disinformazione.
11. Attacchi informatici, guerre cibernetiche.
12. Capitalismo della sorveglianza. Controllo illimitato delle persone da parte delle grandi aziende grazie ai big data.
13. Democrazia sotto attacco.
14. Tutto questo è normale o siamo tutti sotto una specie di incantesimo? Design etico. [Tristan Harris]
15. Dalla vendita dei prodotti alla vendita degli utenti. Se non stai pagando per il prodotto allora il prodotto sei tu. TH
16. L’obiettivo dei social è capire come ottenere la maggiore attenzione possibile dalle persone.
17. Il prodotto è il graduale e impercettibile cambiamento del tuo comportamento e della tua percezione ad essere il prodotto. Cambiare quello che fai, il modo in cui pensi, chi sei, è questo l’unico modo che hanno di fare profitti. [Jaron Lanier]
18. Tutto questo basato su sistemi che non prevedono nessuna supervisione umana. Previsioni sempre più accurate su quello che faremo, e su chi siamo. [Sandy Parakilas]
19. Le conseguenze sull’efficacia e sulla stabilità della deterrenza delle tecnologie emergenti (in particolare per quanto riguarda la manipolazione informativa, l’automazione, i sistemi automatizzati di supporto alle decisioni, i sistemi ipersonici e i droni).
20. Accelerazione dell’innovazione delle organizzazioni militari nei settori della cyber security, della robotica e dell’Intelligenza Artificiale.
21. Dipendenza mondiale dai microchip e vantaggi strategici maturati da alcuni paesi come Israele.
22. Conflitti e contraddizioni tra sovranità nazionale e ordine digitale globale.
23. Intelligenza Artificiale, Machine Learning e capacità militari dei diversi paesi.
24. Azione normativa (regolamentazione) e sviluppo dell’innovazione nell’ambitodell’intelligenza artificiale. Senza regolamntazione è più difficile l’accesso al mercato dell’IA.
25. La sfida molto più difficile è: in che modo le persone avranno un significato? Molte persone traggono il loro significato dal loro lavoro. Quindi, se non c’è bisogno del tuo lavoro, qual è il tuo significato? Ti senti inutile. Questo è un problema molto più difficile da affrontare. [Elon Musk]

4. LINK
A scuola di lavoro ben fatto, di tecnologia e di consapevolezza, Progetto Educativo
Isaac Asimov, Tre leggi della robotica, Wikipedia
Isaac Asimov, Io, robot, Wikipedia
Io Robot, Film, Wikipedia
Lexus, Takumi, Documentario
Matrix, Film, Wikipedia
Vincenzo Moretti, Decision Making, Blog
Vincenzo Moretti, Il libro di Roberto e la vandera del futuro, Post
Roberto Paura, Occupare il Futuro, Libro
Replika, AI ChatBot
Sir Ken Robinson, Do schools kill creativity?, TED Talk
The Social Dilemma, DocuFilm Netflix
Vincenzo Ferrante, Parità di genere sul lavoro e PNRR: ilrapporto aziendale fa la differenza, Ipsoa Quotidiano

5. ARTICOLI PRECEDENTI
Ritorno al futuro
Gli umani, le macchine e la 4° A di Follonica
Di umani, di macchine e di futuri possibili
Sistema Italia, la pratica della leadership adattiva e l’uso consapevole delle tecnologie
Racconta la tua macchina
Quinto, se sei una macchina, non uccidere
Il futuro del lavoro raccontato da me
Il lavoro che cambia e non finisce