PERIFERICHE #2
Riflessioni sugli impatti della tecnologia sulla società a partire da Come costruire un essere umano di Hiroshi Ishiguro
di Ilaria Padovan
È stato sorprendente, leggendo Come costruire un essere umano, che più che parlare di androidi si parlasse di noi, degli esseri umani. Non solo di coloro che li ideano, costruiscono, gestiscono, ma anche di chiunque abbia a che fare con la tecnologia e che ne sperimenta gli effetti nella propria quotidianità. Appunto, noi. Come se il legame tra umanità e tecnologia fosse, ormai, inscindibile e quindi impossibile argomentare l’una senza la lente dell’altra. Lo si intuisce chiaramente anche dalla dichiarazione di intenti dell’autore: «Il mio androide era […] un canale attraverso il quale considerare l’essenza stessa del genere umano».
Partiamo dal volto, l’elemento che con maggiore sicurezza potremmo dire essere rappresentativo e distintivo di ciascuno, e di cui ognuno non vede altro che la versione specchiata, tanto da considerare inesatta l’immagine restituita dalle fotografie, da trovare strana quella riflessa durante le call. La proiezione attraverso un supporto scollegato da noi, eppure maschera sociale fondamentale, è in grado di destare preoccupazioni e spingerci ad azioni dettate dalla compenetrazione tra analogico e digitale. Non abbiamo a che fare, noi, con umanoidi dalla pelle siliconica perfetta e dalla luminosità impareggiabile, ma con webcam perennemente puntate alla fronte – specialmente dalla pandemia in poi – che hanno portato allo svilupparsi di quella che è stata definita “virtual meeting fatigue”[1], una sensazione di stanchezza incrementata dal semplice ritrovarsi continuamente faccia a faccia con noi stessi nel corso di giornate scandite da interminabili flussi di videochiamate.
Allo stesso modo, abbiamo a che fare con i social media che, nonostante la maggiore attenzione verso la body positivity, non hanno ridotto la tendenza a immortalare fisici perfetti e irraggiungibili, anche grazie al proliferare di AI generative. I social continuano a ricercare e promuovere “l’eccezionale”, non ciò che necessariamente risponde a canoni estetici classici, ma che sia in grado di catturare l’attenzione, di convogliare views e interazioni. Come ben identifica Carlo Milani in Pedagogia hacker[2], «i social media di massa, le app più note, i siti più cliccati sono costruiti appositamente in maniera tossica. Favoriscono l’instaurarsi di dinamiche di abuso e auto-abuso, stimolando in maniera incoercibile il sistema dopaminergico a prescindere dall’età, dalle competenze, dalla lingua, dal sesso, dallo status sociale degli esseri umani implicati». Un esempio recente di quanto siamo disposti a modificarci in virtù di un apparire insolito, inimitabile, eccezionale appunto: l’incremento della richiesta di costosi interventi chirurgici[3] in grado di democratizzare l’eterocromia a cui crescente attenzione è stata riservata da influencer e celebrità.
La proiezione attraverso un supporto scollegato da noi, eppure maschera sociale fondamentale, è in grado di destare preoccupazioni e spingerci ad azioni dettate dalla compenetrazione tra analogico e digitale.
Proprio perché viviamo le nostre vite basandoci su una concezione lievemente sbagliata di noi stessi, ci è necessario interagire in maniera sociale: possiamo riconoscere il nostro vero io solo attraverso gli altri, e l’interazione con gli altri – seppur mediata da una immagine – non può fermarsi alla superficie.
Ishiguro nota e annota un elemento fondamentale: «Controllare un androide è molto semplice: bisogna soltanto osservare alcuni schermi e premere dei pulsanti [..]. Se gestite un androide per un po’ di tempo, inizierete a percepirlo come il vostro corpo e, al tempo stesso, chi interagisce con lui comincerà a comportarsi come se stesse interagendo con voi». Di nuovo, una sensazione che possiamo provare nella nostra quotidianità sia nella sfera lavorativa che in quella privata dove intratteniamo rapporti anche solo mediati da uno schermo.
Pur volendosi soffermare sull’aspetto più positivo che ci viene offerto, e cioè quello di trovarci di fronte a opportunità senza precedenti in fatto di connessioni sociali, non è possibile non considerare come l’uso di un’interfaccia possa avere risvolti psicologici differenti in chi la utilizza, quale ad esempio un generale incremento di aggressività nelle interazioni. Uno studio[4] della Yale University apparso su Science Advances mostra come i social media ci stiano incoraggiando da anni a esprimere e sfogare rabbia e indignazione. Questo sempre con l’obiettivo di generare più interazioni, like e condivisioni. Inoltre, la tecnologia comporta isolamento sociale[5] (si pensi al fenomeno hikikomori: in Giappone, uno dei paesi più tecnologicamente avanzati al mondo, dov’è stato coniato il termine, se ne contano 1,5 milioni[6], cifra incrementata dopo la pandemia) e una minore capacità di instaurare relazioni significative. Le cause sono da ricercarsi sia nella facilità di portare avanti conversazioni senza affrontarle nella vita analogica – che porta a un minore coinvolgimento emotivo verso un interlocutore, non essendo esposti a espressioni e micro-espressioni facciali, e nella tendenza a ricorrere più facilmente al blocco dell’altro[7] evitando così il confronto su temi potenzialmente scomodi –, sia nell’impossibilità di avere tempo a sufficienza per rafforzare le amicizie[8] nel momento in cui si è troppo impegnati a costruire il proprio network di conoscenze.
Ancora più interessante, allora, notare come di fronte a un androide che sorride a una conferenza stampa «i giornalisti sorridessero e annuissero a loro volta», o ancora un invito per una conferenza direttamente indirizzato all’androide di Ishiguro stesso: «Gentile Copia del prof. Ishiguro» (H. Ishiguro, Come costruire un essere umano, Wudz 2024). Pensando alla nostra di realtà, è affascinante, a fronte di un deteriorarsi delle relazioni umane, la capacità che abbiamo di essere gentili[9] nei confronti di chatbot e altre intelligenze artificiali, dal momento che interagire senza convenevoli risulterebbe innaturale e potrebbe essere percepito come un comportamento controproducente[10].
Questo perché, come ci ricorda Ishiguro, «il nostro cervello esiste soprattutto per interagire con le altre persone, al punto tale che ricerchiamo dei tratti umani negli oggetti che utilizziamo», come se, constatata una minore capacità di instaurare relazioni reali con esseri umani, ci fossimo già predisposti ad accettarne i surrogati tecnologici (in quest’ottica, si pensi anche ai deepfake creati con l’obiettivo di sostituirsi ai defunti[11]).
è affascinante, a fronte di un deteriorarsi delle relazioni umane, la capacità che abbiamo di essere gentili nei confronti di chatbot e altre intelligenze artificiali
Fin qui il tentativo di migliorare la performance in ambito sociale, ma il campo di applicazione elettivo è sicuramente quello lavorativo.
La tecnologia, soprattutto attraverso i suoi ultimi sviluppi, ha modificato inequivocabilmente e inesorabilmente l’ambiente e le aspettative professionali nei confronti dei dipendenti. A fronte di una maggiore flessibilità e all’opportunità del lavoro da remoto (nonostante una sua sensibile contrazione[12] una volta conclusasi l’emergenza pandemica), assistiamo all’affermazione della cultura dell’always-on[13], per cui, al lavoratore dipendente, è concesso di organizzare la propria vita al prezzo di rimanere connesso ed essere sempre raggiungibile, sfumando il confine tra lavoro e tempo libero, con un impatto negativo sul work-life balance generando maggiori livelli di stress, burnout e portando a un generale peggioramento del benessere degli individui, in cambio di cassette di frutta e sconti irrisori per iscriversi a corsi di yoga che non si avrà il tempo di frequentare.
Va considerata inoltre l’ulteriore spinta in questa direzione dovuta alla disponibilità, gratuita nella sua versione base, dell’intelligenza artificiale generativa definita “la nuova frontiera della produttività” da McKinsey che stima[14] che un impatto in questo senso «potrebbe aggiungere trilioni di dollari al valore dell’economia globale». Questo senza ritenere problematici né gli impatti ambientali[15], né gli effetti del tecno-feudalesimo[16] che rendono le big tech immuni sia alle logiche del capitalismo che alle leggi nazionali, né, tantomeno, la maggiore disparità[17] nei confronti dei paesi in via di sviluppo che, senza adeguati programmi di formazione e mentoring, non potranno superare le barriere all’ingresso e quindi beneficiarne a differenza delle economie più sviluppate.
Di fronte a potenzialità tanto vaste, i veri interrogativi riguardano come e da chi queste tecnologie verranno gestite.
In Come costruire un essere umano non mancano le riflessioni in merito: «L’operatore umano è necessario soltanto nel dieci percento del tempo in cui il robot è attivo. Una gestione creativa può permettere a un operatore umano di controllare fino a dieci robot alla volta. Ciò significa che una persona può svolgere il lavoro di dieci, rendendo questo sistema estremamente pratico». Ci troveremmo, quindi, di fronte a un doppio livello di performatività: il robot – ma già i computer, le automazioni, le intelligenze artificiali – che incrementa la produttività rispetto all’azione umana, e la possibilità di far gestire a una singola persona fino a dieci di questi robot con risultati e rendimento senza precedenti. Ma a beneficio di chi? Viene da chiederselo, specialmente dopo l’annuncio di NVIDIA[18] (ad oggi, l’azienda in grado di acquisire maggior valore grazie al boom dell’AI generativa) della creazione di una nuova suite di servizi destinata a supportare i produttori[19] di robot umanoidi o l’affermazione di Elon Musk sull’intenzione di voler utilizzare, internamente all’azienda, umanoidi entro il prossimo anno[20].
Di fronte a potenzialità tanto vaste, i veri interrogativi riguardano come e da chi queste tecnologie verranno gestite. È emblematico che, proprio coloro che hanno contribuito a rivoluzioni simili, abbiano poi cercato – talvolta troppo tardi – di proteggerne i propri figli. Steve Jobs e Bill Gates[21], ad esempio, limitarono l’uso dei dispositivi in famiglia, avendo già percepito i pericoli legati a un’esposizione incontrollata, come osservato[22] anche da Chris Anderson (ex editor di Wired e co-fondatore di 3D Robotics).
A questo punto, la domanda non può che essere diretta: ha ancora senso cercare di arginare l’impatto della tecnologia su pochi, quando è già diventata la lente attraverso cui interpretiamo la condizione umana stessa?
Riferimenti ipertestuali
1 C. Gallo, Three Cures For Virtual Meeting Fatigue, According to New Microsoft Research, in «Forbes», 16 luglio 2020.
2 C. Milani, Pedagogia hacker, in «Il Tascabile», 31 gennaio 2024.
3 V. Panetta, Cambio colore degli occhi. «Richiesta sempre più elevata»: quanto costa e come funziona la cheratopigmentazione, in «Il Messaggero», 15 luglio 2024.
4 W. J. Brady, K. Mcloughlin, T. N. Doan, M. J. Crockett, How social learning amplifies moral outrage expression in online social networks, in «ScienceAdvances», 13 agosto 2021.
5 T. L. Lowery, The Impact of Digital Technology on Children’s Social Interaction: A Literature Review, 2023.
6 J. Yeung, M. Karasawa, Japan was already grappling with isolation and loneliness. The pandemic made it worse, in «CNN», 7 aprile 2023.
7 The Pros And Cons Of Technology And Relationships: The Roles Of Social Media And Other Forms Of Communication, in «Regain», 18 marzo 2025.
8 Social Media Is Killing Your Friendships, in «Healthline».
9 Perché siamo gentili con le intelligenze artificiali?, in «Il Post», 5 giugno 2024.
10 D. Gallegos, Is It OK to Be Mean to a Chatbot?, in «The Wall Street Journal», 15 febbraio 2024.
11 Z. Yang, Deepfakes of your dead loved ones are a booming Chinese business, in «MIT Technoloy Review», 7 maggio 2024.
12 R. Shanbhogue, The fight over remote working will heat up in 2024, in «The Economist», 13 novembre 2023.
13 P. Keshwani, S. Patel, The Impact of Technology on Work Life Balance, in «IRE Journals», 29 giugno 2023.
14 The economic potential of generative AI: The next productivity frontier, in «McKinsey», 14 giugno 2023.
15 D. Milmo, A. Hern, J. Ambrose, Can the climate survive the insatiable energy demands of the AI arms race?, in «The Guardian», 4 luglio 2024.
16 C. Cadwalladr, “Capitalism is dead. Now we have something much worse”: Yanis Varoufakis on extremism, Starmer, and the tyranny of big tech, in «The Guardian», 24 settembre 2023.
17 The Uneven Impact of Generative AI on Entrepreneurial Performance (pdf), in «hbs.edu».
18 N. Robins-Early, Nvidia becomes world’s most valuable company amid AI boom, in «The Guardian», 18 giugno 2024.
19 S. Bandhakavi, Nvidia announces new support for humanoid robots, in «The Monitor», 30 luglio 2024.
20 AI chipmaker Nvidia launches tools for developers building humanoid robots, in «The Hindu», 3 agosto 2024.
21 C. Weller, Why did Bill Gates and Steve Jobs guard their kids from tech?, in «World Economic Forum», 27 ottobre 2017.
22 D. Bolton, The reason Steve Jobs didn’t let his children use an iPad, in «The Independent», 24 febbraio 2016.
.
Cosa resta dell’uomo è il secondo appuntamento di PERIFERICHE – umanità al margine, tecnologie alla ribalta, una rubrica a cura di Ilaria Padovan.
Ilaria Padovan nasce a Pavia nel 1990 e lavora in consulenza a Milano. Suoi racconti sono comparsi su «Topsy Kretts», «Crunched», «Risme», «Turchese», «Grado Zero» e «Yanez». Collabora con Treccani, Il Tascabile e The Vision.
Vuoi sostenere L’Appeso?
Rispondi