Il paradiso sbagliato: Return to Grace e la desolazione di un mondo senza problemi

Le conseguenze sociali e occupazionali sono forse meno discusse in forma diretta nella fantascienza, certamente perché percepite come meno remote, più vicine alla nostra quotidianità. Di fatto, il pericolo della sostituzione dei lavoratori da parte dell’IA sembrerebbe non essere che una propaggine del più antico (e generico) tema delle nuove tecnologie. E l’impatto delle nuove tecnologie, e della relativa automazione che ne consegue, non è stata tipicamente negativa a livello occupazionale e sociale nel lungo periodo.

La storia, in particolare quella del XX secolo, è quella di una tecnologia che ha incrementato la torta economica, il benessere. Per una valutazione dell’impatto netto sull’occupazione della diffusione di tecnologie di automazione va infatti considerata non solo la probabilità di espulsione di lavoratori, ma anche la probabilità di creazione di nuovi posti di lavoro⁴. L’utilizzo delle tecnologie di automazione richiede lo sviluppo, la produzione, l’installazione e la manutenzione delle macchine, cosa che porta alla creazione di nuovi ruoli nei settori che si occupano di tali attività⁵. Inoltre, l’utilizzo delle tecnologie consente la riduzione dei costi di produzione, con conseguente calo del prezzo di beni e servizi, un aumento della domanda per tali beni e servizi e della domanda di lavoro necessario per produrli. Le nuove tecnologie possono poi portare a innovazioni di prodotto o alla nascita di nuove professioni e nuovi settori che offriranno opportunità di lavoro⁶.

In ultimo, la quota di lavoratori impiegati nelle occupazioni più deterioranti dal punto di vista fisico è diminuita drasticamente in occidente, e questo ha migliorato notevolmente il benessere della popolazione per grandissima parte proprio per merito delle nuove tecnologie⁷. Insomma, storicamente l’automazione sembrerebbe poter portare ad aggiustamenti nel mercato del lavoro di breve termine, mentre avrebbe effetti tendenzialmente favorevoli nel lungo periodo⁸.

Che il passato sia stato di questa fattura non deve però bastarci per ritenere di sapere come si svilupperà il futuro. Non è detto infatti che ogni cambiamento tecnologico sia vantaggioso: bisogna indagare se quello portato dalla IA possa essere diverso. È vero infatti che oltre il 60% dell’occupazione contemporanea si trova in mansioni che non esistevano nel 1940⁹, e che quindi i benefici della tecnologia per il mercato del lavoro dipendono dalla capacità della società di aggiungere rapidamente nuove occupazioni che utilizzino le capacità umane, assorbendo così i lavoratori sostituiti.

Insomma, le nuove tecnologie sostituiscono i lavoratori e creano nuove mansioni per loro; quando la sostituzione supera la capacità di creare nuovo lavoro, l’occupazione e i salari possono iniziare a diminuire¹⁰. È assolutamente lecito domandarsi se le specificità dell’IA siano tali da destare preoccupazioni in tal senso. Un indizio ci è dato dalle caratteristiche intrinseche della “nuova generazione” di intelligenze artificiali.

L’IA è tornata sulla bocca di tutti ed è al centro del discorso soprattutto dall’apertura al pubblico generalista di ChatGPT, il chatbot e virtual assistant sviluppato da OpenAI e lanciato il 30 novembre 2022. Costruito sulla base di Large Language Models (LLMs) e ottimizzato per le applicazioni conversazionali, ChatGPT ha di fatto acceso l’attenzione del mondo sulla IA generativa, ovvero un particolare tipo di IA capace di generare testo, immagini o altro in risposta a specifiche richieste scritte in linguaggio naturale dall’utente.

Si tratta appunto di una tecnologia generativa, e che quindi sembra compiere una invasione di campo in quella che da molti è percepita come la caratteristica distintiva dello stesso genere umano: la creatività. Come possiamo creare nuove mansioni che si basano sulle capacità umane se l’IA ha iniziato ad appropriarsi di queste stesse capacità?

L’impatto è già qui, è già presente anche nel mercato videoludico. High on Life, il caustico FPS del creatore di Rick and Morty, Justin Roiland, già a fine 2022 sfruttava le immagini “create” dall’IA Midjourney per riempire le pareti di poster cinematografici fittizi, generando (pun intended) anche numerose polemiche sul copyright. I problemi emergenti sono tanto di natura economica/legale (a chi spettano i diritti sulle creazioni dell’IA, realizzate addestrandola su opere di artisti umani?) quanto antropologici: se ci facciamo sostituire dalle macchine anche in questo campo, potremmo presto scoprirci inutili e vuoti.

In Return to Grace interpretiamo Adamari, Adie per gli amici, una archeologa spaziale che atterra su Ganimede¹¹ nel 39° secolo per cercare informazioni su Grace, l’intelligenza artificiale del titolo, che aveva per secoli guidato l’umanità verso un’età dell’oro, fatta di pace, prosperità e colonie spaziali, prima di finire misteriosamente disattivata circa 900 anni prima.

La dipendenza dell’umanità da Grace era tale che, in seguito alla sua disattivazione, non è nemmeno chiaro cosa sia successo, non essendoci più resoconti scritti di alcun tipo. Adie atterra su Ganimede non per ricreare questa età dell’oro, fatta di meraviglie tecniche e colonie spaziali su Mercurio, ma mossa da un desiderio di conoscenza, da una sete totale di sapere che la spinge ad addentrarsi nell’enorme struttura che ospitava un tempo Grace. Fin da subito appare peraltro chiara una cosa: per Adie, con ogni probabilità, non ci sarà un ritorno. Non ha abbastanza aria per restare troppo a lungo, né un mezzo per tornare indietro, eppure tutto questo non sembra smuoverla dal suo intento.

All’interno della immensa base su Ganimede, Adie verrà aiutata da tre differenti intelligenze artificiali, partizioni della principale Grace, nell’obiettivo di riuscire a “riunirle” per poter finalmente parlare con Grace e capire quanto accaduto. Le tre IA (Logic, Control ed Empathy) compiranno ulteriori partizioni fra loro, creando un totale di sei differenti “soggetti”, che insieme daranno vita a continui siparietti e dialoghi di ottimo spessore, tanto fra loro quanto con la stessa Adie. Complice un eccellente doppiaggio, particolarmente sorprendente viste le ridotte dimensioni della produzione, questi dialoghi rappresentano un grosso punto di forza del titolo, unitamente alla buona estetica retro-scifi anni ’60. I puzzle che riempiono la progressione sono semplici ma delicati, e soprattutto hanno un fondamentale ruolo diegetico, peraltro reso con meccaniche ludiche molto raffinate.

Avventurandosi dentro la struttura che ospita Grace, Adie inizia a intravedere segnali inquietanti. Progredendo verso l’apice della struttura, le stanze della base spaziale si fanno via via più desolate, vandalizzate, ricche di messaggi disperati dei visitatori. Ci sono tracce di guerriglia, barricate, ribellione; tutti elementi che sembrano paventare qualche “classico” epilogo infelice per l’IA. Grace si è forse ribellata, ed è stata così distrutta?

Per la verità, queste possibilità vengono presto spazzate via. Il dubbio rimane per poco, e diventa presto chiaro che quanto accaduto è molto diverso. La ribellione si è svolta infatti contro lo spegnimento dell’IA da parte dei visitatori, rivolta verso il guardiano designato di Grace, e non una goccia di sangue è stata versata. Le ipotesi di ribellione dell’IA sono quindi inserite di proposito dagli sviluppatori, come per ribadire che oggi non sono questi i problemi della tecnologia a cui dobbiamo guardare. Anzi, un finale in cui l’IA ci elimina è presente, ma è del tutto evidente fin dal principio che si svilupperà solo qualora seguissimo determinati percorsi, determinate scelte che andranno ad assecondare Control, in un crescendo di assurdo e autodistruzione che non fanno che ribadire una cosa: l’IA potrebbe anche annientarci, ma solo se noi del tutto scientemente ci consegniamo a essa.

Il guardiano di Grace, in ogni caso, non stava facendo altro che assecondare il volere della stessa Grace, che aveva essa stessa chiesto di essere spenta, per il bene dell’umanità. Ma come è possibile che la quasi onnisciente responsabile di una golden age impareggiabile si concepisse come un problema? Return to Grace ce lo spiega con grande sofisticazione attraverso i propri già citati puzzle.

In linea di principio, si tratta di semplici enigmi piuttosto tediosi. Unire puntini, compiere piccoli calcoli, illuminare elementi secondo schemi predefiniti. È il tedio stesso la chiave espressiva del titolo: molto presto le varie intelligenze artificiali inizieranno a darci suggerimenti, che potranno anche sembrare invasivi in alcuni casi.

“Per aprire questa porta devi illuminare i riquadri sullo schema della lettera fenicia taw”, ci dice Logic, con tono supponente e infastidito. Ok, non conosco questa lettera. Che faccio? Cerco online?

“La lettera greca Chi”, continua Logic. Ok, questa la so, ho fatto il classico mica per niente.

“Il numero romano 10”, conclude spazientita Logic prima che potessi finire di illuminare tutti i riquadri. Ora mi fa sembrare veramente stupido, come si permette?

Una situazione simile si ha anche con altri quesiti meno “stimolanti”. Circa a metà delle due ore di gioco necessarie ad arrivare al finale, affronteremo una sezione in cui dovremo aprire numerose porte attraverso la ripetizione continua di un puzzle piuttosto banale. Alcune luci si accenderanno in sequenza su un pannello a lato della porta, e noi dovremo ripetere tale sequenza nello stesso ordine.

È qui che entra in gioco Jack, l’IA nata dalla combinazione di Logic e Control. Dopo un paio di questi puzzle, Jack ci suggerirà timidamente che può completare il puzzle per noi. Perché no, pensiamo. Perché non lasciare che l’IA ci tolga questa fatica? La scelta sta al giocatore, ma quanto senso ha scegliere diversamente? E così, a partire dal successivo puzzle sarà Jack a fare tutto per noi, a toglierci questo impaccio. Un occhio attento potrebbe inoltre notare che la difficoltà di questi puzzle è molto variabile, e segue un pattern molto evidente: in una prima fase le sequenze tendono a diventare via via più complesse, per poi scemare nella banalità più totale. L’ultima è di una facilità estrema, ma se abbiamo bypassato le altre perché non bypassare anche questa?

Proseguendo nel titolo, la sostituzione dell’IA al giocatore stesso diventa più inquietante. L’apice lo si raggiunge in uno degli ultimi enigmi: un puzzle matematico unico nel gioco e decisamente più stimolante di quanto visto fino a quel momento. A seconda delle nostre azioni precedenti, proprio durante la risoluzione di un enigma ben strutturato, Jack potrebbe nuovamente intervenire nel gioco, questa volta risolvendo automaticamente il puzzle senza nemmeno chiederci il permesso.

Adie è interdetta quanto noi. Voleva risolverlo, mettersi alla prova, ma Jack neanche la considerava una possibilità. Perché faticare ora, quando non l’hai fatto prima per cose più semplici? È questa l’amara considerazione di Return to Grace: la progressiva e sistematica obliterazione della difficoltà e della fatica sembra inarrestabile, ma potrebbe alla fine lasciarci interdetti, potrebbe farci mancare qualcosa.

È di fatto la conclusione a cui è arrivata Grace stessa, ed è per questo che si è disattivata.