Necromanzia digitale, come l'IA minaccia di creare zombie virtuali

(Tecnologia) - L'intelligenza artificiale generativa, che comprende modelli di linguaggio di grandi dimensioni (LLM) come ChatGPT ma anche generatori di immagini e video come DALL-E 2, ha dato una nuova spinta al fenomeno meglio noto come "necromanzia digitale", l'evocazione dei defunti dalle tracce digitali che lasciano dietro di sé. I dibattiti sulla necromanzia digitale sono stati affrontati per la prima volta negli anni 2010 grazie agli avanzamenti nella proiezione video (tecnologia "deep fake") che hanno portato alla reanimazione di figure come Bruce Lee, Michael Jackson e Tupac Shakur, e anche alle apparizioni postume in film di Carrie Fisher e Peter Cushing, tra gli altri. Inizialmente dominio di case di produzione cinematografica e musicale con risorse considerevoli, lo sviluppo dell'IA generativa ha esteso l'accesso a queste tecnologie a tutti.

Prima che ChatGPT diventasse di dominio pubblico nel 2022, un utente aveva già utilizzato l'LLM di OpenAI per conversare con la sua fidanzata defunta basandosi sui suoi messaggi ed email. Vedendo il potenziale, una serie di startup come Here After e Replika sono state lanciate, sfruttando la generative AI per riportare in vita digitalmente i cari defunti per i parenti in lutto. Per alcuni, questa tecnologia sembra attraversare un confine culturale e forse anche etico. Molte persone si sentono profondamente a disagio all'idea di interagire regolarmente con simulazioni digitali dei defunti. Questa "magia nera" assistita dall'AI è vista con sospetto.

Mantenere legami con i defunti attraverso testi, immagini e artefatti è normale e fa parte della nostra vita quotidiana. Le persone hanno da tempo attribuito un valore emotivo a foto e ricordi come mezzo per mantenere i defunti vicino a loro. L'introduzione della fotografia nel XIX secolo è diventata rapidamente un mezzo alternativo per conservare l'immagine dei defunti. Quando si parla di IA generativa, quindi, non si discute di nulla di particolarmente rivoluzionario. La rapidità con cui le possibilità necromantiche dell'AI sono state sfruttate ci dice molto su quanto bene la tecnologia si integri con le nostre pratiche esistenti di lutto e commemorazione, piuttosto che "cambiarle". Le startup AI in questo settore si basano su precedenti iniziative "fai-da-te" per riportare in vita digitalmente i cari defunti utilizzando l'AI generativa. Attraverso scritti, registrazioni audio, fotografie e video dei cari forniti dai clienti, vengono addestrati modelli AI che rendono possibile l'interazione postuma con "loro" attraverso immagini, voce e testo.

Come ha notato Debra Bassett, che ha studiato ampiamente la vita digitale post mortem, alcuni oppositori a quest'uso dell'AI hanno espresso preoccupazione che i riportati in vita possano dire cose che non avrebbero detto da vivi. Per Bassett, la preoccupazione è che i defunti vengano "zombificati" in violazione della loro integrità.vE poi c'è l'industria della Vita Digitale Post Mortem (DAI) che è dinamica per sua natura: l'uso ubiquo delle tecnologie intelligenti, l'effetto sulla comunicazione interpersonale e il crescente numero di utenti assicurano che questa industria continui a crescere a un ritmo sempre più rapido. La ricerca di Öhman e Watson (2019) suggerisce che entro il 2100 ci saranno 1,9 miliardi di profili di defunti su Facebook. Questi dati mostrano che la DAI è un settore in rapida crescita. Si stima che nel 2018 il DAI negli Stati Uniti valesse approssimativamente tra i 16 e i 20 miliardi di dollari all'anno, e circa 2 miliardi di sterline all'anno nel Regno Unito.

Certo, queste considerazioni sollevano dubbi. Tuttavia, in momenti di crisi o gioia, riflettiamo spesso su cosa avrebbero potuto dirci quelli che abbiamo perso. Le immagini, i testi e gli oggetti personali dei defunti sono da sempre mezzi utilizzati per questo tipo di comunione. Quindi, perché la generale preoccupazione riguardo alla necromanzia digitale è così esagerata? Quando ci concentriamo troppo sui loro aspetti strani e sinistri, perdiamo di vista il modo in cui queste nuove tecnologie parlano e risuonano con ciò che siamo e facciamo già come esseri umani. Come dice Bruce Sterling, “La tecnologia è il falò intorno al quale raccontiamo le nostre storie".

Nell'epoca moderna, le nuove tecnologie, come la criogenia e le tecniche avanzate di rigenerazione cellulare, cercano di allontanare la paura della morte. Altri progetti mirano a creare "digital twin" o versioni virtuali di noi stessi, che potrebbero continuare ad esistere e interagire dopo la nostra morte fisica. Sebbene queste tecnologie possano sembrare un passo avanti verso l'immortalità, portano con sé un manto di mistero e dubbi etici. Sebbene la prospettiva di un'esistenza digitale post-mortem possa sembrare una novità, la storia ci dimostra che l'umanità ha sempre cercato modi per trascendere i limiti fisici della vita e della morte. Dallo sviluppo di tecniche di mummificazione nell'antico Egitto alla creazione di monumenti funebri e mausolei per ricordare i cari defunti, l'essere umano ha sempre cercato di mantenere una sorta di legame con l'aldilà.

Con la rapida evoluzione della tecnologia digitale, la possibilità di una vita post-mortem virtuale non è più solo l'argomento di film di fantascienza o romanzi distopici. Piuttosto, sta diventando una realtà tangibile che molte persone stanno abbracciando come un modo per continuare a vivere, almeno in qualche forma, dopo la morte. Questa prospettiva può sembrare affascinante per alcuni e inquietante per altri. Ma come con tutte le nuove tecnologie, ci sono implicazioni etiche da considerare. Cosa significa per la nostra comprensione della vita e della morte se siamo in grado di "vivere" in un ambiente virtuale dopo la nostra morte fisica? E quali sono le implicazioni per coloro che rimangono vivi?