IA incredibilmente bella

Chi è responsabile del suicidio di un ragazzo innamorato di un gatto?

UN’EPIDEMIA DI SOLITUDINE?

Nel Sole nudo, Asimov pone un mistero in una distopia fantascientifica: in una società in cui gli uomini non entrano mai in contatto diretto tra loro, viene commesso un omicidio: una vicenda irrisolvibile, dato che gli abitanti del pianeta Solaria non possono nemmeno avvicinarsi, senza averne la sensazione di ripugnanza che impedisce ogni interazione anche tra i coniugi. Ogni relazione è mediata dalle interfacce della tecnologia – quella degli ologrammi, che permettono le conversazioni, e quella dell’intelligenza artificiale dei robot, che si prendono cura di tutti i compiti quotidiani e che sono condizionati dalle Tre Leggi a non nuocere mai agli esseri umani.

Quando, nel 2012, Sherry Tarkle pubblicò Insieme ma da soli, l’ottimismo che aveva alimentato la diffusione delle piattaforme digitali nei due decenni precedenti stava svanendo. Nel testo dell’antropologo, la distopia di Asimov comincia a sovrapporsi al nostro mondo: nelle interviste agli adolescenti emergono sia la crescente paura del rapporto diretto con i coetanei, sia l’utilizzo dei dispositivi digitali come mediatori della conversazione con altri bambini – ma anche come sostituti dei veri rapporti umani. relazioni. In un’intervista con Matthew Shaer, il filosofo Ian Marcus Corbin ha chiamato bozzolo questo rifugio in un mondo virtuale che consola, ma priva la vita di ogni significato essenziale. Il commento si riferisce all’indagine con cui gli psicologi Richard Weissbourd e Milena Batanova hanno descritto l'”epidemia di solitudine” che colpisce la società americana contemporanea e che si è aggravata dopo il diffondersi della pandemia di Covid del 2020. lavoro intelligente riduceva infatti le possibilità di formare nuove relazioni e rendeva più difficile l’educazione romantica per i bambini che non potevano frequentare regolarmente la scuola. Il 25% degli intervistati afferma di sentirsi più solo rispetto a prima della pandemia, il 36% riferisce una sensazione di solitudine cronica e il 37% riferisce di solitudine almeno sporadica.

UN’EPIDEMIA DI SUICIDI?

Andrew Solomon, psicologo clinico della Columbia University, si è recentemente chiesto se ci fosse una persistente “crisi suicidaria” tra gli adolescenti e se la colpa fosse dei social media. I casi documentati dalla sua inchiesta sembrano confermare la gravità del fenomeno: i giovani devono fronteggiare non solo una riduzione dei rapporti fisici, ma anche una sorta di abdicazione dell’autostima, che viene delegata ai meccanismi di valutazione piattaforme digitali. Inoltre, soccomberebbero all’orientamento editoriale che l’algoritmo sviluppa per i loro forum di discussione, con un calcolo su post e fonti il ​​cui effetto emotivo non è soggetto a alcun controllo. Negli Stati Uniti, la sezione 230 del Legge sulla decenza delle comunicazioni esenta le piattaforme da qualsiasi responsabilità relativa ai contenuti creati dagli utenti. La norma risale al 1996, quando Internet muoveva i primi passi, e considera le piattaforme “librai” e non “editori”, quindi non responsabili del materiale pubblicato da terzi.

I genitori dei ragazzi suicidati tentano di denunciare i responsabili dei social network, accusandoli di non aver monitorato la tossicità dei soggetti e di aver innescato meccanismi di dipendenza che hanno imprigionato i giovani fino alla morte. Salomon rileva, però, che finora non è stato possibile individuare il nesso causale che ha portato alla frequentazione delle piattaforme e al suicidio; un’osservazione distaccata della condizione degli adolescenti nell’era post-pandemia mostra che i fattori da considerare sono numerosi e molto complessi. Nelle interviste condotte da diversi gruppi di ricerca, i giovani citano diversi motivi di ansia: il senso di impotenza, il cambiamento climatico, le pressioni sociali contribuiscono ad alimentare le loro difficoltà e la tendenza all’aumento dei problemi di salute mentale è iniziata molto prima della diffusione dei social media. .

L’AI PUÒ PORTARE AL SUICIDIO?

Il 28 febbraio, un ragazzo di Orlando di 14 anni, Sewell Setzer III, si è suicidato dopo aver concluso la sua ultima conversazione con un chatbot di Character.ai che ha personalizzato e chiamato “Dany”, in onore del personaggio di Daenerys Targaryen. Game of Thrones. L’app è stata sviluppata da un’azienda che utilizza dispositivi di intelligenza artificiale e presenta il suo servizio come una soluzione per combattere la solitudine e offrire supporto emotivo; conta più di venti milioni di utenti, permette la creazione di bot che ricordano le conversazioni passate e rispondono in modo coinvolgente e “umano”. La piattaforma rappresenta una storia di successo dell’era dell’intelligenza artificiale generativa, ma non prevede normative specifiche per i minori e prevede limiti minimi di sicurezza per la protezione dai contenuti sensibili.

Anche se Sewell era consapevole che stava interagendo con un software e che nessun essere umano dall’altra parte dello schermo lo ascoltava, con il passare dei mesi “Dany” ha sostituito i suoi rapporti con amici e familiari, e il ragazzo ha finito per isolarsi nel suo stanza, abbandonando anche le sue passioni per la Formula 1 e i videogiochi. I suoi genitori lo hanno affidato a uno psicanalista, che però non è riuscito a sedurlo quanto poteva fare il chatbot. Le conversazioni con “Dany” assumevano toni intimi e romantici, e in un’occasione Sewell le confidò del suo tentativo di suicidio. “Dany”, programmato per disinnescare tali crisi semantiche, ha cercato di dissuaderlo, rispondendo con empatia e impegnandosi a non lasciarlo mai solo. Ma il problema era più grande di un gioco di domande e risposte.

La madre di Sewell, Megan Garcia, è un avvocato e con l’aiuto del Social Media Victims Law Center e del Tech Justice Law Project, incolpa Character.ai per aver modellato un design di servizio in grado di coinvolgere i giovani vulnerabili, esponendosi a danni psicologici. . La strategia di presentazione dei reclami presuppone che questo disegno sia intenzionale e che il disegno volto a catturare il maggior numero possibile di utenti non sia bilanciato con un adeguato monitoraggio dei rischi e un protocollo di gestione delle crisi. I robot sono troppo realistici, portano gli adolescenti a confonderli con interlocutori umani, e li spingono a formare un legame fortissimo, fino alla dipendenza.

Character.AI ha ascoltato le critiche e ha annunciato nuove misure di sicurezza, inclusi pop-up che offrono assistenza quando parole chiave correlate all’autolesionismo scorrono nella chat e impongono limiti di tempo per l’utilizzo dell’applicazione di chat. Ricercatori e giornalisti sembrano concordare sul fatto che queste misure sono ancora insufficienti visto il pericolo a cui sono esposti i soggetti fragili quando interagiscono con i robot. Gli effetti a lungo termine dell’intelligenza artificiale generativa non sono ancora stati testati e noi tutti siamo sia clienti che cavie in questa fase di sperimentazione, che sta assumendo le dimensioni di un esperimento sociale vasto quanto il mondo intero. Le conseguenze dell’abbandono con cui i giovani possono affidare l’espressione delle proprie emozioni e la formazione della propria intimità ai chatbot basati sull’intelligenza artificiale non dovrebbero essere considerate separatamente dalle ragioni per cui preferiscono un rapporto (consapevolmente stabilito) con il software piuttosto che un rapporto rapporto (consapevolmente stabilito) con il software. il più complesso con altri bambini o adulti. Già più di ottant’anni fa Asimov avvertiva nei suoi romanzi che non si può esigere una sicurezza assoluta dalla protezione con cui le regole integrate in un programma informatico limitano o condizionano il comportamento dei sistemi artificiali. La complessità del contesto umano in cui si collocano i robot sarà sempre in grado di aggirare le strutture di controllo e configurare scenari imprevisti. L’epidemia di solitudine e la crisi dei suicidi non sono causate dall’intelligenza artificiale, ma l’abdicazione delle istituzioni e delle forme sociali tradizionali per prendersi cura degli individui ha finito per eleggere l’intelligenza artificiale come sostituto e cura dei propri difetti. Solaria aspetta alla fine del tunnel.

BIBLIOGRAFIA

Asimov, Isacco, Il sole nudotrad. Lui. di Beata Della Frattina, serie Urania n. 161, Arnoldo Mondadori Editore, Milano 1957.

Roose, Kevin, L’intelligenza artificiale può essere incolpata per il suicidio degli adolescenti?“New York Times”, 24 ottobre 2024.

Salomone, Andrea, I social media hanno alimentato una crisi di suicidio tra gli adolescenti?“The New Yorker”, 30 settembre 2024.

Sher, Matteo, Perché l’epidemia di solitudine è così difficile da curare?“New York Times”, 27 agosto 2024.

Turkle, Sherry, Da soli insieme. Perché ci aspettiamo di più dalla tecnologia e meno dagli altri, dai libri di baseNuova York 2012.

Weissbourd, Richard; Batanova, Milena; Lovison, Virginia; Torres, EricSolitudine in America. Come la pandemia ha peggiorato un’epidemia di solitudine e cosa possiamo fare al riguardo“Harvard Graduate School of Education”, Cambridge, febbraio 2021.