Colpevolezza: la responsabilità al tempo delle macchine intelligenti

di Silvia Castellani

Spesso mi sento chiedere: a cosa serve un romanzo? In un mondo che pretende da ogni cosa un’utilità immediata e visibile, un profitto, la domanda sembra quasi inevitabile. Le risposte potrebbero essere molte, ma forse quella più giusta è la più semplice: un buon romanzo serve a interpretare la realtà che ci circonda. Non ci chiede soltanto di seguire una narrazione, le vicende di un personaggio, ma di prendere posizione. Ponendoci di fronte a situazioni e dilemmi che difficilmente affronteremmo altrimenti, ci costringe a confrontarci con una parte di noi stessi che non avevamo interrogato, semplicemente perché fino a quel momento non ne avevamo avuto bisogno.

Mi pare che sia proprio questa la prospettiva da cui si può leggere Colpevolezza, l’ultimo romanzo di Bruce Holsinger (E/O, 2026, traduzione italiana di Dario Diofebi).

La famiglia Cassidy-Shaw è, almeno all’apparenza, una normale famiglia americana.

Noah proviene da un ambiente sociale modesto, fatto di lavori logoranti e mal pagati: non possiede un capitale economico né culturale, ma è riuscito a laurearsi in giurisprudenza ed è diventato un avvocato senza grandi ambizioni, profondamente consapevole di cosa significhi vivere nella precarietà socioeconomica. Lorelei Shaw, la moglie, proviene invece da un contesto completamente diverso. Dotata di un intelletto fuori dal comune, segnata da un disturbo ossessivo compulsivo, ha studiato nei migliori college, ha conseguito un doppio dottorato ed è diventata un’esperta di etica dell’intelligenza artificiale.

Il loro matrimonio si regge su un equilibrio silenzioso. Noah sa di muoversi un passo indietro rispetto alla moglie sul piano intellettuale e sociale, e questa consapevolezza – insieme tacita e attraversata da un profondo orgoglio per lei – definisce il modo in cui guarda a se stesso e al loro rapporto.

Hanno tre figli. Charlie, il maggiore, è un promettente atleta di lacrosse: per lui il futuro sembra già tracciato, tra una borsa di studio per un college prestigioso e la vita apparentemente semplice del ragazzo destinato al successo. Alice, un tempo appassionata lettrice, si sente invece emarginata dai fratelli e quasi invisibile in famiglia, e negli ultimi tempi passa sempre più ore davanti allo schermo del suo smartphone. Poi c’è Izzy, la più piccola.

È all’interno di questa normalità familiare che si produce l’evento da cui prende avvio la vicenda. Durante uno dei viaggi per le trasferte sportive di Charlie, il minivan di famiglia – dotato di un sofisticato sistema di guida autonoma – rimane coinvolto in uno scontro con un’altra automobile. I Cassidy-Shaw ne escono quasi illesi; a perdere la vita sono invece i due anziani coniugi sull’altra vettura, i Drummond.

Da questo momento il romanzo entra nel proprio vero campo d’indagine: l’attribuzione della responsabilità. Charlie era al volante, è vero; ma accanto a lui sedeva il padre, l’adulto che avrebbe dovuto vigilare, mentre entrambi i genitori erano distratti dal lavoro sugli schermi dei loro computer. A complicare ulteriormente il quadro c’è il SensTrek, il sistema di guida autonoma che avrebbe dovuto evitare lo scontro. È in questo intreccio di responsabilità umane, distrazioni collettive e fiducia nella tecnologia che si colloca il nodo centrale del romanzo.

Il lettore segue così la famiglia nel tentativo di ritrovare una nuova stabilità. Per allontanarsi dal trauma dell’incidente, Lorelei organizza una vacanza nella baia del Chesapeake che dovrebbe offrir loro l’occasione per ricomporsi. Sullo sfondo rimane però la possibilità di conseguenze penali per Charlie: il sistema di guida autonoma dell’auto ha registrato ogni dettaglio dello scontro.

«In un certo senso si può dire che ci fosse un sesto testimone a bordo del veicolo» (B. Holsinger, Colpevolezza, p. 42), osserva la detective incaricata delle indagini. È proprio in questa immagine, tanto semplice quanto inquietante, che irrompe la vera protagonista del romanzo: la tecnologia. Non solo nella materialità dei dispositivi – basti pensare ad Alice che stringe lo smartphone a sé durante e dopo l’incidente, o all’episodio in barca a vela in cui Eurydice, figlia del magnate della tecnologia Daniel Monet (destinato ad avere un ruolo centrale nella vicenda), cade in mare rischiando la vita pur di recuperare il telefono che stava scivolando – ma come presenza costante che osserva, registra e, talvolta, interviene nelle vicende umane, insinuandosi persino nella dimensione emotiva dei personaggi. Emblematiche, in questo senso, sono le conversazioni tra Alice e Blair: inizialmente percepite come uno scambio autentico tra due amiche, acquistano un effetto straniante quando diventa chiaro che Blair non è una persona, ma un chatbot – o, come lei stessa precisa più volte, «tecnicamente, un Large Language Model». (B. Holsinger, Colpevolezza, p. 306, 391).

E tuttavia Colpevolezza non si riduce a un thriller tecnologico o giudiziario. Il filtro attraverso cui la vicenda viene raccontata resta infatti la voce di Noah. La sua è una prospettiva ironica, pragmatica, spesso disincantata, che nasce dalla familiarità con la precarietà del privilegio: Noah non dà nulla per scontato e per questo gli capita di guardare con una certa irritazione anche all’atteggiamento del figlio.

«Charlie, invece, sembra trattare la sua fortuna con un’allegra pragmaticità, come se uscire indenne da una collisione frontale letale fosse un privilegio dovuto. Ovvio che Charlie stia bene. Ovvio che la sua vita perfetta continuerà a svolgersi come pianificato». (B. Holsinger, Colpevolezza, p. 60.)

È attraverso questo sguardo che la narrazione resta ancorata alla dimensione domestica della storia. Il romanzo lascia emergere poco alla volta omissioni, silenzi, insicurezze e invidie, portando alla luce le crepe interne di una famiglia che fino a quel momento sembrava solida.

In questo senso Noah è il protagonista perfetto: la sua è una mediocrità nel senso migliore del temine. Non è un eroe, ma neppure il suo contrario. È un uomo ordinario, abituato a muoversi ai margini del talento altrui, quello sportivo del figlio ma soprattutto quello intellettuale della moglie. Non sorprende quindi che, alla fine, sia lui stesso a descrivere il proprio ruolo con un’immagine sorprendentemente precisa:

«Sono un’impalcatura. […] Resto all’ombra del grande olmo ad assimilare tutto, ad accettare, come forse onestamente non avevo mai fatto prima d’ora, il mio vero ruolo all’interno del nostro matrimonio. Un’impalcatura. Sono la griglia di pali e piattaforme che sostiene il grattacielo quando ha bisogno di riparazioni. Sono lo spesso contrafforte di pietra che sorregge la cattedrale. Sono il grosso pilone di cemento che àncora il ponte sospeso». (B. Holsinger, Colpevolezza, p. 369.)

La metafora riguarda il suo matrimonio, ma finisce per illuminare anche la struttura del romanzo, la postura scelta dall’autore. Mentre Lorelei è il genio tecnologico – la mente che progetta algoritmi destinati a governare automobili e, forse, droni militari – Noah è l’uomo che vive accanto alle conseguenze di quelle invenzioni.

È in questo scarto che Colpevolezza trova una delle sue intuizioni più efficaci.

Holsinger non ha bisogno di costruire scenari distopici o futuristici per interrogarsi sulle implicazioni etiche dell’intelligenza artificiale: gli basta il punto di vista del suo protagonista, disarmato e spesso confuso di fronte a sistemi che non comprende fino in fondo. Una prospettiva che finisce inevitabilmente per coincidere con quella del lettore.

Già viviamo, infatti, immersi in tecnologie molto più complesse di quanto riusciamo davvero a comprendere. Ed è qui che l’autore sembra suggerire la sua riflessione più inquieta: se queste tecnologie entrano ormai nelle pieghe più ordinarie della vita quotidiana, diventa sempre più necessario sforzarsi di comprenderle per poter scegliere consapevolmente che uso farne e quali limiti porre. Tanto più oggi che le carte sono scoperte, e gli stessi algoritmi progettati per regolare le nostre automobili vengono utilizzati per istruire droni militari estremamente letali.

Da questo nasce la richiesta di Noah alla moglie:

«Ma adesso io credo che dovresti scriverne […] di tutto il problema in generale. Di questo momento storico. […] Non abbiamo idea di cosa stia succedendo davvero con l’IA, come stia cambiando tutto, minacciandoci in mille modi che non vediamo o non possiamo capire. Devi spiegarcelo, Lorelei. Ricordati che non sei soltanto una nerd. Hai un dottorato in filosofia etica. Puoi tradurre quello che sai in un linguaggio che una persona come me possa capire. Perché da tutto quello che hai detto, il mondo deve sapere cosa sta per succedere. E tu sei in una posizione perfetta per avvertirci». (B. Holsinger, Colpevolezza, p. 385).

Forse è proprio qui che si capisce davvero a cosa serve un romanzo. Non offre di certo soluzioni, né risolve i problemi; ma ci impedisce di fingere che certe domande non ci riguardino. Perché se tecnologie sempre più potenti entrano oramai nella trama delle nostre vite, allora tentare di comprenderle non è più soltanto una questione tecnica o teorica. È, prima di tutto, una responsabilità morale.

https://www.arateacultura.com

https://en.wikipedia.org/wiki/Bruce_Holsinger