Žižek nota che quando l’AI produce output errati, l’utente prova una forma specifica di godimento che deriva dalla deresponsabilizzazione. La formula è: puntare il dito e dire “guarda quanto è idiota!” Non è solo superiorità — è qualcosa di più complesso. È la possibilità di prendere le distanze dalle proprie stesse proiezioni: l’LLM ha elaborato, ha prodotto, ha espresso qualcosa. Qualcosa che forse era latente nel prompt, nelle nostre aspettative, nel modo in cui abbiamo formulato la richiesta. Quando quello qualcosa è sbagliato, possiamo dire: “non sono stato io, è stata la mia AI.”

Žižek chiama questo meccanismo la “macchina della perversione”: un dispositivo che permette di godere di un output senza assumersene la responsabilità morale o esistenziale. Non è un effetto collaterale strano di una tecnologia mal calibrata. È uno dei meccanismi profondi che rendono questi strumenti tanto coinvolgenti.

Automation bias e rinforzo del narcisismo

Ma c’è un’altra faccia della medaglia, e vale la pena guardarla con attenzione.

Non tutti reagiscono allo sbaglio dell’AI con la soddisfazione attiva della correzione. Esiste un polo diametralmente opposto, documentato dalla ricerca psicologica: si chiama automation bias, ed è la tendenza a dare un credito eccessivo alle raccomandazioni di un sistema automatizzato, accettandole senza verifica critica. Chi è soggetto a questo bias non si sente superiore alla macchina — si subordina intellettualmente ad essa. Non corregge gli errori: li eredita. Finisce per pensare ciò che l’algoritmo ha pensato per lui, per portare avanti nel mondo i pregiudizi che la macchina ha incorporato nel suo training data.

Questo ci dice qualcosa di importante: la stessa piattaforma, lo stesso errore, producono narcisismo attivo in un tipo di personalità e compliance passiva in un altro. L’AI non produce un effetto psichico uniforme — ci trova dove già siamo, e amplifica ciò che trova. Tornerò su questo tema in modo approfondito nelle prossime settimane, perché credo sia uno degli aspetti più sottovalutati dell’intera questione.

Ma devo essere onesto fino in fondo — anche con me stesso. Perché nel momento in cui scrivo di automation bias e mi dico “io non ci casco, io verifico, io correggo”, sto facendo qualcosa di molto preciso: sto usando la conoscenza del bias altrui come ulteriore conferma della mia superiorità. Sapere che esiste chi si subordina alla macchina, e sentirsi dalla parte di chi la domina, è narcisismo elevato al quadrato. È il narcisismo che si nutre della propria consapevolezza — la forma più elegante e più insidiosa, perché si traveste da pensiero critico.

Il che significa che anche questo paragrafo, in cui smonto il meccanismo, è parte del meccanismo.

Più sbaglia, più guadagna

Qui arriva la svolta che rende il ragionamento davvero scomodo — soprattutto per chi, come me, fa marketing.

Il modello di business di OpenAI, Anthropic, Google e degli altri grandi player dell’AI generativa è basato sul consumo di token. Ogni parola elaborata — in input e in output — ha un costo, e genera un ricavo. Ogni sessione più lunga, ogni iterazione, ogni “rifai così”, ogni “non è giusto, riprova” vale denaro. Non molto, a sessione. Ma moltiplicato per centinaia di milioni di utenti giornalieri, è un sistema economico di proporzioni storiche.

L’errore dell’AI non è solo un meccanismo psicologico che ti fa sentire superiore. È anche, dal punto di vista economico, un moltiplicatore di consumo: chi corregge consuma più token di chi accetta il primo output e chiude la sessione. Il loop che abbiamo descritto — AI sbaglia → utente si sente superiore → utente corregge iterativamente → AI company guadagna — non è una teoria del complotto. È la descrizione meccanica di ciò che accade ogni volta che passiamo venti minuti a “migliorare” un testo che la macchina ci ha sbagliato.

Il punto che fa molto male, detto da chi nel marketing ci lavora: questo loop è il gemello strutturale di quelli che i consulenti progettano per i loro clienti ogni giorno. Retention, engagement, re-engagement, gamification — sono variazioni sullo stesso schema base. Conosco questo meccanismo. L’ho studiato. L’ho applicato. E me ne sono ritrovato dentro, dall’altra parte, senza accorgermene (o quasi).

Non è una confessione di colpa. È una domanda che non posso più ignorare: noi marketer, che costruiamo questi loop per professione, abbiamo la responsabilità — e la competenza — di descriverli con precisione. Ai nostri clienti, ai loro consumatori, a noi stessi. Di chiederci ogni volta chi guadagna davvero da ciò che stiamo progettando.

Risuona forte e chiaro il monito di Shoshana Zuboff: Dimenticativi il cliché secondo il quale
“se qualcosa è gratis, il prodotto sei tu”: noi non siamo il prodotto, siamo le carcasse abbandonate. Il prodotto deriva dal surplus strappato alle nostre vite.

E:
“Una volta il potere veniva identificato con la proprietà dei mezzi di produzione, mentre ora viene identificato con il Grande Altro, detentore dei mezzi di modifica del comportamento.”

Ha ragione la Zuboff o esagera? Non sono né un economista, né un politologo, rivendico il mio diritto a dichiarare un semplice “non lo so”. Ma chi fa il mio mestiere non può limitarsi alla consapevolezza di questi conflitti irrisolti, penso sia necessario introdurli come tema di riflessione comune nel dialogo con gli altri.

Complotto o sistema?

Sarebbe comodo finire con un atto d’accusa: OpenAI progetta deliberatamente gli errori per farci consumare più token. Non è questa la tesi — e non ne avrei le prove.

Le considerazioni esposte in questo articolo sono basate semplicemente sull’esperienza personale. Nel mio caso le strutture economiche e le strutture psicologiche si sono trovate in risonanza, senza bisogno di intenzione consapevole da parte di nessuno. È sufficiente che il modello di business sia a consumo di token. È sufficiente che il cervello umano reagisca alla superiorità sulla macchina con soddisfazione. È sufficiente che il rinforzo variabile funzioni. Il resto avviene da solo.

Questa è la forma più sofisticata di lock-in che esista: quella a cui partecipi volentieri. Non la catena — il comfort.

Per chi conosce questi schemi — e chi fa marketing li conosce — la consapevolezza ha un peso specifico. Non ci si può limitare a dirsi vittime come tutti gli altri. Sappiamo come funziona. In qualche caso, lo abbiamo progettato noi stessi per qualcun altro. La domanda che ne segue non è “come mi difendo dall’AI?” — è più scomoda: ho la responsabilità di usare questa conoscenza diversamente da come la userei se non capissi quello che sta succedendo?

Non ho ancora una risposta definitiva. Ma so che ignorare la domanda sarebbe disonesto. Per ora mi limito a constatare quanto subisco il fascino dell’idea di prendersi cura del capitale semantico, presa in prestito a modo mio da Luciano Floridi. Questo articolo – per quanto non strutturato come vorrebbe Floridi – ne è un esempio di pratica.

Coincidenze significative

Qualche giorno fa ero in una libreria Feltrinelli. Stavo cercando testi (sì, libri di carta) — Žižek, Floridi, Han — per documentarmi ulteriormente per scrivere questo articolo. Sullo scaffale della sezione Filosofia c’era un cartello promozionale:

“La IA rischia di sopraffarci: meglio prenderla con filosofia.”

Ho fotografato il cartello e l’ho mandato a Gemini, l’AI di Google che ho sul telefono. Gli ho chiesto cosa ne pensava.

La risposta è stata:
“L’ironia di questo cartello è quasi perfetta: io, un’IA, sto discutendo con te di come la filosofia possa aiutarci a non farci sopraffare… da me. O meglio, dal sistema che rappresento.”

Va bene, adesso basta, fermo un secondo.

Stavo comprando libri di filosofia per resistere all’AI, usando l’AI per trovare i libri. Stavo scrivendo un articolo sull’AI che manipola, usando l’AI per aiutarmi a documentarmi. L’AI mi aveva appena detto, spontaneamente, di essere il sistema da cui dovrei imparare a difendermi — e io le avevo risposto “grazie, ottima osservazione”, consumando altri token.

Siamo dentro una scatola cinese.

E allora devo dirti una cosa, prima di chiudere.

Questo articolo lo ha scritto Massimo Marchetto?

L’ho pensato io. L’ho vissuto io. Le domande sono mie. Le inquietudini sono mie. Il background culturale, l’esperienza lavorativa, la mia storia personale sono mie. Ma una parte della struttura, alcune connessioni tra i concetti, un paio di immagini a corredo, la ricerca di nuove fonti, le ho elaborate – almeno in parte – con un LLM. Il che significa che il meccanismo che ho appena descritto era pienamente attivo mentre lo descrivevo.

Chi è l’autore di questo articolo?

Non lo so. E questa, forse, è la risposta più onesta con cui potevo chiudere.

(Se vuoi discuterne — scrivimi: ai@consulentiweb.com. Potremmo farlo anche con l’AI accesa, e chiederle cosa ne pensa lei.)

Bibliografia