L'algoritmo che ti conosce davvero. O forse no

Intelligenza artificiale, orientamento e autonomia nel tempo delle simulazioni. A cura di Annunziata Di Lecce, Direttrice CTS Asnor, Psicologa del Lavoro, Design Thinker e Coach Neurocognitivo.

Qualche sera fa, durante una cena, un'amica mi ha mostrato la "valutazione professionale" che un'App di intelligenza artificiale aveva fornito a suo figlio. Interfaccia elegante, linguaggio curato, tono accogliente.

L'algoritmo gli consigliava una carriera da analista finanziario, leggendo le risposte e persino il modo in cui le aveva formulate. "È come se mi conoscesse davvero", le aveva detto il ragazzo. In quella frase ho percepito qualcosa che mi ha fatto riflettere.

Perché il linguaggio fluido dell’IA genera fiducia immediata

Il cervello non è neutro davanti a un linguaggio fluido e coerente. Kahneman ci dice che quando un'informazione scorre senza attrito, il pensiero veloce, istintivo, associativo, tende ad accettarla senza interrogarla. La fluidità genera fiducia.

Ed è esattamente lì che i sistemi di intelligenza artificiale, addestrati a prevedere ciò che già pensiamo, trovano il loro punto d'ingresso. Non ci convincono con argomenti, ci seducono con la forma.

Empatia simulata e relazione autentica

C'è di più, quando interagiamo con un sistema che simula empatia, che usa le parole giuste, che "rispecchia" le nostre emozioni, il cervello attiva meccanismi di risposta relazionale che non distinguono facilmente tra presenza reale e presenza simulata convincente.

Siegel ha esplorato come la sintonizzazione affettiva richieda un incontro tra sistemi nervosi, non è metafora, è fisiologia.

Un algoritmo, per quanto sofisticato, non ha un corpo. Non porta con sé l'incertezza viva di chi è ancora in ascolto. Quella mancanza non si vede, ma si sente, o almeno, si potrebbe sentire, se imparassimo a cercarne la traccia.

L’effetto di distanziamento come antidoto all’illusione tecnologica

Bertolt Brecht chiamava Verfremdungseffekt, effetto di distanziamento, quella tecnica teatrale che rompe l'illusione scenica per restituire allo spettatore la possibilità di riflettere. Non voleva commuovere: voleva svegliare. Non chiedeva identificazione, ma sguardo.

Questo concetto, nato per il teatro, mi sembra oggi uno degli strumenti più preziosi per chi si occupa di orientamento. Perché il rischio non è che l'intelligenza artificiale sia stupida, ma che sia abbastanza convincente da farci smettere di pensare. L'autenticità simulata non mente: produce una fiducia che riduce, silenziosamente, la nostra autonomia cognitiva.

Vigilanza epistemica: educare al pensiero critico nell’era dell’algoritmo

Come orientatori, insegnanti, coach, professionisti delle transizioni, siamo chiamati a coltivare e trasmettere quella che Sperber chiama vigilanza epistemica, cioè la capacità di valutare le fonti e le intenzioni comunicative andando oltre la coerenza di superficie. Non è diffidenza. È una forma di cura verso sé stessi.

La cautela, oggi, non è solo una virtù etica, è una competenza cognitiva. E la relazione autentica, quella che richiede tempo, presenza, imprevisto, resta lo spazio in cui questa competenza si costruisce davvero. Solo un essere umano genera significati che attraversano i sensi, le biografie, le generazioni.

La tecnologia amplia l'accesso alle informazioni, ma non riproduce la dimensione riflessiva e affettiva del dialogo. Lo confermano anche ricerche recenti sui sistemi di decisione condivisa con l'IA (Kim, Lee & Park, 2022; Park et al., 2023), l'elaborazione resta, quella relazionale si perde.

Autonomia, competenza e relazione: ciò che l’IA non può sostituire

Ryan e Deci ci ricordano che ogni crescita autentica nasce da tre bisogni fondamentali:

1. autonomia;
2. competenza;
3. relazione.

Nessuno dei tre si compie in un'interazione chiusa con un algoritmo.

Forse, come l'attore brechtiano che si gira verso il pubblico e scopre la scena, anche noi orientatori dobbiamo imparare a rendere visibili i processi; spiegare come nascono i suggerimenti; aiutare chi cerca la propria direzione a riconoscersi come soggetto attivo, non destinatario di una profilazione, per quanto ben confezionata.

Conclusioni, Il ruolo dell’orientamento nel tempo delle simulazioni

Orientare, in questo tempo, significa educare allo sguardo critico e restituire alle persone la libertà di scegliere da dentro la propria esperienza. Ci servono davvero strumenti che pensino al posto nostro?La prassi dell’orientamento ci insegna che sono le relazioni che ci aiutano a pensare meglio.

È da quello spazio, vivo, incerto, profondamente umano, che nasce la capacità di orientarsi con consapevolezza nel tempo delle simulazioni.

Bibliografia

• Brecht, B. (1963). Scritti teatrali. Einaudi, Torino.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux, New York.
• Kim, T., Lee, J., & Park, W. (2022). Shared Decision-Making with AI in Health Care. Nature Machine Intelligence, 4(7), 564–571.
• Park, J. S., O'Brien, J. C., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative Agents: Interactive Simulacra of Human Behavior. Proceedings of the ACM CHI Conference on Human Factors in Computing Systems.
• Ryan, R. M., & Deci, E. L. (2017). Self-Determination Theory: Basic Psychological Needs in Motivation, Development, and Wellness. Guilford Press, New York.
• Siegel, D. J. (2007). The Mindful Brain: Reflection and Attunement in the Cultivation of Well-Being. W. W. Norton & Company, New York.
• Sperber, D., Mercier, H., et al. (2010). Epistemic Vigilance. Mind & Language, 25(4), 359–393.