Quattrociocchi (Sapienza): “La nuova IA Centaur non è un cervello pensante”

Roma – “Quelli di Centaur sono risultati impressionanti, ma attenzione a considerarla un cervello come il nostro che pensa e decide: sarebbe un grave errore” Così Walter Quattrociocchi, direttore del Centro di Data Science and Complexity for Society (CDCS) della Sapienza, ha commentato uno studio apparso sulla prestigiosa rivista Nature e guidato dall’ Helmholtz Center in Germania, che dà conto della creazione di Centaur una intelligenza artificiale in grado di prevedere e simulare il comportamento umano in una serie di esperimenti classici di psicologia cognitiva. “L’idea è lineare – spiega Quattrociocchi – si prende un grande modello linguistico, lo si espone a un corpus strutturato di esperimenti classici di psicologia cognitiva — quelli progettati in laboratorio per testare euristiche, preferenze, scelte sotto incertezza — e si verifica quanto riesca a prevedere le risposte che darebbero soggetti umani negli stessi contesti. Gli autori hanno costruito un dataset ampio, chiamato Psych‑101: 160 esperimenti, più di 60.000 partecipanti, oltre 10 milioni di risposte, tutte espresse in linguaggio naturale. Il modello viene specializzato su questo corpus e testato su varianti nuove dei compiti originali”. E i risultati sono impressionanti: l’IA prevede con ottima precisione le scelte umane in quasi tutti i test sottopostigli. Detto questo però vi sono diverse questioni che vanno sottolineate aggiunge Quattrociocchi: “In primo luogo l’IA riesce a prevedere ottimamente il comportamento umano in contesti controllati, con fattori limitati in campo e specifiche ben strutturate. Ma è difficile sapere cosa succede quando la struttura viene meno. I comportamenti umani non sono sempre replicabili, né isolabili. Dipendono dal contesto, dalla pressione sociale, dal modo in cui la domanda viene percepita. Cambia il frame, cambia la risposta. Lì i modelli faticano. A volte si allineano, a volte amplificano, a volte deragliano. Non per limiti computazionali, ma per mancanza di ancoraggio dinamico. In secondo luogo non dobbiamo pensare che Centaur nel dare le sue risposte ‘pensi’ o ‘decida’ come un essere umano. Centaur non costruisce obiettivi, non forma una rappresentazione interna dell’ambiente, non pianifica, non riflette. Associa contesto e output in modo statistico. La sua forza viene dall’aver visto molti esempi simili, in condizioni note, dove il significato è già stato disambiguato e la struttura della decisione è espressa in forma leggibile. È un ottimo riproduttore di pattern comportamentali, ma non è un soggetto”. In conclusione Centaur come altre intelligenze artificiali si rivela uno strumento potentissimo e anche di grande utilità, ma che non permette di gettare luce sul mistero dell’interno di una mente umana, tantomeno di crearne una artificiale. “ Lavori così vanno letti con attenzione – rimarca Quattrociocchi – Non perché dicano troppo, ma perché il rischio è che vengano usati per dire tutt’altro”. (30Science.com)