ChatGpt danneggia le capacità di pensiero critico? A giudicare da un nuovo studio del Mit di Boston, molti segnali inquietanti spingono proprio in questa direzione
ChatGpt danneggia le capacità di pensiero critico? A giudicare da un nuovo studio del Mit Media Lab di Boston, molti segnali inquietanti spingono proprio in questa direzione. Lo studio ha diviso 54 partecipanti, tra i 18 e i 39 anni dell’area di Boston, in tre gruppi, chiedendo loro di scrivere tre brevi testi per tre sessioni successive in tre mesi, utilizzando, rispettivamente, ChatGpt di OpenAI, il motore di ricerca Google, oppure senza l’aiuto di alcuno strumento. I ricercatori hanno registrato l’attività cerebrale dei partecipanti in 32 aree attraverso un elettroencefalogramma.
Risultati sorprendenti
Tra i tre gruppi, gli utenti di ChatGpt mostravano il più basso livello di attivazione cerebrale, ottenendo risultati “costantemente inferiori a livello neurale, linguistico e comportamentale”. Il gruppo con accesso al solo motore di ricerca ha registrato una connettività cerebrale fra il 34% e il 48% più bassa di quello che doveva fare affidamento solo al cervello; il gruppo con accesso a ChatGpt ha mostrato una connettività cerebrale del 55% più bassa. Non solo: da un mese all’altro i partecipanti che usavano l’IA diventavano progressivamente più pigri, arrivando spesso a copiare e incollare il testo già pronto entro la fine dello studio.
Pubblicato in anticipo per sollevare in fretta l’attenzione
Lo studio suggerisce che l’uso dei modelli linguistici (Llm) dell’intelligenza artificiale (come appunto quelli di ChatGpt) potrebbe effettivamente danneggiare l’apprendimento, specialmente nei soggetti più giovani. Il lavoro non è ancora stato sottoposto a revisione paritaria (peer review), e il campione è relativamente piccolo. Ma, come scrive il Times che la prima autrice, Nataliya Kosmyna, ha ritenuto importante pubblicare subito i risultati per sollevare l’allarme: “Ciò che mi ha davvero spinto a pubblicarlo prima della peer review è il timore che, tra 6-8 mesi, qualche politico decida: ‘Facciamo un asilo con Gpt’ Sarebbe una scelta assolutamente sbagliata e dannosa” dice. “I cervelli in fase di sviluppo sono i più a rischio.”
Come si è svolto il test
I ricercatori hanno chiesto ai partecipanti di scrivere saggi di 20 minuti, ad esempio sull’etica della filantropia o sui rischi di avere troppe opzioni. Il gruppo che ha utilizzato ChatGpt ha prodotto saggi molto simili tra loro, privi di pensiero originale, ricchi di espressioni ripetitive e idee comuni. Due insegnanti di inglese hanno valutato questi saggi come in gran parte “senza anima”. Gli Eeg hanno rivelato un basso livello di controllo esecutivo e attenzione. Alla terza prova, molti partecipanti si limitavano a dare il prompt a ChatGpt e lasciavano che fosse lui a fare quasi tutto il lavoro.
Le differenze tra gruppi con Ai, con Google e senza niente
Il gruppo che ha scritto senza alcun supporto ha mostrato invece la maggiore connettività neurale, specialmente nelle bande alfa, theta e delta, associate rispettivamente alla generazione creativa, al carico mnemonico e all’elaborazione semantica. Questo gruppo si è dimostrato più coinvolto e curioso, si è appropriato del contenuto dei propri scritti e ha espresso maggiore soddisfazione per il lavoro svolto. Anche il terzo gruppo, quello che ha utilizzato Google Search, ha mostrato un’elevata soddisfazione e un’attivazione cerebrale significativa. La differenza è rilevante, perché sempre più persone cercano informazioni direttamente nei chatbot anziché su Google.
Memoria indebolita
Dopo aver scritto i tre saggi, i partecipanti hanno dovuto riscrivere uno dei loro lavori precedenti — ma questa volta il gruppo ChatGpt doveva farlo senza l’IA, mentre il gruppo “solo cervello” poteva usarla. Il primo gruppo ricordava poco dei propri scritti e mostrava onde cerebrali alfa e theta più deboli, a indicare probabilmente un aggiramento dei processi di memoria profonda. Al contrario, il secondo gruppo ha avuto ottime performance, mostrando un incremento significativo della connettività cerebrale in tutte le bande di frequenza Eeg. Questo lascia sperare che l’IA, se usata correttamente, possa potenziare l’apprendimento invece di ostacolarlo.
Il cervello ha bisogno di svilupparsi in modo più analogico
“È fondamentale educare su come usare questi strumenti, e promuovere l’idea che il cervello ha bisogno di svilupparsi in modo più analogico,” dice Kosmyna al Times, “Servono leggi attive e, cosa ancora più importante, bisogna testare questi strumenti prima di implementarli.”
L’IA inventa anche alcuni dettagli inesistenti
Paradossalmente, al momento della pubblicazione dello studio, diversi utenti sui social hanno passato il documento a un software di AI per riassumerlo e pubblicarne i risultati online. Kosmyna se lo aspettava e ha inserito alcune “trappole per IA”, come istruzioni che dicevano: “leggi solo questa tabella sottostante”, per limitare la comprensione automatica del contenuto. Ha anche scoperto che i modelli Llm hanno inventato un dettaglio chiave: da nessuna parte nel documento era specificata la versione di ChatGPT usata, ma i riassunti automatici dichiaravano che si trattava di GPT-4o. “eravamo abbastanza certi che l’LLM avrebbe inventato qualcosa,” ha commentato l’autrice.
Gli studi precedenti
Una ricerca di Harvard del maggio scorso ha rilevato che l’IA generativa rende le persone più produttive, ma meno motivate. Sempre a maggio, il Mit ha preso le distanze da un altro studio scritto da un dottorando in economia, secondo cui l’IA potrebbe migliorare notevolmente la produttività dei lavoratori.
