Intelligenza artificiale e la (solita) dittatura dell'algoritmo
L’intelligenza artificiale è un dispositivo strategico orientato ideologicamente che manipola i rapporti di forza condizionando il sapere
di Angela Fais per l'AntiDiplomatico
“Ripetete una bugia mille volte e diventerà una verità” diceva qualcuno.
Con questa massima si può spiegare la grande fortuna della definizione di “nativi digitali”. Completamente campata in aria e priva di qualsiasi fondamento scientifico, coniata dallo scrittore statunitense M. Prensky nel 2001 sostiene che l’uso abituale delle tecnologie informatiche avrebbe reso più saggio l’homo sapiens consentendone l’evoluzione in ‘homo sapiens digital’. Essendo purtroppo particolarmente permeabili a tutto ciò che viene dagli USA, in Italia alcuni studiosi, più probabilmente ballisti di professione, hanno rilanciato la bestialità per giustificare il ricorso alle tecnologie digitali nella scuola tramite un marketing molto aggressivo cui abbiamo permesso di trarre enormi profitti, senza che gli studenti ne abbiano mai ricavato alcun reale vantaggio. Si possiede infatti sufficiente documentazione scientifica a dimostrare che i media digitali provochino un peggioramento nella formazione degli alunni. L’apprendimento richiede un lavoro mentale profondo oggi sostituito dalla superficialità del digitale. Si pensi a quanto il lavoro alla lavagna tradizionale col gessetto in mano e sul quaderno differisca da quello svolto con la LIM e sul tablet che può avvalersi anche della tecnica del copia-incolla. La disfatta della Dad e i danni provocati a intere generazioni sono sotto gli occhi di tutti, eppure in Italia si continua a insistere a testa bassa con la digitalizzazione dell’istruzione. E’ inoltre acclarato che i media digitali siano causa di stress, insonnia, depressione e dipendenza. Eppure di recente il Min. Valditara ha dichiarato che per inserire l’informatica stanno modificando i programmi scolastici della scuola primaria “grazie all’avvio di una sperimentazione che ci vede tra i primi paesi al mondo ad applicare l’intelligenza artificiale alla didattica”.
Oggi con l’intelligenza artificiale ci troviamo certamente davanti a una svolta epocale. Sicuramente grazie ad essa sono possibili funzioni e calcoli che l’uomo impiegherebbe moltissimo tempo a svolgere. Non si mettono in dubbio i grossi vantaggi per le aziende (spesso speculari agli svantaggi per i lavoratori), ma qui si sollevano grandi perplessità sull’opportunità di introdurla anche nelle scuole a stravolgere la didattica e atrofizzare le menti.
Si apprende che il 75% degli studenti italiani se ne avvale per scrivere i temi e soprattutto per fare i compiti. Siamo antiquati se domandiamo che ne è dell’apprendimento? Interessante che sul sito Invalsi si diano istruzioni su come fare i temi e i compiti con la IA, ma a patto che lo studente verifichi le informazioni fornite, unico sforzo richiestogli. Un tempo l’insegnante correggeva il compito assegnato ed eseguito unicamente dallo studente e le correzioni erano occasione di chiarimento e di ulteriori apprendimenti. Oggi questo sembra venga meno ma non interessa né a quelli dell’ Invalsi né al Ministro né a nessun altro.
Fare i conti con l’intelligenza artificiale significa riconoscerla come dispositivo strategico che si inscrive in una relazione di potere e manipola i rapporti di forza orientandoli in una precisa direzione al fine di condizionare il sapere. Una volta considerato il dispositivo come un insieme di strategie e di rapporti di forza che condizionano il sapere e ne sono condizionati, riconosciamo facilmente anche la natura storica e non assoluta del sapere e della verità e da qui altrettanto facilmente comprendiamo che l’uso della IA è in primo luogo orientato da un punto di vista ideologico e politico.
Da una ricerca condotta dalla Università della Carolina del Sud emerge infatti che i risultati dei sistemi di IA generativa sono “più strettamente allineati ai valori e alle visioni del mondo delle nazioni ricche di lingua inglese. Questo pregiudizio intrinseco limita naturalmente la diversità delle idee che questi sistemi possono generare”. Questo non sembra molto inclusivo.
Lo si tenga ben presente: l’IA non pensa ma calcola. Per calcolare si serve degli algoritmi consentendo ai sistemi di convergere verso un punto intermedio prevedibile, per cui essa non esplora di certo “possibilità non convenzionali ai margini” . “Ciò che inizia come una comoda scorciatoia - leggiamo nella succitata ricerca - rischia di trasformarsi in un circolo vizioso di originalità decrescente, non perché questi strumenti producano contenuti oggettivamente scadenti, ma perché riducono silenziosamente la portata della creatività umana stessa”, basandosi sulla mediocrità algoritmica che contrassegnerà gli elaborati prodotti. I compiti non subiranno correzioni ma saranno segnati da una irrimediabile mediocrità.
Se consideriamo l’IA un dispositivo è interessante ricordare l’esperienza che Foucault fece quando portò avanti il Gruppo di Informazione sulle Prigioni (GIP), un collettivo per denunciare le condizioni di vita nelle carceri francesi e dare voce ai detenuti. Rimase sbalordito dal fatto che i detenuti facessero nell’esperienza del Gip delle enormi conquiste. Infatti non erano solo schiacciati e oggettivati dal potere della istituzione penitenziaria ma questo dispositivo consentiva loro anche di produrre un rapporto di soggettivazione, non tanto perchè ottenevano dalla istituzione penitenziaria le cose richieste (saponette, tv a colori, più ore di colloqui con le famiglie) ma perché divenivano soggetti di sé stessi, della loro vita. Adesso però si profila una situazione differente.
Giorgio Agamben ampliando la classe dei dispositivi foucaultiani vi include il linguaggio, forse il primo dispositivo e la filosofia, la letteratura ma anche “i telefoni e qualunque cosa abbia la capacità di catturare, orientare, controllare le condotte, le opinioni, i discorsi degli esseri viventi”. E noi adesso possiamo senz’altro aggiungervi anche l’intelligenza artificiale, ma con una sostanziale differenza. Mentre i precedenti dispositivi suscitavano e consentivano effetti di soggettivazione, i dispositivi con cui abbiamo a che fare in questa fase del capitalismo non fanno altrettanto. Se ad esempio tramite il dispositivo della scrittura si consentiva la nascita di un autore letterario e di un capolavoro, adesso lo smartphone o l’IA innescano processi di desoggettivazione perché assorbono il soggetto, quasi lo divorano dando luogo a un corpo sociale inerme e docile; essi non prevedono la ricomposizione di un nuovo soggetto se non in forma larvata e spettrale, virtuale. Si comprende dunque quanto inutile sia sostenere che la questione si riduca al loro semplice “buon uso”. I paladini dell’ ‘uso corretto’ ignorano la natura desoggettivante dei dispositivi essendo essi stessi irrimediabilmente catturati da qualcosa la cui portata è devastante e pervasiva. Ma più i dispositivi si fanno pervasivi più è urgente la necessità di restituire alla comunità e a noi stessi tutto quello che questi ci stanno portando via. A fronte delle attuali evidenze risulta insensato premere ancora l’acceleratore sulle tecnologie digitali ed è lecito chiedersi se non si voglia scientemente portare al tracollo l’istruzione pubblica insieme ai suoi sventurati utenti.
