Il dibattito internazionale sui rapporti tra le declinazioni di genere e le tecnologie, almeno nella sua forma esplicita e dedicata dei Gender and Technology studies, risale alla fine degli anni ’70, quando si inizia a mettere in discussione il presunto determinismo tecnologico e, allo stesso tempo, la costruzione sociale del genere attraverso le tecnologie, in una prospettiva finalmente ribaltata (cfr. Bencivenga, Bosco & Pozzolo 2016). Dopo la pubblicazione del Manifesto Cyborg di Donna Haraway (Haraway 1985), si era trovata anche una sistematizzazione teorica e militante di questo dibattito, nel quadro di una prospettiva di pratica scientifica militante. Negli ultimi tempi, invece, nella pressoché totale marginalizzazione di un dibattito storico e finanche storicizzato, nel quale alcune interpretazioni e valutazioni sembravano essere diventate ormai dei punti fermi, la nuova temperie culturale, egemonizzata dall’esplosione improvvisa, pervasiva e apparentemente inarrestabile dell’intelligenza artificiale, sembra cancellare decenni di lotte politiche, sociali e soprattutto scientifiche.

Ma procediamo con ordine, cercando di chiarire, con una rapida descrizione del funzionamento dell’intelligenza artificiale, i luoghi e i meccanismi dove emergono le possibili criticità. L’intelligenza artificiale, così come si è strutturata, include nel suo funzionamento il Machine Learning, cioè una parte dedicata a sviluppare algoritmi tali da agevolare un apprendimento autonomo basato sui dati che vengono forniti e individuando possibili pattern che vengono desunti ed estratti dai dati. Il Deep Learning è una sezione del Machine Learning che usa le reti neurali profonde, dove sono nati i modelli di intelligenza artificiale generativa, come GPT oppure DALL-E, che, quando si basano sui linguaggi naturali, vengono definiti Large Language Models (LLM). Questi ultimi riescono a dare delle “risposte” ai quesiti posti tramite un’interfaccia linguistica, grazie a quelle varie e molteplici fasi di allenamento e di training che i vari elaboratori che costituiscono la rete neurale effettuano su dataset generali e specifici. Ovviamente tutto quello che viene incluso in questi dataset di allenamento genera e determina i risultati ottenibili dalle interrogazioni specifiche. Il trattamento di questi dati da parte degli algoritmi avviene al momento in maniera completamente automatica, semplicemente mettendoli in relazione – applicando le istruzioni previste dal programmatore – ed estraendo su base statistica i possibili pattern per poi proporre le conclusioni da essi indotte. Tutto sembrerebbe procedere de plano, se la questione centrale per comprendere il vero ruolo possibile degli algoritmi che le reti neurali utilizzano per processare questi dati non fosse particolarmente problematica, da qualsiasi lato si possa o si voglia affrontarla: la segretezza. Poiché le tecnologie vengono sviluppate essenzialmente da 4 o 5 immense e potentissime imprese globali, con bilanci spesso più grandi di intere nazioni, queste stesse imprese, a volte coadiuvate da tribunali internazionali e nazionali, difendono l’assoluta necessità della segretezza in quanto ritengono che essa rappresenti un vantaggio commerciale e pertanto debba essere preservata affinché il vantaggio non si vanifichi. Da questo ne consegue che non viene reso possibile nessun controllo, né sui dati sottoposti all’IA, né sul meccanismo di trattamento di questi dati. L’output è il solo elemento pubblicato e pubblicabile, con tutte le conseguenze relative.

Questo articolo è stato pubblicato sul numero 11/2024 di Articolo 33. Lo trovi integralmente qui