di Giulia Sudano, Giuditta Bellosi
I dati che ci circondano non sono mai neutri, ma frutto di scelte precise. Per questo, l’approccio alla data science dovrebbe essere un approccio critico e consapevole delle dinamiche di potere che possono portare a distorsioni, come ad esempio la sorveglianza attraverso la registrazione di dati online ed offline, la cosiddetta dataveillance, e la datafication, la trasformazione di molti aspetti della nostra esistenza quotidiana in dati.
I dati possono anche essere trasformati in uno spazio di lotta e rivendicazione, dove è possibile rendere visibili contesti e discriminazioni, altrimenti ignorate. È proprio con questo obiettivo che a fine 2020 Period Think Tank è nata a Bologna per creare in Italia un soggetto capace di costruire un ponte fra mondi (trans)femministi e quelli dell’open data e della trasparenza per promuovere l’equità di genere, attraverso un approccio femminista intersezionale ai dati.
Ispirandosi alla metodologia del femminismo dei dati, illustrata da Catherine D’Ignazio e Lauren Klein nel libro Data feminism (2020) Period ha lavorato per concretizzare i suoi principi in azioni che avessero un impatto tangibile e replicabile in diversi contesti.
I principi chiave del data feminism sono molteplici. Il primo, esaminare il potere: analizzare come il potere opera nel mondo. Poi sfidare il potere, ossia sfidare le strutture diseguali, promuovere emozioni e incarnazioni, e in seguito valutare molteplici forme di conoscenza, dando priorità a quelle che provengono dall’esperienza diretta. Assume importanza ripensare il binarismo e le gerarchie, sfidando i sistemi di classificazione; praticare il pluralismo e sintetizzare molteplici prospettive con priorità per le comunità locali. Infine, serve considerare il contesto: i dati non sono neutrali, ma il prodotto di un percorso di disuguaglianze; e infine rendere visibile il lavoro di coloro che raccolgono e analizzano i dati.
Da marzo 2021 Period Think Tank ha cercato di realizzare questi principi, partendo dalla campagna #datipercontare con l’obiettivo di richiedere a tutti i livelli istituzionali, Comuni in primis, l’utilizzo di strumenti per valutare e monitorare l’impatto di genere delle politiche pubbliche, a partire dai dati disaggregati almeno per genere. Ad oggi hanno aderito formalmente i comuni di Bologna, Palermo, Milano, Ravenna, Cento, Imola, Piana degli Albanesi, Crevalcore, Reggio Emilia, Roma, e altri ne stanno valutando l’adesione.
Nel 2022 l’opportunità di partecipare come partner ad Aequitas, un progetto di ricerca finanziato da Horizon Europe, ci ha permesso di ragionare anche sulle possibili applicazioni pratiche del concetto di intersezionalità all’interno di sistemi di intelligenza artificiale (IA). Aequitas ha coinvolto diversi soggetti, come università, aziende, associazioni e sindacati di diversi paesi europei,e attraverso un innovativo ambiente di sperimentazione, ha incorporato l’equità in ogni fase del ciclo di vita dell’IA, integrando considerazioni sociali, giuridiche ed etiche, per garantire che i sistemi di IA siano progettati per ridurre discriminazioni e pregiudizi, in linea con le principali normative europee, come la Legge sull’Intelligenza Artificiale dell’Unione Europea e la Carta dei diritti fondamentali dell’Unione europea.
I principali spunti che abbiamo portato all’interno del progetto hanno riguardato le criticità rispetto alla mancanza di rappresentatività dei dataset in ottica intersezionale per l’equità dell’IA, proteggendo al contempo la privacy dellə utenti, dando importanza al coinvolgimento delle persone (specialmente quelle che vivono situazioni di marginalizzazione ) con metodi partecipativi – anche già in fase di design- nello sviluppo e nella valutazione di pregiudizi e discriminazioni dell’IA, e non solo nella fase di test.
Abbiamo evidenziato anche le specificità del contesto di riferimento e la trasparenza sui dati e sugli algoritmi di addestramento dei sistemi, questioni da tenere sempre in considerazione per riconoscere e mitigare pregiudizi e discriminazioni; insieme all’importanza dell’eterogeneità socio-demografica delle figure coinvolte all’interno dei team di sviluppo.
La progressiva pervasività dei sistemi di intelligenza artificiale nella vita quotidiana, e sempre più anche all’interno delle istituzioni che amministrano i nostri territori, ci richiede una soglia di attenzione sempre più elevata, per accertarci che l’utilizzo delle tecnologie, non essendo neutro, vada nella direzione di una maggiore giustizia sociale. Altrimenti è alto il rischio che aumentino disuguaglianze e sorveglianza di massa.
Applicare una prospettiva femminista ai dati e all’intelligenza artificiale significa allora interrogare i rapporti di potere che li attraversano, affinché l’innovazione non riproduca le disuguaglianze esistenti, ma contribuisca a contrastarle.
Immagine in evidenza: pexels.com
Perseguitaci