«Pause» si presenta (anche sul sito Frida) come un progetto per prevenire i femminicidi grazie all’Intelligenza Artificiale. Alla piccola redazione della “bottega” è sembrato interessante riprenderlo ma anche esprimere i nostri dubbi che sono riassunti qui sotto da Enrico Semprini.

 

Sono un vecchio brontolone e anche un vecchio maschio cis, tre lettere che stanno a significare che la mia identità di genere coincide con il mio aspetto biologico. E’ un fatto che non aiuta quando ci si appresta ad entrare nell’argomento della violenza di genere.

La redazione del blog, che non necessariamente condivide al 100 per cento tutto quello che scriverò,  ha valutato se pubblicare un articolo tratto dal sito Frida, che immediatamente mi fa assonanza con Kahlo, anche se lì non se ne fa menzione. Frida Kahlo è stata una donna che resta nell’immaginario di tantә, come una di quelle persone che si ammirano per le scelte e le lotte di cui è stata protagonista.

Entrare in polemica con un sito pieno di talenti, di intelligenze e passioni, mi fa tremare le vene ai polsi, perché parliamo di:

«Frida è il primo portale in Italia dove ricercatrici e ricercatori dell’Università di Torino raccontano in prima persona i loro progetti, come nascono e quali strade prendono, qual è la scintilla che li porta a passare le giornate in ufficio o in laboratorio a studiare, provare, cercare, avanzando passo dopo passo nell’ignoto».

Il sito è accompagnato da un gruppo di otto docenti, con i quali, immagino, ci saranno interazioni.

Si colloca decisamente contro la discriminazione e la violenza di genere e questo è ciò che attrae l’attenzione e che induce al rispetto.

Credo che la ricerca di cui stiamo parlando meriti di essere argomento di discussione e mi piacerebbe, se questo blog diventasse un momento di confronto anche attraverso i commenti delle lettrici e dei lettori. Chissà se i generi si divideranno nelle valutazioni…oppure no.

La scelta, dunque, è posporre le mie valutazioni all’articolo stesso, in modo da evitare di influenzare oltre il punto di vista che chi legge si farà di questo progetto di ricerca. Ecco il testo.

“Storia di sinergia

Daniele Paolo Radicioni

PAUSE: il progetto che previene i femminicidi grazie all’IA

La violenza di genere è un fenomeno ancora poco studiato nei suoi tratti quantitativi. Per questo è nato il progetto PAUSE, un sistema che sfrutta l’intelligenza artificiale per riconoscere i casi di violenza a partire dagli accessi in Pronto Soccorso, dove il personale sanitario spesso intuisce quando una donna è vittima di violenza ma tra l’urgenza delle cure, la mancanza di tempo e la complessità del sistema, quella intuizione rischia di perdersi. 

 

Per definizione, la violenza di genere è l’insieme di pratiche fisiche e psicologiche che colpiscono le donne nella loro integrità, salute e libertà, con l’obiettivo di sottometterle e annullare la loro identità. Nella letteratura scientifica è noto che 

la violenza di genere è un predittore di femminicidio. Questo significa che anche se non tutte le donne che finiscono in pronto soccorso con lesioni di origine violenta diventeranno vittime di femminicidio, la maggior parte delle vittime di femminicidio è stata in precedenza in pronto soccorso. 

Eppure, per varie cause, la violenza può non essere tracciata all’interno delle strutture sanitarie. Assistiamo a un paradosso: la sotto-rilevazione di un fenomeno largamente diffuso, qualcosa che abbiamo sotto il naso ma che rischiamo sistematicamente di non vedere.

Perché accade questo? Le ragioni sono molteplici e a volte complesse. Chi subisce violenza potrebbe fare fatica ad ammetterlo, o sminuire l’atto violento, per esempio. Riconoscere che il proprio partner è un aggressore significa accettare che la casa, il rifugio (anche psicologico) per eccellenza, non è più un luogo sicuro. Altre volte, invece, le vittime si presentano in ospedale accompagnate proprio da chi le ha aggredite, rendendo impossibile ogni confidenza. Inoltre, spesso ci sono poi barriere linguistiche, soggezione economica, problemi psicologici o di dipendenze che possono compromettere la capacità di denunciare, complicando ulteriormente il quadro.

Anche quando il personale sanitario intuisce la verità, la pressione del lavoro e l’eccessiva complessità dei supporti informatici possono impedire di registrare adeguatamente delle informazioni cruciali. Quello che viene rilevato dall’operatrice o dall’operatore rischia di non essere mai trasferito nei registri della struttura sanitaria.

PAUSE (Prevention of Assault Under Scientific Evidence), progetto interdisciplinare per contrastare la violenza interpersonale, affronta questo problema con un approccio innovativo: utilizzare l’intelligenza artificiale per automatizzare il riconoscimento di episodi di violenza nei pronto soccorso. 

Dal punto di vista informatico si tratta di un problema di classificazione binaria: il sistema informatico deve distinguere casi di violenza (V) da quelli di non violenza (NV), come incidenti domestici o stradali. Inoltre, vogliamo che sia in grado di estrarre informazioni rilevanti sull’episodio.

Nel corso del progetto siamo riusciti a raccogliere un numero consistente di dati, nell’ordine di 500 mila referti. Usiamo modelli di linguaggio probabilistici che imparano a completare o prevedere sequenze di parole all’interno di un testo. Il testo viene trasformato in una rappresentazione numerica e analizzato da reti neurali, che stabiliscono se il referto descrive una lesione di origine violenta o altro. Questo tipo di problemi di classificazione è tradizionalmente risolto attraverso approcci di apprendimento supervisionato. I risultati del sistema, valutati da ricercatrici e ricercatori che hanno partecipato alla sperimentazione, sono incoraggianti: sono corretti nel 98% dei casi. Inoltre

 il sistema riesce a identificare il tipo di perpetratore (sconosciuto, parente, partner, ex-partner) con un’accuratezza del 75%. Ma l’aspetto più interessante è che il sistema ha iniziato a riconoscere alcune forme di violenza psicologica, nei casi in cui le vittime arrivano in pronto soccorso con palpitazioni o sintomi fisici causati da traumi psicologici. 

PAUSE non vuole sostituire l’intuito e l’esperienza del personale sanitario, ma supportarlo. In un momento in cui la sanità pubblica affronta crescenti difficoltà – popolazione che invecchia, risorse limitate, carichi di lavoro insostenibili – supporti intelligenti che migliorano la qualità del Sistema Sanitario Nazionale con costi contenuti possono fare la differenza. Il progetto vuole essere un piccolo esempio, e ci auguriamo che la sua adozione nelle strutture sanitarie diventi il tema di una prossima iniziativa.

Riconoscere precocemente la violenza di genere significa poter intervenire prima che sia troppo tardi, offrire supporto alle vittime, attivare reti di protezione. Significa trasformare il pronto soccorso da ultimo rifugio a primo baluardo nella lotta contro i femminicidi.

Dillo in giro

[…]

Ho deciso di prendere in parola l’esortazione finale e, a mio modo, lo sto dicendo in giro.

Adesso che avete letto di cosa si tratta, posso parlare liberamente delle critiche che vorrei muovere a questo progetto.

Il primo dubbio che mi sorge spontaneo è: le titolari di quei 500mila referti sapevano che i loro referti sarebbero stati trattati da una intelligenza artificiale allo scopo di proteggerle da eventuali abusi?

Se i referti sono stati consultati in forma anonima, si è semplicemente prodotto un dato statistico, eventualmente utile per fare capire agli operatori che devono modificare il loro comportamento nella raccolta dei dati e nella attenzione che viene posta nei confronti delle pazienti che si presentano al pronto soccorso.

Se la forma anonima non c’era, allora o sapevano o non sapevano.

Se sapevano, sono state allertate che avrebbero potuto usufruire di una qualche forma di aiuto per prevenire ulteriori problemi di questa gravità?

E quali sarebbero queste forme di aiuto, considerando che i femminicidi si verificano spesso dopo che le istituzioni sono state più volte allertate dei pericoli che le donne stanno correndo?

La dottoressa Deiana¹ ricorda: “Dicevano gli antichi che la strada verso l’inferno è lastricata di buone intenzioni, nel senso che i propositi ci sono ma questi sono niente se alla volontà non corrisponde un’azione.”

Se non lo sapevano, ma i dati erano in chiaro: non si è fatta ancora una volta una violenza oltrepassando il limite della consapevolezza delle pazienti?

Chi dovrebbe gestire questi dati per arrivare a fare un efficace lavoro di prevenzione?

Su questo torniamo nella conclusione, ma ora passo a un altro tipo di problema che ha suscitato la lettura del progetto. Nasce quando viene detto:

“Anche quando il personale sanitario intuisce la verità, la pressione del lavoro e l’eccessiva complessità dei supporti informatici possono impedire di registrare adeguatamente delle informazioni cruciali. Quello che viene rilevato dall’operatrice o dall’operatore rischia di non essere mai trasferito nei registri della struttura sanitaria.” e ancora la “sanità pubblica affronta crescenti difficoltà – popolazione che invecchia, risorse limitate, carichi di lavoro insostenibili”.

Per uno come me, che per alcuni anni si è dedicato con passione alla attività sindacale, la risposta sarebbe stata: quindi dobbiamo lottare per cambiare lo stato di cose presenti e pretendere che il personale sanitario sia sufficiente ad affrontare attività delicate e complesse, perché chi lavora al pronto soccorso non deve vivere il lavoro come una pressione eccessiva, proprio per poter essere di supporto adeguato a situazioni delicate ed, infine, i supporti informatici devono essere pensati per favorire la registrazione adeguata delle informazioni cruciali.

Quella che viene proposta, secondo il mio modo di vedere, è invece una ipersoluzione²:

“PAUSE (Prevention of Assault Under Scientific Evidence), progetto interdisciplinare per contrastare la violenza interpersonale, affronta questo problema con un approccio innovativo: utilizzare l’intelligenza artificiale per automatizzare il riconoscimento di episodi di violenza nei pronto soccorso. 
Dal punto di vista informatico si tratta di un problema di classificazione binaria: il sistema informatico deve distinguere casi di violenza (V) da quelli di non violenza (NV), come incidenti domestici o stradali. Inoltre, vogliamo che sia in grado di estrarre informazioni rilevanti sull’episodio.”

Questa idea mi ha rimandato immediatamente alla novella di Philip K. Dick “Minority report³” che è stata sintetizzata così:

“…ecco l’unico modo per estirpare il male dalla società attraverso la previsione di un delitto che grazie all’intervento della polizia di fatto, paradossalmente, non verrà commesso. Il colpevole viene prelevato e messo in un campo di prigionia una settimana o anche pochi secondi prima di aver commesso il reato. Dunque, una punizione pre-factum; un castigo che anticipa un delitto che, verificatosi solo nell’ordine della metafisica, nella realtà fenomenica è stato evitato; un’ ingerenza nel destino del singolo uomo e un limite alla sua libertà di scegliere. La cognizione del male diviene precognizione del delitto. “Noi diciamo che sono colpevoli. Loro, d’altro canto, proclamano in eterno la propria innocenza. E in certo senso sono innocenti”. Questo nuovo metodo sfrutta le visioni di tre sibille dissennate, i Pre-Cogs, esseri privi di senno che vedono oltre, ricevono dati che altri decifreranno, “simili a vegetali, borbottavano, sonnecchiavano ed esistevano. Le loro menti erano offuscate, perse fra le ombre, le ombre del futuro”. E’ possibile che in un sistema di questo genere possa insinuarsi un ragionevole dubbio? E’ possibile che tale raffinata macchina “ammazza cattivi” sia perfetta, dunque non umana, “oltreumana”…?”

E’ chiaro che il ricorso a questa immagine, presa dal mondo della fantascienza, è una forzatura interpretativa, che però lascia aperta un’altra domanda: siamo in un mondo senza speranza di trasformazione e solo l’intelligenza delle macchine potrà salvare le umane dagli umani, oppure il podcast inserito nel sito Frida individua un’altra possibile strada per cambiare il destino della violenza patriarcale che passa anche attraverso la lotta per costruire un modo diverso di praticare il maschile?

Dico di più: mentre lottiamo per una società priva di pregiudizi di genere, dobbiamo in contemporanea lottare per una società non più gestita da gerarchie di potere e di ricchezza, che monopolizza le informazioni e le mette nelle mani di pochi .

E’ chiaro che mi preoccupa il come questa immane raccolta di dati personali si potrebbe tradurre in azione preventiva. Perchè questi dati dovrebbero essere gestiti da un ente repressivo come il Ministero dell’Interno, gestito attualmente da Piantedosi, ieri da Salvini, gli stessi che hanno appena affossato la possibilità di sviluppo di una azione dispiegata di educazione affettiva nelle scuole.

So di aver preso una posizione provocatoria nella critica a questa ipotesi e lo faccio nella consapevolezza che dobbiamo rilanciare la riflessione, come Frida propone, quando nella presentazione si afferma: “Storie di ricerca dall’Università di Torino per leggere il presente e immaginare il futuro”.

Sulla base delle premesse di questa sperimentazione, l’immagine di futuro che mi ha suggerito è certamente molto diversa da ciò che si dovrebbe mettere in atto per risolvere il problema.

Enrico Semprini, che spera di suscitare dibattito.