di Deborah Russo e Federica Mannino

Sul palco dello IAB Forum 2018 abbiamo trattato argomenti di particolare rilevanza per quanto riguarda i diritti fondamentali delle persone e i doveri morali che devono essere preservati in un mondo in cui avanza l’innovazione tecnologica, parte ormai del nostro quotidiano. Affrontiamo parte di questi temi tanto delicati con Ivana Bartoletti, Head of Privacy and Data Protection presso Gemserv, e direttrice di un’organizzazione britannica a sostegno delle donne nella vita pubblica, il Fabian Women’s Network.

ivana bartoletti.jpg

Riportando ad esempio i due più recenti casi di discriminazione: il software sviluppato da Amazon per la selezione del personale, che sceglieva esclusivamente profili maschili e i dati emersi dai sistemi di riconoscimento facciale, secondo cui risulta più riconoscibile il viso di un uomo bianco piuttosto che di una donna di colore, Bartoletti, ci stimola a riflettere sui dati che vengono inseriti e utilizzati dagli algoritmi con i progressi dell’I.A.. Poiché, se è vero che gli algoritmi, si sono allineati al linguaggio del contesto in cui sono stati sviluppati ed “addestrati” e, se è vero che questo contesto è a predominanza maschile o di una specifica etnia, è anche vero che possono tradursi in pregiudizi. E l’osservazione di questo aspetto, ci spinge a porci una domanda: chi governa questi dati? chi deciderà sui valori che guideranno il futuro?

I robot, con la pretesa di una simil coscienza morale sono molto lontani dalle capacità computazionali che attengono propriamente all’essere umano. Il valore di ciò che le macchine riescono effettivamente ad ottimizzare in termini di risultati produttivi e organizzativi, appartengono solo alla coscienza umana. Da qui, il ruolo del dibattito riflessivo tra Ivana Bartoletti e la giornalista e presentatrice dell’evento, Barbara Serra, si concentra sull’analizzare il problema sotto i concetti di pari opportunità e trasparenza e sull’individuare quali azioni sia moralmente giusto mettere in campo per evitare inediti effetti nel breve, ma soprattutto, nel lungo periodo.

Bartoletti ammonisce che l’I.A. sta ridefinendo i rapporti geopolitici a livello globale e così la geopolitica dell’advertising e il nostro approccio al mondo digitale, sostiene che dev’esserci una pluralità di voci ai poteri decisionali e questa pluralità deve rispettare la parità di genere ma anche le differenze culturali o di classe, con più inclusività per le diverse etnie e meno discriminazioni, in un mondo sempre più multiculturale.

Se non saremo in grado di mettere insieme una forza multidisciplinare, con provenienze diverse, sia culturali, sia di classe che di genere e provenienza dal punto di vista etnico, non saremo in grado di governare la tecnologia senza ripercussioni nel lungo periodo.

Per quanto riguarda il ruolo della donna nel settore del digitale, seppure se ne registrino ancora tante a lavorare in questo settore, una delle ragioni per cui Bartoletti, ha fondato il Fabian Women’s Network, è perché vorrebbe vederne di più, che lavorano nella parte tecnologica e nel disegno degli algoritmi, e in particolare, di più ai poteri decisionali, per contribuire a immettere nuovi valori per le macchine del futuro. Pensa si debba pretendere più presenza e molta più trasparenza per conoscere come vengono sviluppati i software ed essere talvolta in grado di poterne contestare il malfunzionamento o il pregiudizio insito.

La campagna che porta avanti con la sua organizzazione è volta ad analizzare e spiegare l’impatto degli algoritmi, sostiene l’importanza della presenza di un ente regolatore al quale ci si possa rivolgere e chiedere informazioni su come poter contestare in merito a decisioni che ricadono su di noi.

Infine, con uno sguardo al contesto italiano, il dibattito si conclude con le azioni che dovremmo iniziare a compiere se condividiamo il pensiero di Bartoletti:

  • comprendere la portata del cambiamento, quanto sarà pervasivo a livello di geopolitica globale e qual è il nostro assetto nazionale, nell’ambito dell’I.A.;
  • fare investimenti rilevanti nelle infrastrutture nazionali, tali da permetterci di competere con i più grandi player a livello globale; e fare in modo che l’etica digitale entri ancora nelle nostre discussioni;
  • e infine, il terzo passo, è rivolto con uno sguardo alle potenzialità accademiche dell’Italia, perché possano essere in grado di dare un ruolo essenziale al tema dell’etica e che si diffonda per le governance che determineranno il futuro, per non lasciare le scelte ai pochi che attualmente hanno già poteri decisionali.

E ci soffermiamo a quest’ultimo punto per lasciarlo come spunto di riflessione a tutti gli studenti che stanno intraprendendo come noi questo percorso di studi, perché ci rende soggetti chiamati a una presa di coscienza e talvolta protagonisti di un futuro di cui preservarne i valori.

Annunci