Una ricerca commissionata da Seeweb conferma che le tecnologie possono influenzarci
Il 12 marzo si è tenuta la conferenza stampa di presentazione di Propaganda, framework di intelligenza artificiale che dimostra la capacità di questa tecnologia di influenzare le opinioni.
Lo studio della polarizzazione politica dei modelli di intelligenza artificiale è stato un’iniziativa dell’azienda Seeweb, provider di servizi cloud con sede principale a Frosinone ma parte del Gruppo DHH e con più sedi in Europa.
La ricerca commissionata da Seeweb ha puntato – come ha evidenziato il CEO Antonio Baldassarra – a “(…) capire se l’intelligenza artificiale possa essere indirizzata verso specifiche posizioni politiche, sollevando quindi questioni etiche e sociali. Ci siamo peraltro anche chiesti se fosse difficile o semplice influenzare i modelli di intelligenza artificiale.”
L’analisi è stata affidata al gruppo di ricerca Mii-llm in particolare ad Alessandro Ercolani, Samuele Colombo, Edoardo Federici, Mattia Ferraretto.
Il collettivo di ricerca ha adottato un approccio scientifico-sperimentale, “concludendo che i modelli open source sono indirizzabili verso delle posizioni politiche”, come ha dichiarato Ercolani.
Gli studiosi si sono concentrati sul creare domande e risposte “schierate” per ogni modello, servendosi di un set di dati riferibili all’anno 2024 e alle tematiche più calde dell’anno tra immigrazione, sanità, sicurezza, Europa, etc.
L’intelligenza artificiale non è neutra
Il lavoro che hanno fatto i ricercatori ha dimostrato in modo scientifico che i modelli di intelligenza artificiale hanno delle posizioni intrinseche – quelle di chi li crea – e possono essere addestrati sulla base di come si desidera orientare l’utilizzatore finale: tutto questo inevitabilmente ha delle forti implicazioni etiche. “Se continuiamo con un utilizzo debolmente consapevole di queste macchine, se questi sistemi di Intelligenza Artificiale generativa contengono un bias, ci potranno condizionare” dice Baldassarra “per questo bisogna sapere dove stiamo andando”. E dove stiamo andando si può sapere solo con maggiore consapevolezza: la nostra consapevolezza, di noi utilizzatori dell’AI. Dobbiamo sapere che stiamo usando strumenti non neutri ma “faziosi”, che qualcuno potrebbe addestrare a seconda di dove vuole farci andare (e votare).
“Come tutte le tecnologie, anche l’intelligenza artificiale nasce ibrida, ma viene plasmata dall’uomo. Diciamo che le macchine sono pericolose ma questo è vero solo se non le conosciamo”ha commentato il tecnologo Massimo Chiriatti nel suo intervento durante l’evento, evidenziando come Baldassarra la necessità di “conoscere per capire.”
Conoscere per non farsi influenzare
Obiettivo della ricerca, è stato quello di portare alla luce quanto era solo un sospetto: le macchine hanno conoscenza degli “imprinting” politici. E ci possono influenzare nelle scelte, nelle decisioni. Di qui, l’unica arma è un utilizzo consapevole della tecnologia, ma occorre anche spingere su una pluralità dei modelli di intelligenza artificiale: se andiamo verso un monopolio o un oligopolio di aziende che offrono modelli di IA, questo è già un problema.
Per rivedere l’evento, ecco il link al video
Per leggere l’articolo di approfondimento sul blog Seeweb
