IA e Modelli Generativi: uso improprio e pregiudizio

  • 10 Maggio 2023
  • CONVEGNO
    Programma dell'evento

    Organizzato in collaborazione con Università degli Studi di Napoli Federico II

    L’impiego di Sistemi di Intelligenza Artificiale è entrato prepotentemente nel nostro quotidiano, e risulta essere, ad oggi un tema caldissimo.
    I modelli generativi e i chatbot, in particolare, sono strumenti potenti che hanno il potenziale per rivoluzionare diversi settori, dall’assistenza sanitaria al servizio clienti. Tuttavia, ci sono anche preoccupazioni etiche che riguardano il loro uso, in particolare quando si tratta di questioni come la privacy, i pregiudizi e gli eventuali usi impropri che ne potrebbero risultare.
    Una delle principali preoccupazioni etiche legate ai modelli generativi è la possibilità che essi generino contenuti dannosi o offensivi. Ad esempio, se un modello generativo viene addestrato su dati distorti o problematici, può generare contenuti che perpetuano tali pregiudizi o danneggiano determinati gruppi di persone. Allo stesso modo, anche i chatbot non adeguatamente addestrati o monitorati possono generare contenuti dannosi, come discorsi di odio o disinformazione.
    Un’altra preoccupazione etica legata ai chatbot è la questione della privacy. Poiché i chatbot sono spesso utilizzati per raccogliere informazioni personali dagli utenti, c’è il rischio che queste informazioni possano essere utilizzate in modo improprio o condivise con terze parti senza il consenso dell’utente. Inoltre, c’è il rischio che i chatbot possano essere utilizzati per scopi dannosi, come il phishing o gli attacchi di social engineering.
    C’è addirittura anche il timore che i modelli generativi e i chatbot possano portare a un trasferimento di posti di lavoro o esacerbare le disuguaglianze sociali esistenti. Se i chatbot venissero utilizzati per sostituire i lavoratori umani in alcuni settori, potrebbero causare la perdita di posti di lavoro.
    Nell’eventualità in cui i chatbot non siano progettati e testati in modo adeguato, potrebbero perpetuare le disuguaglianze esistenti discriminando alcuni gruppi di persone.
    Per affrontare questi problemi etici, è importante che gli sviluppatori e gli utenti di modelli generativi e chatbot diano priorità a misure quali la conduzione di test rigorosi per verificare l’assenza di pregiudizi, la fornitura di spiegazioni chiare su come vengono raccolti e utilizzati i dati degli utenti.

    Ne discutono:
    Antonio Pescapè, Docente di Sistemi di Elaborazione delle Informazioni, DIETI – Università degli Studi di Napoli Federico II
    Flora Amato, Docente di Sistemi di elaborazione delle informazioni, DIETI – Università degli Studi di Napoli Federico II
    Claudio Mazzone, Giornalista Corriere del Mezzogiorno
    Luigi Laino, Ricercatore in Filosofia, Università degli Studi di Napoli Federico II
    Angelo Falvo, Responsabile BU IT Application Development Netgroup Srl
    Mario Amura, CEO Phlay
    Celestino Santagata, Theia Innovation
    Stefano Marrone, Human Centered Artificial Intelligence Masters (HCAIM)

    WordPress Lightbox