L’intelligenza artificiale entra a pieno titolo fra le potenziali minacce alla sicurezza globale. Per la prima volta lo scorso 18 luglio il Consiglio di Sicurezza dell’Onu ha dedicato una seduta al tema dell’IA. I vertici delle Nazioni Uniti hanno messo all’ordine del giorno la definizione di regole sull’utilizzo ed è stata avanzata la proposta della creazione di un’agenzia specifica delle Nazioni Unite con competenza sull’IA, come l’Aiea per l’energia atomica o l’Icao per l’aviazione civile internazionale.

“L’IA generativa ha un enorme potenziale per il bene e il male su larga scala”, ha dichiarato il segretario dell’Onu Antonio Guterres. “I suoi stessi creatori hanno avvertito che ci attendono rischi molto più grandi, potenzialmente catastrofici ed esistenziali. Senza un’azione che affronti questi rischi, siamo inadempienti rispetto alle nostre responsabilità verso le generazioni presenti e future”. Oltre al segretario dell’Onu a relazionare i 15 membri del consiglio di sicurezza erano presenti fra gli altri Jack Clark, co-fondatore della startup di IA Anthropic e il professor Yi Zeng, dell’Istituto di automazione dell’Accademia cinese delle scienze.

Uno dei punti di discussione ha riguardato l’utilizzo dell’intelligenza artificiale per armi autonome. Diversi hanno espresso preoccupazione riguardo al possibile utilizzo di armi gestite dall’intelligenza artificiale. “L’uso delle armi basate su sistemi di intelligenza artificiale rappresenta un rischio per l’umanità, come l’atomica. Così come gli usi che organizzazioni terroristiche possono fare di queste tecnologie”, ha detto Guterres, che ha proposto delle disposizioni basate su tre principi: rispetto delle leggi umanitarie, un accordo sull’utilizzo dell’IA in campo militare e regole mondiali per il controllo delle tecnologie.