Red Lines for Ai, appello dell’Onu per fermare gli usi pericolosi dell’intelligenza artificiale

Durante l’Assemblea Generale delle Nazioni Unite è stata presentata Red Lines for Ai, iniziativa internazionale che vuole fissare confini vincolanti e verificabili per l’uso dell’intelligenza artificiale per prevenire rischi sistemici per la sicurezza globale

In occasione dell’assemblea generale delle Nazioni Unite a New York – lo scorso 22 settembre – è stata lanciata Red Lines for Ai – o Global Call for Ai Red Lines – una campagna internazionale che intende definire limiti chiari e universalmente condivisi all’uso dell’intelligenza artificiale.

L’obiettivo è ambizioso: raggiungere entro il 2026 un accordo multilaterale vincolante, modellato sui trattati di non proliferazione delle armi biologiche o sulla Convenzione di Montréal per la protezione dell’ozono.

Promossa da un’ampia coalizione accademica e istituzionale, l’iniziativa vuole impedire che la corsa tecnologica sfugga al controllo umano, ponendo al centro il principio di responsabilità e verificabilità.

Tra i firmatari figurano dieci premi Nobel, nove ex capi di Stato o ministri, quattro vincitori del Premio Turing e numerosi esperti che operano nelle principali aziende del settore, tra cui Google DeepMind, OpenAI e Anthropic.

Anche l’Italia è rappresentata da un gruppo ristretto ma significativo di personalità, tra cui Giorgio Parisi, Enrico Letta, Maria Chiara Carrozza, Fosca Giannotti e Dino Pedreschi, docente del dipartimento di Informatica all’Università di Pisa e pioniere della data science in Europa.

L’appello sottolinea i rischi derivanti da uno sviluppo incontrollato dei sistemi di intelligenza artificiale avanzata – dalla disinformazione alla manipolazione sociale, fino alle minacce alla sicurezza globale – che definisca limiti chiari e verificabili, garantiti da solidi meccanismi di attuazione.

Definire le linee rosse della tecnologia

Il cuore del progetto consiste nell’individuare usi dell’intelligenza artificiale che devono essere considerati universalmente inaccettabili. Tra questi figurano lo sviluppo di pandemie ingegnerizzate, la disinformazione di massa, la sorveglianza invasiva, la manipolazione psicologica degli individui, la sostituzione sistemica del lavoro umano e le minacce alla sicurezza internazionale.

Gli esempi concreti di linee rosse includono il divieto per sistemi di Ai di lanciare o autorizzare attacchi nucleari; condurre operazioni di sorveglianza di massa senza base legale; impersonare esseri umani senza consenso; autoreplicarsi o evolvere autonomamente senza supervisione umana.

La campagna insiste sulla necessità di meccanismi indipendenti di verifica e responsabilità legale, che obblighino sviluppatori e aziende a rendere trasparenti i processi di progettazione e addestramento dei modelli.

Il documento sottolinea la velocità con cui l’intelligenza artificiale sta avanzando, superando in alcuni casi le capacità di previsione e controllo delle stesse imprese che la sviluppano. Tra i rischi segnalati figurano comportamenti emergenti ingannevoli, resistenza allo spegnimento e perdita di tracciabilità delle decisioni automatizzate.

La fiducia nell’autoregolamentazione delle Big Tech viene ritenuta insufficiente. Secondo gli organizzatori, solo un quadro normativo multilaterale e vincolante potrà evitare derive incontrollate o utilizzi ostili della tecnologia, in grado di generare danni sistemici alla società e alla sicurezza globale.

Un trattato per la sicurezza digitale globale

L’iniziativa trae ispirazione da strumenti normativi già esistenti, come l’Ai Act europeo, ma punta a un accordo globale che bilanci innovazione e tutela. L’obiettivo è creare un quadro di governance transnazionale che eviti frammentazioni regolatorie e promuova standard condivisi per la sicurezza, la trasparenza e la responsabilità.

Il sito ufficiale red-lines.ai consente a cittadini, ricercatori e istituzioni di aderire e sostenere la campagna. Il percorso prevede la definizione di una bozza di trattato entro la primavera 2026, con successiva approvazione in sede Onu.

Crediti immagine: Depositphotos

Zeliatech, green tech distributor europeo e anima verde del Gruppo Esprinet, promuove attivamente la sostenibilità grazie a un team di risorse specializzate e un portfolio di prodotti e soluzioni innovative in ambito: Fotovoltaico, Smart Building, Data Center ed E-mobility

L'articolo Red Lines for Ai, appello dell’Onu per fermare gli usi pericolosi dell’intelligenza artificiale è stato pubblicato su GreenPlanner Magazine.