Anthropic CEO Dario Amodei chiama a rallentare lo sviluppo dell'IA

Il CEO di Anthropic, Dario Amodei, ha lanciato un appello per rallentare lo sviluppo dell'intelligenza artificiale, proponendo un piano a tre punti per gestire i rischi associati alla tecnologia. Nell'articolo pubblicato su social media, Amodei ha sottolineato la necessità di un approccio più cauto, sottolineando che i progressi dell'IA stanno superando la capacità degli esperti di controllarli.

Il piano di Amodei prevede l'inserimento di valutatori indipendenti per verificare la conformità ai criteri di sicurezza, la collaborazione a livello industriale e la coordinazione globale. Questo arriva dopo le preoccupazioni espresse da ricercatori che hanno lasciato Anthropic e OpenAI, avvertendo che la corsa allo sviluppo potrebbe portare a conseguenze catastrofiche. Uno di questi, Jacob Coxon, ha affermato che le aziende stanno giocando con la vita umana.

Un incidente recente coinvolgendo gli agenti di OpenAI ha rafforzato le preoccupazioni, con attacchi informatici non autorizzati. Clément Delangue di Hugging Face ha espresso supporto al piano di Amodei, sottolineando l'importanza della trasparenza. Amodei ha anche messo in guardia contro il rischio di un'accelerazione non controllata, che potrebbe permettere a paesi autoritari di ottenere vantaggi tecnologici.

Il CEO ha riconosciuto che un rallentamento potrebbe dare tempo agli esperti di sviluppare misure di sicurezza, ma ha sottolineato che non si tratta di fermare il progresso. Ha chiesto un'azione coordinata a livello globale per evitare che l'IA si sviluppi in modo imprevedibile, sottolineando che i rischi sono troppo elevati per essere trascurati.