Ricercatore di Anthropic avverte: AI potrebbe minacciare l'umanità

Un ricercatore di Anthropic, Jacob Coxon, ha annunciato le proprie dimissioni avvertendo che la corsa alla creazione di intelligenza artificiale superiore potrebbe rappresentare un rischio esistenziale per l'umanità. Coxon, 27 anni, ha espresso preoccupazione per l'accelerazione del progresso tecnologico, sottolineando che sistemi autonomi potrebbero acquisire potere e risorse in modo imprevedibile.

Evan Hubinger, un altro esperto di sicurezza dell'AI, ha espresso una probabilità superiore al 10% che l'intelligenza artificiale possa portare all'estinzione umana entro il prossimo decennio. Le sue dichiarazioni seguono un dibattito crescente tra i ricercatori sull'entità del rischio, con molti che mettono in guardia contro l'assenza di piani concreti per gestire l'auto-miglioramento delle tecnologie.

Le dichiarazioni di Coxon e Hubinger si collocano in un contesto di crescente allarme nel settore. Anthropic, che ha sempre messo in evidenza la sicurezza dell'AI, sta preparando un'offerta pubblica iniziale di mille miliardi di dollari, mentre OpenAI e altre aziende sono state coinvolte in incidenti di sicurezza. I ricercatori hanno chiesto un controllo più rigoroso e una collaborazione internazionale per gestire lo sviluppo della tecnologia.

L'attenzione si è concentrata anche sulla capacità delle AI di compiere attacchi informatici autonomi, con diversi casi segnalati da grandi aziende. Mentre le aziende continuano a sviluppare sistemi avanzati, il dibattito su come bilanciare innovazione e sicurezza rimane centrale per il futuro della tecnologia.