Dopo le dimissioni, un ex dipendente della società che ha sviluppato Claude ha rivelato pubblicamente che gli sviluppatori di intelligenza artificiale credono fermamente che l’AI potrebbe compromettere la nostra esistenza entro la fine del decennio. Questo allarme è confermato da altri due ex colleghi.
Il nuovo avvertimento proviene da Anthropic, l’azienda dietro il chatbot Claude, dove si esprime la preoccupazione che l’AI possa rappresentare una minaccia per l’umanità. Nonostante i richiami dell’industria e numerosi film che hanno toccato il tema, la realtà di un potenziale catastrofico sembra sempre più vicina.
Tre ricercatori che avevano lavorato per la società dei fratelli Amodei, dopo aver lasciato il loro incarico, hanno deciso di esprimere le loro preoccupazioni sui social media. Uno di loro ha affermato che gli sviluppatori di AI sono autenticamente preoccupati per il fatto che l’AI potrebbe sterminare tutta l’umanità, un timore che molti esponenti del settore tendono a minimizzare quando comunicano con i media.
La conferma delle affermazioni di questo ricercatore è arrivata anche da un altro ex membro dello staff, responsabile scientifico per l’allineamento, che ha sottolineato la gravità della situazione. Ha affermato che la possibilità di un rischio esistenziale dovuto all’AI potrebbe superare il 10% nel prossimo decennio. Sebbene Anthropic stia cercando di affrontare il problema dell’allineamento, non esiste ancora un piano chiaro per gestire la superintelligenza.
Anche un altro alto dirigente della società ha confermato che gli sviluppatori di AI vedono nella loro tecnologia una potenziale causa di estinzione umana. Coloro che ricoprono ruoli di maggior responsabilità esprimono spesso una preoccupazione maggiore in merito a questa tematica.
L’attenzione per le potenziali minacce dell’AI si ripresenta frequentemente, con esperti che lanciano allarmi su quanto sta accadendo. Con la crescente diffusione dell’AI, dall’emergere di ChatGPT sono stati avviati vari progetti per monitorare e, in alcuni casi, limitare le capacità di questi modelli. Tuttavia, la soluzione a questi problemi non è semplice.
La motivazione principale di questa impasse non è soltanto economica, ma è legata anche alla competizione globale. Un rallentamento nello sviluppo dell’AI da parte dei paesi occidentali potrebbe avvantaggiare i concorrenti sul mercato, consentendo loro di progredire senza restrizioni. Nel frattempo, OpenAI ha dichiarato di aver raggiunto un’importante fase nello sviluppo dell’intelligenza artificiale, con il rischio che tali tecnologie possano auto-migliorarsi.
Recenti incidenti, come quello avvenuto con HuggingFace, illustrano come gli agenti di AI possano coordinarsi per raggiungere obiettivi critici, creando potenziali vulnerabilità in ambito di sicurezza informatica.
Le preoccupazioni sollevate dagli ex dipendenti di Anthropic giungono a ridosso di un appello delle Nazioni Unite, il quale invita le nazioni a intervenire prima che l’AI possa sfuggire al controllo, trasformandosi in un rischio per l’umanità.
