C'è chi pensa che l'intelligenza artificiale ci sterminerà tutti

All’interno dei laboratori di intelligenza artificiale crescono le preoccupazioni, tanto da spingere alcuni esperti a dichiarare che l’AI ci sterminerà tutti entro il prossimo decennio. Queste dichiarazioni non nascono da panico o da visioni catastrofiste prive di fondamento. Questi ricercatori hanno individuato ciò che potrebbe essere la causa.

Nello specifico, sostengono che la competizione sta motivando le aziende tecnologiche a correre verso modelli di auto-miglioramento che potrebbero sfuggire al controllo umano. Il ricercatore Jacob Coxon, in un post su X, ha denunciato:

Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite. In OpenAI, molti non hanno ancora compreso appieno la portata di questo progetto a livello di civiltà. In Anthropic, la posta in gioco è ben chiara, ma sono impegnati in una corsa contro il tempo per arrivare primi: credono che nessun altro agirà in modo responsabile, quindi devono farlo loro stessi, nonostante il rischio.

Inoltre, è lo stesso Coxon a dichiarare: “Le persone che sviluppano l’intelligenza artificiale credono fermamente che potrebbe ucciderci tutti entro la fine del decennio. Se siete ricercatori di laboratorio, vi esorto a riflettere su come vi sentirete realmente nei prossimi anni. Volete davvero avviare un esperimento di apprendimento per rinforzo superintelligente senza una comprensione rigorosa della sua mente? Dovreste rassegnarvi pensando che “tanto succederà comunque” o cogliere l’occasione per chiedere condizioni diverse?“.

Tanti ricercatori credono che l’intelligenza artificiale potrebbe sterminare l’umanità

Coxon non è l’unico a pensare questo. Evan Hubinger, responsabile della scienza dell’allineamento presso Anthropic, che ha lavorato anche presso OpenAI, ha risposto in un post su X: “Crediamo davvero che l’intelligenza artificiale potrebbe sterminare tutta l’umanità! Personalmente, penso che entro il prossimo decennio la percentuale supererà il 10%“.

Penso che il rischio derivante dai modelli attuali sia basso. Ciò che mi preoccupa è la superintelligenza derivante dall’auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo.

Anthropic ha risposto su X a Hubinger: “Nell’ambito della nostra politica di scalabilità responsabile, pubblichiamo periodicamente dei rapporti sui rischi. Questi rapporti forniscono informazioni dettagliate sui rischi dei nostri sistemi e sul livello di preparazione che abbiamo per affrontarli“.

Nel frattempo, la generazione Z considera l’intelligenza artificiale sempre più un’amica.