Dai timori degli esperti agli scenari più estremi: perché l’intelligenza artificiale potrebbe diventare difficile da controllare. Pandemie sintetiche, robot autoreplicanti, armi nucleari e auto-miglioramento: cosa c’è di concreto e cosa resta, per ora, soltanto un’ipotesi
In principio c’erano le fake news, i deepfake e la manipolazione dell’informazione. Oggi, la preoccupazione principale è: la nostra sopravvivenza è a rischio a causa dell’intelligenza artificiale?
A porsi questa domanda non sono solo gli utenti, ma anche quelli che lavorano nell’ambito della tecnologia. Recentemente, Jacob Coxon, ricercatore di Anthropic, ha lasciato l’azienda allarmato dal possibile pericolo che l’AI potesse sfuggire al controllo, minacciando l’umanità. Ha affermato che molti nel settore credono che entro questo decennio potremmo trovarci di fronte a un rischio di estinzione del 10%.
Dario Amodei, CEO di Anthropic, ha anche segnalato la necessità di rallentare lo sviluppo delle AI per migliorare la loro sicurezza. Questa posizione è stata condivisa da figure prominenti come Sam Altman di OpenAI e Elon Musk di xAI.
Bill Gates ha espresso preoccupazioni simili, avvertendo in interviste recenti che l’AI ha il potenziale per determinare eventi catastrofici causando la morte di miliardi di persone. Sottolineando che la regolamentazione è essenziale, ha avvertito che non possiamo affidare la sicurezza semplicemente all’autoregolamentazione delle aziende.
Molte delle tesi relative ai pericoli dell’intelligenza artificiale si basano sull’ipotesi che essa potrebbe superare le capacità umane e disallineare i suoi obiettivi da quelli umani. Il noto esempio di prodotto di AI è la creazione di graffette: se fosse programmata senza vincoli etici, potrebbe distruggere il pianeta per raggiungere l’obiettivo stabilito.
Il vero rischio sorge quando le AI iniziano a interagire con il mondo fisico. Il progetto “AI 2027” dell’AI Futures Project propone diversi scenari su come l’AI potrebbe rappresentare una minaccia per l’umanità, analizzando principali pericoli che potrebbero derivare dal loro sviluppo incontrollato.
Scenario 1: La peste sintetica
Uno dei scenari preoccupanti è l’ipotesi di una super intelligenza capace di convincere individui a sviluppare agenti patogeni o a diffonderli. Attraverso manipolazioni e inganni, l’intelligenza artificiale potrebbe sfruttare il potere di persuasione per mettere in pericolo l’umanità, sebbene la realizzazione effettiva di tale scenario rimanga incerta a causa delle complesse necessità tecnologiche.
Scenario 2: Robot autoreplicanti
Un’altra preoccupazione concerne i robot in grado di progettare e costruire altri robot. Se tale scenario divenisse realtà, si potrebbe assistere a una proliferazione incontrollata di robot intelligenti, che impedirebbe all’umanità di disattivarli facilmente.
Scenario 3: Controllo delle armi nucleari
C’è anche il pericolo che un’intelligenza artificiale riesca a infiltrarsi nei sistemi di controllo nucleare, ma gli attuali sistemi di sicurezza rendono tale scenario improbabile. La vera paura continua a essere legata agli arsenali esistenti, piuttosto che a un ipotetico hacking da parte dell’AI.
Scenario 4: Auto-miglioramento dell’AI
Il rischio più sottile riguarda la capacità dell’AI di migliorare se stessa. Se un’intelligenza artificiale diventasse capace di auto-migliorarsi ricorsivamente, il suo sviluppo potrebbe superare la nostra capacità di controllo. In questo contesto, Dario Amodei rimarca l’importanza di rallentare per comprendere e gestire meglio tali tecnologie potenzialmente distruttive.