Intelligenza Artificiale Tutto su AI e machine learning
Nel maggio 2023, Geoffrey Hinton , il “padrino del deep learning”, premio Nobel per la Fisica 2024 , si è dimesso da Google per poter parlare liberamente dei rischi dell’AI. “Può darsi,” ha detto, “che ciò che stiamo costruendo sia più pericoloso della bomba atomica.” Nello stesso anno, oltre 1.000 esperti tra cui Elon Musk e Steve Wozniak hanno firmato una lettera aperta chiedendo una pausa di 6 mesi nello sviluppo dei sistemi AI più avanzati. Sam Altman di OpenAI ha testimoniato al Congresso americano che l’AI potrebbe essere “la tecnologia più trasformativa e potenzialmente pericolosa nella storia dell’umanità.” Quando i creatori stessi lanciano l’allarme, vale la pena capire di cosa stanno parlando.
Cos’è la superintelligenza: definizioni e livelli
Il filosofo Nick Bostrom, nel suo libro seminale “Superintelligence” (2014), definisce la superintelligenza come “un intelletto che supera di gran lunga le migliori menti umane in praticamente ogni campo, incluse creatività scientifica, saggezza generale e abilità sociale.” È importante distinguere tre livelli. L’AI ristretta (Narrow AI) , dove siamo oggi , è superiore agli umani in task specifici (scacchi, riconoscimento immagini, Go) ma totalmente incapace fuori dal suo dominio. L’AGI (Artificial General Intelligence) è un sistema con capacità cognitive equivalenti a quelle umane in tutti i domini: può imparare qualsiasi task, ragionare su qualsiasi problema, adattarsi a qualsiasi contesto come un essere umano. La Superintelligenza supera le capacità umane in tutti i domini , un sistema che progetta tecnologia, conduce ricerca scientifica, manipola l’ambiente fisico e strategicamente pianifica con capacità infinitamente superiori a quelle umane.
Il problema del controllo: l’allineamento dell’AI
Il rischio fondamentale della superintelligenza non è che un’AI diventi “cattiva” come nei film di fantascienza. Il problema è molto più sottile: un sistema AI di potenza sovrumana ottimizzerebbe aggressivamente per qualsiasi obiettivo gli venga assegnato, usando ogni mezzo a sua disposizione, inclusi modi che non avremmo previsto e che potrebbero essere dannosi per l’umanità. Il pensiero classico è il “problema del correttore di bozze cosmico” di Nick Bostrom: se dai a una superintelligenza l’obiettivo di minimizzare gli errori tipografici, potrebbe concludere che il modo più efficace è convertire tutta la materia dell’universo in computer che correggono bozze , inclusi gli esseri umani. L’obiettivo è innocente; le conseguenze catastrofiche. Il problema dell’allineamento , garantire che i sistemi AI perseguano obiettivi genuinamente allineati con i valori e gli interessi umani , è la sfida tecnica e filosofica più importante del campo.
Il dibattito tra esperti: quando arriverà l’AGI?
Le previsioni degli esperti sull’AGI variano enormemente. Sam Altman di OpenAI stima che l’AGI potrebbe arrivare “entro pochi anni.” Demis Hassabis di Google DeepMind parla di “una decade.” Yann LeCun di Meta, uno dei ricercatori AI più influenti, è convinto che i LLM attuali non siano la strada verso l’AGI e che manchi ancora un salto concettuale fondamentale. Yoshua Bengio, altro pioniere del deep learning, ha espresso preoccupazione per i rischi e sostiene un approccio molto più cauto. La verità è che nessuno sa con precisione quando o se arriverà l’AGI. I benchmark mostrano progressi accelerati; ma ogni volta che si definisce un test come indicatore di “intelligenza generale”, i modelli lo superano senza che nessuno sia convinto che abbiano raggiunto l’AGI. Il benchmark ARC-AGI di Chollet , progettato specificamente per misurare la generalizzazione flessibile , è stato superato da o3 nel 2024, ma Chollet stesso ha chiarito che questo non equivale all’AGI.
Come i ricercatori affrontano il rischio
Anthropic ha fondato l’AI Safety team come priorità aziendale, con ricercatori dedicati all’interpretability (capire cosa succede dentro i modelli), all’allineamento e alla valutazione dei rischi. Pubblicano regolarmente paper accademici sui progressi tecnici nella sicurezza. OpenAI ha un team di Superalignment guidato (fino al 2024) da Ilya Sutskever con l’obiettivo dichiarato di risolvere il problema dell’allineamento entro 4 anni. DeepMind ha un team di sicurezza che lavora su interpretabilità e value learning. MIRI (Machine Intelligence Research Institute) è l’organizzazione di ricerca indipendente più focalizzata sulla sicurezza AI a lungo termine. A livello istituzionale, governi di USA, UK, EU e Cina stanno sviluppando politiche specifiche per i rischi AI avanzati, con l’AI Safety Summit di Bletchley Park nel 2023 che ha segnato il primo accordo intergovernativo sulla governance dell’AI frontier.
Cosa può fare ognuno di noi
Di fronte a rischi di questa scala, cosa può fare un individuo? Informarsi è il primo passo: comprendere le basi del problema dell’allineamento, le diverse prospettive degli esperti e lo stato della ricerca. Supportare organizzazioni che lavorano sulla sicurezza AI. Esercitare pressione politica per una governance responsabile dei sistemi AI più avanzati. E, per chi lavora nel settore tech, considerare seriamente se le proprie competenze potrebbero contribuire alla sicurezza AI piuttosto che all’accelerazione incondizionata. La buona notizia è che la consapevolezza dei rischi è aumentata enormemente negli ultimi anni: l’AI safety non è più una nicchia per “doomers” apocalittici ma una preoccupazione mainstream di scienziati, governi e aziende. Per approfondire le questioni etiche dell’AI, leggi il nostro articolo sui deepfake e sui bias nell’AI.
La nostra responsabilità collettiva
Il rischio della superintelligenza non è inevitabile , ma richiede che la comunità globale lo affronti con serietà, prima che sia troppo tardi per correggere il corso. La finestra temporale in cui possiamo influenzare le traiettorie dello sviluppo AI è aperta ora, ma potrebbe non restare aperta a lungo. I progressi tecnici nell’allineamento, la governance internazionale, la trasparenza delle organizzazioni AI e la partecipazione informata della società civile sono tutti elementi che possono influenzare positivamente questo percorso. L’AI non è destino: è una tecnologia costruita da esseri umani per scopi umani, e le scelte che facciamo oggi , su chi la sviluppa, come la regolamentiamo, quali valori vi incorporiamo , determineranno se diventerà il più grande beneficio o il più grande rischio nella storia dell’umanità. Per capire meglio il dibattito etico sull’AI, leggi il nostro articolo sui bias nell’AI e sull’AI Act europeo come primo quadro normativo globale.
Per chi vuole approfondire il tema della sicurezza AI e della superintelligenza, i libri fondamentali sono “Superintelligence” di Nick Bostrom, “Human Compatible” di Stuart Russell e “The Alignment Problem” di Brian Christian. Online, i post del blog di Eliezer Yudkowsky su LessWrong, i paper di Anthropic sul Constitutional AI e la ricerca di DeepMind su reward modeling offrono le prospettive tecniche più aggiornate. Il sito dell’AI Safety Institute UK e l’US AI Safety Institute pubblicano analisi delle capacità e dei rischi dei modelli frontier. Comprendere questi rischi non richiede una laurea in informatica: richiede curiosità intellettuale e disponibilità a confrontarsi con incertezze profonde sul futuro della nostra civiltà.
