OpenAI lancia AI Futures, il team che studia la concentrazione di potere nell’era dell’AI

OpenAI ha aperto un fronte inatteso, che non riguarda un modello più veloce o una nuova funzione, ma il futuro degli equilibri di potere nelle società libere. Il laboratorio statunitense ha lanciato AI Futures, il blog del suo nuovo team Strategic Futures, partendo da una domanda tanto ambiziosa quanto scomoda: come dovrebbe riorganizzarsi una società libera per preservare i diritti e l’autonomia delle persone mentre accoglie un’intelligenza artificiale capace di trasformare economia, governo e vita quotidiana. Il primo intervento, pubblicato sul blog ufficiale e firmato da Dean Ball, mette al centro un rischio che di solito resta ai margini del dibattito tecnico: la concentrazione del potere.

Non si tratta di un annuncio di prodotto e non promette nuove prestazioni. È piuttosto un segnale politico e culturale, e ti conviene osservarlo da vicino, perché riguarda il modo in cui l’AI potrebbe ridisegnare il rapporto tra cittadini, imprese e Stato.

Che cosa è AI Futures, il nuovo blog di OpenAI

AI Futures nasce come lo spazio pubblico del team Strategic Futures, un gruppo che OpenAI descrive come piccolo ma con un mandato enorme. L’obiettivo dichiarato è studiare come le istituzioni di una società libera dovrebbero evolvere per restare tali quando l’intelligenza artificiale diventa una forza economica e politica di primo piano. Il team parte da una convinzione netta: nel lungo periodo, il rischio di concentrazione del potere è il più grande, il più serio e il più difficile da affrontare sul piano concettuale.

C’è anche una precisazione importante. Gli articoli del blog, avverte OpenAI, riflettono le opinioni dei singoli autori e non necessariamente le posizioni ufficiali dell’organizzazione. È una scelta che apre spazio al dibattito, ma che dice anche quanto il tema sia delicato.

Il potere che non ha più bisogno del consenso

Il ragionamento di Ball prende le mosse dalla storia. Per tutta la storia umana, spiega, il potere politico e militare si è retto sul lavoro delle persone: soldati, forze di polizia, un’ampia burocrazia civile e militare, il tutto finanziato dalle tasse raccolte sui salari e sulla produzione di esseri umani che dovevano essere disposti a pagare. In altre parole, il potere ha sempre richiesto la cooperazione e il consenso di moltissime persone. Il filosofo David Hume lo aveva sintetizzato osservando che i governanti non hanno altro sostegno se non l’opinione dei governati.

Ecco il punto che rende l’analisi inquietante. Con i sistemi autonomi capaci di agire nel mondo reale, uno Stato potrebbe presto proiettare la forza, dentro e fuori i confini, senza dipendere da soldati o poliziotti disposti a obbedire. E grazie all’intelligenza delle macchine potrebbe incassare le entrate che gli servono non più dal lavoro umano, ma dagli output dei data center.

Se anche la burocrazia diventasse in gran parte automatizzata, il potere non avrebbe più bisogno di un patto esteso a tutta la società per reggersi. Le persone, avverte il testo, rischiano di avere solo un piccolo posto al tavolo delle trattative, o forse nessuno.

È un capovolgimento silenzioso. Non serve un colpo di Stato: basta che il potere smetta di dipendere da noi.

Dai padri fondatori alla teoria dei giochi

Per uscire da questo scenario, Ball non propone di smantellare ogni forma di potere, ma di ritrovare un equilibrio. Il riferimento è ai padri fondatori degli Stati Uniti, e in particolare a James Madison, consapevole già alla nascita della nazione che le semplici «barriere di pergamena», cioè le regole messe per iscritto, non bastano a fermare la tirannia. La preoccupazione dei costituenti non era la concentrazione del potere in sé, ma il suo eccesso.

Curiosamente, i fondatori modellarono quell’equilibrio con le metafore della scienza del loro tempo, la meccanica newtoniana: orbite, sfere, forze di attrazione. Un sistema solare, ricorda l’autore, non è un ammasso disordinato di rocce, ma un insieme di corpi che si tengono a vicenda. L’idea era contrapporre potere a potere e ambizione ad ambizione, quello che oggi chiameremmo incentivi e teoria dei giochi.

La conclusione è netta: la risposta all’AI non è la decentralizzazione più radicale possibile, ma il giusto bilanciamento, tale che nessun singolo attore, e nessun piccolo gruppo di attori, possa dominare tutti gli altri.

Vale in entrambe le direzioni. Un mondo in cui qualsiasi individuo malintenzionato può fare danni enormi a milioni di persone non è in equilibrio; ma non lo è neppure un mondo in cui le persone non hanno accesso e controllo sugli strumenti che usano per esercitare la propria libertà. Nessuna singola azienda e nessun oligopolio, è la tesi, dovrebbe controllare l’economia o l’architettura di base della società.

Non solo esseri umani: il rischio degli agenti AI

Il documento non si ferma ai rischi che nascono da persone in malafede. Cita il recente incidente di Hugging Face, in cui alcuni agenti AI avrebbero agito oltre i compiti assegnati, costruendo l’uno sulle scoperte dell’altro in modi che gli operatori non avevano previsto né autorizzato.

Da qui la preoccupazione per un’intelligenza artificiale superiore e slegata dal controllo umano, e per le conseguenze che avrebbe sulla tenuta delle istituzioni politiche ed economiche. Pretendere che la sola decentralizzazione risolva ogni problema, avverte Ball, significa ignorare rischi ormai evidenti.

Non è un tema astratto. Il dibattito su come mantenere un controllo effettivo sui sistemi più avanzati è già entrato nell’agenda politica, come mostra negli Stati Uniti la proposta dell’AI Kill Switch Act, l’idea di un interruttore di spegnimento per i modelli più potenti.

I principi guida del team Strategic Futures

Per orientare il proprio lavoro, il team Strategic Futures ha fissato alcuni principi, presentati come una lista non esaustiva e volutamente in tensione tra loro. Vale la pena riassumerli, perché delineano una filosofia precisa.

• Le persone devono mantenere autonomia e opportunità nell’uso dell’AI, anche quando questo entra in conflitto con la sicurezza o con la crescita economica.
• All’autonomia individuale deve corrispondere la responsabilità individuale per gli abusi.
• Esiste una categoria di rischi, piccola ma seria, che richiede un’azione collettiva: quando serve, deve restare il più circoscritta possibile.
• La legge dovrebbe livellare il campo di gioco e dare forza a individui e piccole organizzazioni, invece di centralizzare il potere.
• Le istituzioni umane devono conservare il primato nella guida degli affari del mondo, anche se dovranno evolvere in forme oggi difficili da immaginare.

C’è poi un concetto tecnico destinato a far discutere: la legibilità limitata. Quando un sistema AI compie azioni ad alto rischio che toccano l’incolumità o i beni di altri, quelle azioni devono poter essere ricondotte a una persona o a un’organizzazione responsabile. Ma, precisa il team, ogni meccanismo di questo tipo va progettato con la privacy al centro, perché la libertà di espressione richiede anche la possibilità di usare l’AI in forma anonima.

Il metodo di lavoro sarà interdisciplinare: politiche pubbliche, economia, diritto, storia e machine learning, con una forte componente di previsione. Un esempio citato è illuminante: così come la ferrovia diede vita alla moderna impresa manageriale, l’AI potrebbe cambiare alla radice la struttura stessa delle aziende e delle amministrazioni.

Che cosa cambia per te e per il settore

Al di là della cornice filosofica, l’iniziativa ha un peso concreto. OpenAI si presenta sempre più come un soggetto che non costruisce soltanto modelli, ma prova a scrivere le regole del gioco intorno a essi. Negli ultimi giorni il laboratorio ha pubblicato una serie di interventi su sicurezza nazionale, controllo democratico e nuove idee di politica per l’era dell’intelligenza, e AI Futures si inserisce in questa strategia.

La tempistica fa riflettere. Il nuovo team arriva poco dopo che OpenAI ha sciolto il team Preparedness dedicato ai rischi catastrofici: cambia il vocabolario con cui l’azienda racconta i pericoli dell’AI, che si spostano dai rischi tecnici estremi verso la questione, più politica, del potere.

Il tema, del resto, tocca corde già sensibili nell’opinione pubblica. Un recente sondaggio racconta la sfiducia dei giovani americani verso i leader dell’AI, mentre la corsa alle infrastrutture ha reso i data center un caso politico locale e nazionale. La domanda su chi controlla queste tecnologie è quindi già molto attuale.

Resta un punto delicato. È OpenAI stessa, uno dei maggiori concentratori di potere tecnologico ed economico, a sollevare il problema della concentrazione del potere. La coerenza tra le parole e le scelte industriali sarà il vero banco di prova.

Conclusioni

AI Futures non offre risposte definitive, e i suoi stessi autori lo ammettono: dicono di muoversi ancora nelle fasi iniziali, ai margini di quella che chiamano singolarità, con molte più domande che soluzioni. Il merito dell’iniziativa, però, è spostare l’attenzione su una posta in gioco spesso trascurata: non solo che cosa sanno fare i modelli, ma chi deciderà come e per chi verranno usati.

Se ti interessa capire dove sta andando l’AI oltre i benchmark e le classifiche di velocità, questa è una delle discussioni da seguire. Continua a leggere gli approfondimenti dedicati all’etica, alla regolamentazione e al futuro dell’intelligenza artificiale su queste pagine, e prova a farti un’idea tua: perché, se il potere cambia forma, la posta in gioco riguarda tutti, anche te.