Re Carlo avverte i creatori dell’IA del ‘pericolo esistenziale’ della loro tecnologia

“Coloro che hanno creato queste tecnologie ora avvertono sempre più che l’IA rischia di sviluppare capacità più oscure — forse persino di togliere la vita.” La frase scelta da Re Charles non era un avvertimento su hacker o stati ostili. Era uno specchio, tenuto davanti a chi costruisce i sistemi, e l’avvertimento al suo interno era uno che attribuiva a loro.

Questa è la metà del discorso che la maggior parte della copertura ha sorvolato. La frase che ha viaggiato è stata quella più morbida delle stesse osservazioni — i “pericoli esistenziali di tali tecnologie che cadono nelle mani sbagliate.” Mani sbagliate è una cornice comoda se sei tu a spedire lo strumento. Mette il pericolo là fuori, in qualche cattivo che abusa di uno strumento neutrale, piuttosto che nello strumento stesso o nelle aziende che gareggiano per renderlo più capace. Charles ha rifiutato di fermarsi lì.

Invece ha puntato il rischio alla sua fonte. I creatori sono quelli che ora stanno suonando l’allarme, ha detto — e poi ha posto una domanda tagliente alla sala: “Certo, abbiamo bisogno di mezzi di controllo sufficienti prima che sia troppo tardi?”

Il peso di quella frase risiede su una parola. Controllo è l’unica cosa che un incontro come questo non può effettivamente concedere. Non ha potere statutario, non fissa alcun limite che un’azienda debba rispettare e non comporta alcuna penalità per ignorarlo. Ciò che è emerso è stato un accordo per perseguire “principi condivisi” — una frase che descrive un’aspirazione, non un meccanismo. I dirigenti, per tutti i resoconti, erano grati per la conversazione. La gratitudine non è una salvaguardia.

C’è un’inversione istituzionale qui che è facile da perdere sotto la cerimonia. Un monarca non ha alcuna leva su Nvidia, OpenAI, Anthropic o Google DeepMind. Non può autorizzare un modello, auditare un ciclo di addestramento o rallentare un lancio. Le persone che possono fare queste cose — legislatori, regolatori della concorrenza, il ministro che era effettivamente seduto nella stanza — non erano quelle che convocavano. Una figura con autorità simbolica e nessun potere coercitivo stava chiedendo alle persone con tutto il potere senza enforcement del mondo di auto-poliziarsi. Questo è grosso modo l’accordo che l’industria ha preferito fin dall’inizio.

Letta in questo modo, il vertice ha fatto un favore silenzioso ai costruttori. Ha permesso alla storia di diventare “mani sbagliate,” la cornice in cui la tecnologia va bene e solo il suo abuso è il problema. Ha convertito un avvertimento sulla capacità intrinseca — la macchina che sviluppa “capacità più oscure” sulla propria traiettoria — in un dibattito familiare sui cattivi attori. E ha avvolto il tutto nella legittimità di una Corona che, per quanto sincera, non può imporre una singola riga delle salvaguardie che ha invocato.

L’incontro si è svolto a Dumfries House, la tenuta georgiana restaurata del Re in Ayrshire, Scozia. Nella sala c’erano l’amministratore delegato di Nvidia Jensen Huang, il fondatore di Google DeepMind Demis Hassabis, il direttore finanziario di OpenAI Sarah Friar, il direttore degli affari globali di Anthropic Tino Cuéllar, il ministro per l’intelligenza artificiale del Regno Unito Kanishka Narayan, e Padre Paolo Benanti, il consulente del Vaticano per l’etica della tecnologia. Charles è stato attento a riconoscere anche la promessa dell’IA — in medicina in particolare — e a sollevare il suo costo ambientale. Ha chiesto agli ospiti di mantenere la tecnologia “saldamente al servizio dell’umanità, della comunità e del mondo naturale.” Nessun impegno vincolante è uscito dalla sala con loro.

Così le persone più potenti del settore hanno sentito un capo di stato descrivere il loro prodotto come capace, da solo, di togliere la vita — e sono usciti con la loro cornice preferita intatta e un’udienza reale da mostrare. I mezzi di controllo che il Re ha chiesto rimangono esattamente dove erano prima che parlasse: nelle mani che stava interpellando, e di nessun altro.

Tag: OpenAI, artificial intelligence, AI safety, AI risks, King Charles