Pentagon vs Anthropic: Quando il Deep Learning incontra la Realpolitik
Immaginate di stare cercando di debuggare un pezzo di codice critico mentre un ufficiale di alto rango vi guarda fisso negli occhi, pronto a staccare la spina se non rispondete esattamente come vuole lui. Ecco, questo è esattamente il clima che emerge dai documenti legali appena pubblicati riguardo lo scontro tra il Pentagono e Anthropic. Non parliamo di una banale disputa su un contratto di cloud computing o su qualche bug in un’API. Qui siamo nel territorio dove la tecnologia d’avanguardia incontra la geopolitica più cruda. I documenti mostrano una serie di scambi mail decisamente tesi tra l’ex executive di Uber (ora operativo per il Pentagono) e Dario Amodei, il boss di Anthropic. Il tema centrale? La direzione che la ricerca sull’IA dovrebbe prendere e chi, in ultima analisi, debba tenere le redini del modello. Per chi non fosse aggiornato, Anthropic è una di quelle realtà che punta tutto sulla ‘AI Safety’. L’idea è costruire modelli che siano meno ‘wild west’ e più controllabili. Ma quando il cliente principale è il Pentagono, il concetto di ‘sicurezza’ può diventare molto ambiguo. Da un lato hai la necessità di evitare scenari da fine del mondo alla Skynet, dall’altro hai una superpotenza che vuole assicurarsi che l’algoritmo risponda ai suoi interessi strategici. Quello che emerge è un classico esempio di scontro tra visione tecnica e necessità di controllo centralizzato. Vedere queste dinamiche è quasi istruttivo, se non fosse inquietante. È la dimostrazione di come, anche quando parliamo di modelli linguistici avanzati, il vero problema non sia solo quanti parametri ha il Transformer, ma chi possiede l’infrastruttura e chi decide i parametri di allineamento. Certo, siamo in Italia e spesso queste beghe tra Washington e la Silicon Valley sembrano far parte di un film di fantascienza che non ci riguarda direttamente. Ma non fatevi illusioni: quando i giganti del settore iniziano a negoziare i confini dell’etica e della sicurezza con i ministeri della difesa, le onde d’urto arriveranno anche da noi, sotto forma di nuove regolamentazioni o di standard tecnologici che decideranno cosa è ‘sicuro’ e cosa no. In breve: meno hype da conferenza stampa e molta più politica pesante. Se pensavate che l’IA fosse solo una questione di prompt engineering e dataset puliti, preparatevi, perché il gioco si sta facendo molto più sporco. Source: Read the Tense Emails Between the Pentagon (Former Uber Exec) and Anthropic (Dario Amodei)