«Vogliamo avere accesso a tutti i modelli AI e intendiamo sfruttarlo». A dirlo è stato Tim Kosiba, vicedirettore della National Security Agency americana, durante un evento dell’Intelligence and National Security Alliance il 27 agosto.
L’obiettivo dichiarato è testare i nuovi modelli, comprenderne le capacità nel campo della cybersecurity e individuare vulnerabilità prima che possano essere sfruttate da altri.
Non è difficile capire perché un’agenzia di intelligence sia interessata. I frontier model stanno diventando sempre più capaci di trovare vulnerabilità nel software e di automatizzare attività che fino a pochi anni fa richiedevano competenze tecniche avanzate.
Ma l’agenzia che oggi chiede di poter guardare dentro i sistemi più potenti della prossima infrastruttura digitale è la stessa che, grazie ai documenti divulgati da Edward Snowden 13 anni fa, abbiamo scoperto aver costruito un sistema di sorveglianza globale.
Cosa insegna il caso Snowden?
Nel 2013 Edward Snowden lavorava come contractor per l’NSA e aveva accesso a documenti classificati che hanno rivelato programmi di sorveglianza molto più estesi di quanto fosse noto al pubblico. Decise di consegnarli ad alcuni giornalisti, portando alla luce attività rimaste fino a quel momento segrete. Gli Stati Uniti lo hanno incriminato ai sensi dell’Espionage Act e da allora Snowden vive di fatto in esilio, in Russia.
Tra gli strumenti emersi dai documenti di Snowden c’era GUMFISH, un componente utilizzato dall’NSA che permetteva di attivare segretamente la webcam di un computer compromesso e scattare fotografie. C’era poi CAPTIVATEDAUDIENCE, che consentiva di prendere il controllo del microfono di un computer bersaglio e registrare ciò che accadeva intorno al dispositivo.
A partire dal 2008 il GCHQ britannico, con il supporto dell’NSA, sviluppò Optic Nerve, un programma che intercettava le videochat degli utenti Yahoo e ne salvava periodicamente alcune immagini. In un periodo di appena sei mesi del 2008 furono raccolte immagini provenienti da oltre 1,8 milioni di account Yahoo in tutto il mondo, indipendentemente dal fatto che i singoli utenti fossero obiettivi di intelligence. Una parte consistente delle immagini conteneva materiale sessualmente esplicito.
Arriviamo a oggi. L’NSA chiede accesso anticipato ai modelli più avanzati dell’AI.
Il 2 giugno di quest’anno la Casa Bianca ha firmato un ordine esecutivo dedicato alla sicurezza dei sistemi AI più avanzati, assegnando proprio all’NSA un ruolo centrale.
L’agenzia contribuirà alla valutazione delle capacità dei modelli nel campo della sicurezza informatica e all’individuazione di quelli più avanzati e potenzialmente rischiosi. Parallelamente, il governo vuole permettere alle aziende di concedere volontariamente alle agenzie federali l’accesso anticipato ai propri modelli, fino a 30 giorni prima che vengano messi a disposizione di altri partner fidati.
La motivazione ufficiale è la sicurezza. Ma il caso Snowden ci ha mostrato cosa può succedere quando un’agenzia di intelligence dispone contemporaneamente di tre cose: una “minaccia” da contrastare, capacità tecniche eccezionali e la possibilità di operare lontano dallo scrutinio pubblico.
La sorveglianza rivelata nel 2013 non era nata fuori dallo Stato di diritto. Era stata costruita dentro una democrazia, in nome della sicurezza nazionale e attraverso programmi che, per anni, la maggior parte dei cittadini non sapeva nemmeno esistessero.
Per un’azienda trovare una vulnerabilità significa quasi sempre avere interesse a correggerla. Per un’agenzia di intelligence la stessa vulnerabilità può diventare una capacità operativa da conservare e sfruttare per i propri interessi. In questo modo la sicurezza dei sistemi e la capacità di penetrarli convivono nella stessa istituzione.
Oggi l’accesso previsto dall’ordine della Casa Bianca è volontario e regolato. Nessuno può sapere come l’NSA utilizzerà queste capacità in futuro. L’unica cosa che si sa è che il precedente esiste.
