Il report GTIG di Google separa l'uso improprio dell'IA da parte di gruppi APT dall'estrazione di modelli nel settore privato

Due categorie di minaccia, tenute deliberatamente separate

Il post fa una cosa che molti aggiornamenti sulla sicurezza dell'IA tendono a confondere: traccia una linea netta tra chi usa l'IA per condurre attacchi e chi attacca l'IA stessa. Sul primo fronte, GTIG dichiara di aver osservato attori che usano l'IA per raccogliere informazioni, creare truffe di phishing definite 'iper-realistiche' e sviluppare malware.

Sul secondo fronte, il linguaggio è più preciso. Google dichiara di non aver osservato attacchi diretti ai modelli più avanzati o ai prodotti di IA generativa da parte di gruppi APT. È un'affermazione specifica e datata — un riscontro negativo — e ha importanza perché indica da dove la pressione non arrivi, almeno nel periodo coperto da GTIG.

L'estrazione di modelli è la minaccia che Google ha scelto di nominare

L'affermazione concreta del post riguarda gli attacchi di estrazione di modelli, che Google definisce una forma di spionaggio industriale. Dichiara di aver 'osservato e contrastato con frequenza' questi tentativi, attribuendoli non a gruppi sostenuti da stati ma a soggetti del settore privato in tutto il mondo.

abbiamo osservato e contrastato con frequenza attacchi di estrazione di modelli (una forma di spionaggio industriale) da parte di soggetti privati in tutto il mondo — una minaccia che probabilmente altre aziende con modelli IA dovranno affrontare nel prossimo futuroMontana Labs

Questa impostazione merita attenzione. Chi cerca di copiare il modello è, nel racconto di Google, spesso un'altra azienda e non un governo ostile. E Google prevede esplicitamente che qualsiasi azienda che gestisce propri modelli dovrà affrontare la stessa pressione.

Le risposte sono specifiche per modello e per account

Google descrive due tipi di intervento. Primo, disabilitare gli account coinvolti per interrompere le attività dannose — una leva operativa legata all'accesso alla piattaforma. Secondo, rafforzare sia i controlli di sicurezza sia i modelli Gemini contro l'uso improprio, il che indica modifiche ai modelli stessi, non solo alle protezioni che li circondano.

Il post non fornisce cifre su quanti account siano stati disabilitati, su quanto sia frequente 'frequente', né su cosa consista il rafforzamento dei modelli. Questi dettagli, se esistono, sono rinviati al report completo sul blog Google Cloud Threat Intelligence. Questo articolo è un riassunto e un rimando.

Cosa dovrebbe trarne un team che gestisce modelli in autonomia

L'implicazione per qualsiasi organizzazione che addestra o serve i propri modelli riguarda l'avviso sull'estrazione. Google segnala agli operatori che i pesi e il comportamento di un modello distribuito sono essi stessi un obiettivo di furto, indipendentemente dal fatto che qualcuno tenti di forzarlo o corromperlo, e che gli attaccanti possono essere concorrenti commerciali.

In pratica, questo separa due compiti difensivi che molti team trattano come uno solo: proteggersi dall'uso improprio degli output del modello e proteggersi dalla ricostruzione del modello stesso tramite interrogazioni ripetute. Google dichiara di aver contrastato quest'ultimo caso. Il post non spiega come, quindi la conclusione operativa è più limitata del titolo — leggi il report collegato prima di supporre che le stesse misure si applichino a un deployment più piccolo.