A Meta publica o seu Frontier AI Framework, limitando o risco catastrófico a ameaças cibernéticas, químicas e biológicas

O que o framework efetivamente abrange

O Frontier AI Framework da Meta, publicado a 3 de fevereiro de 2025, é explícito sobre o que cobre e, por implicação, sobre o que não cobre. O documento afirma que o framework "se concentra nos riscos mais críticos nas áreas de ameaças de cibersegurança e riscos de armas químicas e biológicas". É esta a totalidade da superfície de risco catastrófico que a Meta se compromete a avaliar aqui.

Trata-se de um âmbito deliberadamente restrito. Estão ausentes das categorias identificadas os danos que dominam a discussão quotidiana sobre modelos de fronteira — persuasão e desinformação, replicação autónoma, comportamento enganoso ou substituição económica de mão-de-obra. Ao ancorar o framework a ameaças cibernéticas, químicas e biológicas, a Meta define "catastrófico" em termos de armamento à escala da segurança nacional, e não de dano social difuso. O documento associa todo o esforço a um compromisso assumido na Cimeira Global de AI de Seul, no ano passado.

O processo orientado a resultados, em três etapas

O framework descreve uma cadeia, não uma lista de verificação. Começa por identificar os resultados catastróficos a evitar e, depois, coloca uma questão específica: se esses resultados são "possibilitados por avanços tecnológicos" — ou seja, se um determinado modelo realmente faz diferença numa ameaça que já existe no mundo. Se assim for, o framework avança para a mitigação.

A segunda etapa é a modelação de ameaças — antecipar "como diferentes atores poderiam procurar utilizar indevidamente a AI de fronteira para produzir esses resultados catastróficos", trabalhando com especialistas externos "quando necessário". A terceira são os limiares de risco, que a Meta define "com base na medida em que os nossos modelos facilitam os cenários de ameaça", com processos que mantêm o risco dentro de níveis aceitáveis através da aplicação de mitigações.

O ponto de viragem comum às três etapas é a contribuição marginal: não aquilo que um modelo consegue descrever em abstrato, mas o quanto facilita um resultado nocivo específico que um ator determinado já poderia, de outro modo, perseguir. Este enquadramento é relevante porque estabelece uma barreira elevada para reter um modelo — a capacidade tem de possibilitar o dano de forma significativa, não apenas mencioná-lo.

O open source apresentado como ferramenta de risco, não apenas como ideologia

A afirmação mais distintiva do documento é a de que o lançamento em open source melhora, em vez de degradar, a avaliação de risco. A Meta escreve que a sua abordagem open source "nos permite aprender a partir das avaliações independentes da comunidade em geral sobre as capacidades dos nossos modelos", e argumenta que isto "melhora a eficácia e a fiabilidade dos nossos modelos e contribui para uma melhor avaliação de risco no setor".

Disponibilizar AI em open source não é opcional; é essencial para consolidar a posição dos Estados Unidos como líder em inovação tecnológica, crescimento económico e segurança nacional.Montana Labs

Esta frase faz duas coisas em simultâneo. Enquadra a abertura como uma necessidade competitiva e geopolítica, e posiciona o escrutínio externo como parte do próprio processo de segurança da Meta. A tensão é inevitável: a mesma estratégia de lançamento que dá origem a avaliações da comunidade também elimina a capacidade da Meta de recuar num modelo depois de os pesos serem tornados públicos. Os limiares de risco e as mitigações do framework têm, por isso, de produzir efeito antes do lançamento, não depois.

O que isto significa para equipas que constroem sobre os modelos da Meta

Para equipas de aplicação prática, o sinal relevante é onde a Meta traçou a sua linha de lançamento. O framework compromete-se a avaliar o potencial de armamento cibernético e QBRN antes do lançamento, mas trata todas as outras classes de dano — precisão, utilização indevida em fraude ou assédio, risco de fine-tuning subsequente — como estando fora deste processo específico. As equipas que integram os modelos de pesos abertos da Meta herdam diretamente a responsabilidade por essas categorias, porque o framework a montante não afirma cobri-las.

A Meta também apresenta o documento como provisório, afirmando que a abordagem irá "continuar a evoluir e a ser refinada" à medida que a tecnologia progride. Isto é honesto, mas tem consequências: os limiares são qualitativos, e não numéricos, o envolvimento de especialistas externos é discricionário ("quando necessário"), e o lado dos benefícios é afirmado, não medido. O framework deve ser lido, sobretudo, como uma declaração daquilo que a Meta irá analisar antes de abrir os pesos dos modelos — um limiar mínimo para dois riscos catastróficos específicos — e não como um contrato de segurança completo para quem implementa estes modelos em produção.