A Safety Fellowship da OpenAI mantém investigadores externos ao nível da API

O que o piloto oferece na prática

A 6 de abril de 2026, a OpenAI abriu candidaturas para uma Safety Fellowship, um programa piloto para investigadores, engenheiros e profissionais externos. Decorre de 14 de setembro de 2026 a 5 de fevereiro de 2027 — um período definido de cinco meses, e não uma residência em aberto.

Os fellows recebem uma bolsa mensal, apoio em computação e mentoria contínua de mentores da OpenAI, além de um grupo de pares. Existe espaço físico de trabalho em Berkeley, na Constellation, mas o trabalho remoto é permitido. As candidaturas encerraram a 3 de maio, com os candidatos aprovados a serem notificados até 25 de julho.

O entregável é específico: um resultado de investigação substancial até ao fim do programa, definido como um artigo, um benchmark ou um conjunto de dados. Este enquadramento mostra que o programa está orientado para produtos que a comunidade de investigação em geral possa usar, e não para entregáveis internos que ficam dentro da empresa.

A fronteira de acesso é a verdadeira decisão de conceção

Para quem constrói sobre estes sistemas, o detalhe mais incisivo do anúncio é onde a OpenAI traça a linha sobre aquilo a que os fellows podem chegar.

Os fellows receberão créditos de API e outros recursos conforme adequado, mas não terão acesso a sistemas internos.Montana Labs

Esta única frase posiciona toda a fellowship na superfície pública do modelo — a mesma API com que qualquer programador externo trabalha. Aqui, a investigação em segurança e alinhamento acontece através da interface, não através de pesos, dados de treino ou ferramentas internas.

Essa restrição molda o tipo de questões que se tornam tratáveis. A avaliação comportamental, os testes de robustez e os testes de utilização indevida podem todos ser feitos ao nível da API. O trabalho que exigisse inspecionar os sistemas internos fica, por construção, fora do âmbito. As áreas prioritárias — incluindo a supervisão de agentes e domínios de utilização indevida de alta gravidade — são todas passíveis de ser estudadas de fora para dentro.

O que a OpenAI está a selecionar

A lista de prioridades inclui avaliação de segurança, ética, robustez, mitigações escaláveis, métodos de segurança que preservam a privacidade, supervisão de agentes e domínios de utilização indevida de alta gravidade. A OpenAI diz que quer especialmente trabalho empiricamente fundamentado, tecnicamente sólido e relevante para a comunidade de investigação em geral.

Os critérios para candidatos são inusitadamente abertos. As candidaturas são bem-vindas de áreas como ciência da computação, ciências sociais, cibersegurança, privacidade e HCI, e a OpenAI afirma que prioriza a capacidade de investigação, o discernimento técnico e a execução em detrimento de credenciais específicas. Ainda assim, são exigidos contactos de referência.

A Constellation não é apenas um endereço com uma mesa. As candidaturas e as questões são geridas através de [email protected], e o espaço de trabalho em Berkeley é partilhado com outros fellows aí presentes — um sinal de que a OpenAI está a ligar-se a uma comunidade externa já existente de investigação em segurança, em vez de construir uma via interna isolada.

O que uma fellowship limitada à API implica para o trabalho de segurança em sistemas de fronteira

Ao financiar investigadores externos, dando-lhes computação e créditos de API, e pedindo produtos publicáveis, a OpenAI está a tratar a API como um ponto de observação suficiente para uma classe relevante de investigação em segurança — e a tratar o acesso interno como algo que permanece proprietário mesmo para os seus próprios fellows financiados.

Para equipas aplicadas, isto reformula o que se espera que a "investigação em segurança" pareça à escala: avaliações, benchmarks e conjuntos de dados construídos sobre a mesma interface que todos os outros utilizam. Os métodos que um fellow desenvolve aqui são, por conceção, métodos que qualquer pessoa com acesso à API poderia executar — e é precisamente por isso que os resultados se destinam a ser partilhados.

A questão em aberto que este piloto deixa é até que ponto o acesso ao nível da superfície pode sustentar o trabalho de alinhamento antes de os sistemas internos se tornarem relevantes. A OpenAI apostou, pelo menos para este grupo até fevereiro de 2027, que muito desse trabalho pode ser feito a partir de fora.