News · A BNY colocou a governança de IA dentro da interface, não em volta dela

Jul, 134 min de leitura
Frontend

A BNY colocou a governança de IA dentro da interface, não em volta dela

Como a plataforma Eliza da BNY transformou a criação de agentes numa tarefa de front-end para 20 mil funcionários, mantendo os controles de compliance invisíveis para o usuário final

A interface é o plano de controle

A BNY não descreveu a Eliza como uma janela de chat encaixada em cima de modelos de fronteira. Ela descreveu um front end onde prompting, desenvolvimento de agentes, seleção de modelo e compartilhamento acontecem todos dentro do mesmo ambiente governado. Essa decisão de design é a história toda.

A Eliza embute a governança no nível do sistema. Ela padroniza permissões, segurança e supervisão em todos os modelos e ferramentas, garantindo que cada workflow atenda ao mesmo nível de proteção.Montana Labs

A frase da vice-diretora jurídica Watt Wanapha importa para quem constrói interfaces de IA empresarial. Marcação, telemetria, fluxos de aprovação e controles de acesso são aplicados pela própria interface — segundo a fonte, isso acontece 'sem sobrecarregar o usuário final com etapas manuais'. O usuário cria um agente; o front end silenciosamente registra quem o criou, qual modelo foi usado e quem pode vê-lo. Governança não é um portão que o usuário atravessa. É o material do qual a ferramenta é feita.

Compartilhamento limitado a dez colegas

O modelo de compartilhamento é uma restrição concreta de front-end que vale destacar. No início, a Eliza só permitia criações privadas de agentes. Agora, agentes criados por certas equipes e funções podem ser compartilhados com até dez colegas. Esse limite é uma fronteira de produto deliberada — suficiente para gerar reaproveitamento, mas pequena o bastante para manter um raio de impacto conhecido.

O resultado relatado pela BNY é um padrão de reaproveitamento em que 'o agente de uma equipe frequentemente se torna a base de outra', alimentando mais de 125 ferramentas em produção nas principais linhas de negócio. A interface trata um agente como um artefato compartilhável, com um dono e uma lista de acesso — é assim que um experimento privado se torna um ativo departamental sem precisar de um processo de provisionamento separado.

Construindo para quem não é desenvolvedor, medindo pelo hábito

O verdadeiro teste do front end é se pessoas que não são engenheiras conseguem construir com ele. A evidência da BNY é específica: 20 mil funcionários criando agentes ativamente, 99% da força de trabalho treinada em IA generativa, e um hackathon de Vendas em que, segundo o Head de Vendas Ed Fandrey, 'não havia ninguém de TI ou tecnologia presente, mas todo mundo se sentia um desenvolvedor'.

A BNY também ligou a adoção da interface a um programa comportamental. O 'Make AI a Habit Month' promoveu treinamentos diários de sete minutos sobre prompting e criação de agentes, e a Global Head de Talentos Michelle O'Reilly relata que isso gerou 'um aumento de 46% no número de agentes que as pessoas estavam criando'. A lição embutida aqui é que uma ferramenta de criação com baixa fricção ainda precisa de um ritmo de onboarding deliberado antes que funcionários não técnicos passem a usá-la como ferramenta diária, e não como novidade passageira.

Do front end aos 'funcionários digitais'

A BNY estende essa mesma superfície para o que chama de 'funcionários digitais' — agentes com identidades, controles de acesso e workflows dedicados, cuidando de tarefas que vão da validação de instruções de pagamento até segurança de código. Os primeiros resultados relatados são específicos e mensuráveis: um Assistente de Revisão de Contratos reduziu o tempo de revisão jurídica de quatro horas para uma, uma queda de 75%, em mais de 3 mil contratos anuais com fornecedores.

A implicação para equipes que constroem front ends de IA é que a interface não é uma camada fina sobre um modelo — é onde identidade, permissionamento e telemetria são definidos para cada agente que um funcionário cria. A BNY optou por estender suas estruturas jurídicas e de compliance já existentes para essa ferramenta, em vez de criar uma governança específica para IA do zero. Para uma instituição com US$ 57,8 trilhões sob custódia, o front end não é a última etapa do sistema; é onde a responsabilização começa. Essa é a escolha de engenharia replicável, independente de qual modelo de fronteira esteja por trás dela.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Precisa de um parceiro de engenharia de IA que consiga construir de verdade?

Ajudamos empresas no Brasil a integrar IA, acelerar produtos com IA, automatizar operações e modernizar os sistemas de software por trás do negócio.

Get in touch

Leituras relacionadas

Mais análises sobre entrega de produto, IA operacional e o trabalho de sistemas que faz a implantação se sustentar na prática.

Jul, 134 min de leitura
Frontend

A DNP colocou o ChatGPT Enterprise à disposição de dez departamentos e tratou a janela de chat como a interface

Jul, 134 min de leitura
Frontend

AdventHealth implementa o ChatGPT em nove estados tratando a adoção como o produto

Jul, 134 min de leitura
Frontend

A AP+ usa o Codex para criar protótipos de pagamento que realmente funcionam, não só telas clicáveis