Bancos dos Estados Unidos estão bloqueando agentes de IA de terceiros em contas de clientes, segundo apuração própria da Reuters publicada em 22 de outubro. Um agente é um software que usa IA para executar tarefas, além de responder perguntas.

A notícia recoloca uma pergunta prática na mesa de quem automatiza a empresa: qual acesso a tarefa realmente exige? Esta é uma leitura das reportagens do dia, com contexto técnico da OWASP sobre limites de autonomia.

O que os bancos estão bloqueando?

A Reuters ouviu duas pessoas familiarizadas com o assunto e confirmou restrições à operação de agentes externos e à realização de transações. Segundo uma fonte da indústria, há clientes entregando login e senha a esses sistemas, e os bancos costumam identificar e bloquear essas transações.

O Morgan Stanley bloqueou agentes de terceiros, mas, segundo uma pessoa ouvida pela agência, não havia observado casos de agentes não autorizados ou fora de controle em suas plataformas. A reportagem também recupera declarações anteriores de executivos do JPMorgan e da Charles Schwab sobre restrições.

A confirmação jornalística é de bloqueios. Isso não comprova uma onda de contas esvaziadas por robôs.

Dar a senha significa autorizar qualquer ação?

Não. A autorização do cliente para uma tarefa, a aceitação desse acesso pelo banco e o comportamento efetivo do agente são questões diferentes.

O Axios, que publicou a reportagem original nesta quinta-feira, relata, com base em fontes, tentativas de ações aparentemente independentes das instruções dos usuários. Também registra dificuldade dos bancos em distinguir quem está comandando a atividade.

Na mesma apuração, o veículo explica que o acesso frequentemente ocorre com credenciais e consentimento do próprio cliente, embora contrarie regras bancárias. São relatos que exigem atribuição, não prova pública de que todo agente conectado virou invasor.

Por exemplo, num cenário hipotético, pedir um resumo do extrato e autorizar uma transferência são duas decisões. Um login capaz de fazer ambas não transforma a primeira instrução na segunda.

O regulador confirmou prejuízos ou reembolso?

Na entrevista de 22 de outubro relatada pelo American Banker, Jonathan Gould, chefe do órgão americano de supervisão bancária OCC, afirmou que bancos vinham reforçando defesas havia meses. Disse também que as instituições usam IA para se proteger.

Perguntado duas vezes sobre devolução de dinheiro caso um agente fizesse uma transferência não autorizada, ele não detalhou como esses casos seriam resolvidos. Reiterou confiança na prevenção.

Essa declaração não permite prometer ressarcimento. As reportagens citadas tampouco estabelecem uma regra para bancos brasileiros.

Por que o risco vai além de uma resposta errada?

Porque um sistema conectado pode transformar uma saída inesperada em ação. A OWASP chama esse problema de autonomia excessiva, ou Excessive Agency, e aponta três causas: funcionalidades, permissões e autonomia além do necessário.

O documento descreve danos que podem surgir de respostas ambíguas, alucinações ou instruções maliciosas inseridas no conteúdo que o modelo lê. Não basta avaliar se a resposta parece boa: é preciso observar o que o sistema consegue executar.

Entre as medidas propostas estão limitar ferramentas e permissões, exigir aprovação humana para ações de alto impacto e verificar autorização no sistema que recebe a operação. Registrar e monitorar atividades ajuda a detectar problemas; isso, sozinho, não impede a ação.

É uma referência técnica anterior à notícia. Ela explica um tipo de risco, sem diagnosticar a causa dos episódios bancários relatados hoje.

O que essa notícia muda na automação da empresa?

Minha leitura é que o limite de acesso precisa acompanhar a tarefa, não a capacidade máxima da ferramenta. O caso bancário torna essa diferença visível.

Num exemplo hipotético de uma loja, a IA poderia preparar uma conciliação com dados de consulta. O pagamento ficaria como outra etapa, com autorização específica no sistema financeiro. É uma aplicação do princípio de permissões mínimas, não uma descrição de implantação testada por nós.

Pra quem decide onde usar IA no negócio, essa discussão começa no desenho do trabalho. Que informação entra, que ação sai e quem autoriza a execução?

A Formação em IA para Negócios do ibe.IA é voltada a quem quer aplicar IA nas operações da empresa.

E para acompanhar análises práticas sobre IA e automação, siga o ibe.IA no Instagram: @ibe.ia.

Fonte