I. A Linha Que Sobe Sem Que Ninguém a Suba
A autonomia de um sistema de IA raramente é decidida em uma reunião. Ela cresce por acúmulo: o assistente que sugeria passa a executar, a aprovação caso a caso passa a valer para o lote, o agente que pedia licença a cada passo ganha uma janela de meia hora. Cada degrau parece razoável, e o conjunto muda o que foi delegado sem registro.
Chamamos de linha de autonomia o limite explícito, por tipo de decisão, a partir do qual a máquina age sem aprovação humana prévia. A Série 8 perguntou quem assinou a linha e com que autoridade, e a Série 7 chamou de Contrato de Autonomia o documento que a descreve. Esta série pergunta outra coisa: com que prova a linha sobe, e o que a faz descer.
No estudo Measuring AI agent autonomy in practice (“Medindo a autonomia de agentes de IA na prática”), a Anthropic analisou milhões de interações entre pessoas e agentes, no Claude Code e na sua interface pública de programação. Entre usuários novos, cerca de 20% das sessões usam a aprovação automática integral; com a experiência, o uso passa de 40% das sessões. Entre outubro de 2025 e janeiro de 2026, o percentil 99,9 da duração de um turno autônomo quase dobrou, de menos de 25 para mais de 45 minutos.
Os autores ressalvam que o padrão do produto pede aprovação a cada ação e que os dados vêm de um único fornecedor, sobretudo de engenharia de software. Concluem que supervisionar agentes pede monitoramento depois da entrada em produção, e que os modelos aguentam mais autonomia do que exercem na prática.
Duas leituras convivem. A favorável: há folga entre o que os modelos aguentam e o que as pessoas lhes concedem, oportunidade que a série trata de modo ofensivo, como autonomia a ampliar com prova. A de governança: a confiança acumulada reduz justamente a aprovação passo a passo, que era a evidência corrente de que o sistema se comportava.
Entre as fontes públicas consultadas até 28/10/2026, não localizamos documento organizacional aprovado que diga com que evidência uma automação sobe de nível e que gatilho a faz descer. Dizemos que não localizamos, e não que não existe: documentos internos não são públicos.
[Ponto de Inflexão Fiduciária]: Quando foi a última vez que a linha de autonomia de um sistema de IA subiu na organização, e que documento registra a evidência que autorizou a subida?
II. Knight Capital, 2012: o Inventário Que Não Era Prova
Em 01/08/2012, uma corretora americana, a Knight Capital, lançou ao mercado milhões de ordens que ninguém pretendia dar. O órgão regulador dos Estados Unidos, a SEC, concluiu a investigação em 16/10/2013, e dela a série toma um fato sobre a revisão que a empresa fazia dos próprios controles.
Segundo a SEC, nos primeiros 45 minutos depois da abertura do pregão de 01/08/2012, o roteador automatizado de ordens da Knight enviou mais de 4 milhões de ordens ao mercado ao tentar executar 212 ordens de clientes, negociou mais de 397 milhões de ações e chegou a uma perda de mais de US$ 460 milhões. A origem foi técnica: um trecho de código deslocado em 2005 deixou defeituosa uma função que não deveria ser usada, e uma instalação incorreta de código novo, em julho de 2012, a reativou. A empresa aceitou pagar US$ 12 milhões, sem admitir nem negar as conclusões, na primeira ação da SEC sob a regra de acesso ao mercado (Rule 15c3-5).
Entre as falhas listadas, a SEC aponta que a avaliação da Knight sobre os próprios controles se concentrou em compilar um inventário dos controles existentes e em garantir que funcionavam como projetados, em vez de examinar riscos como o mau funcionamento do roteador. O comunicado registra ainda 97 e-mails automáticos gerados antes da abertura, que mencionavam o roteador e identificavam um erro, sem que a empresa agisse sobre eles naquele dia.
Três cuidados de leitura. O primeiro: o roteador de 2012 executava regras e não é IA no sentido de hoje. O caso vale pela estrutura, uma automação agindo em velocidade de máquina cujos controles eram conferidos como lista, e nenhum número da Knight se transpõe para um agente atual.
O segundo: inventário não é prova. O inventário responde ao que a organização tem; a prova responde ao que acontece quando um componente falha e que proteção limita o dano. No comunicado, o chefe da unidade de abuso de mercado da SEC pede que cada corretora olhe cada componente e pergunte o que ocorreria se ele falhasse.
O terceiro: a linha daquele roteador estava em “toda ordem que o sistema decidir enviar”, e o lastro dessa posição era um inventário, sem gatilho que a fizesse descer em minutos.
[Ponto de Inflexão Fiduciária]: Se a organização tivesse de mostrar hoje a evidência que sustenta a posição atual da linha de um sistema que age em velocidade de máquina, o que apresentaria além de uma lista dos controles existentes?
III. A Prova Que Nasce Abaixo da Linha
A literatura de segurança de sistemas críticos tem nome para a evidência que se pede aqui: caso de segurança (safety case). Buhl e colegas o definem, em artigo de 2024 sobre IA de fronteira, como um relatório com argumento estruturado, sustentado por evidência, de que um sistema é seguro o bastante em um contexto de operação definido, e lembram que o recurso já é comum na aviação e na energia nuclear.
Clymer e colegas (2024) agrupam os argumentos em categorias: incapacidade de causar dano, controles fortes, confiabilidade apesar da capacidade de causar dano e, se os sistemas ficarem muito mais poderosos, deferência a assessores de IA confiáveis. Korbak e colegas (2025) esboçam um caso de segurança por controle, apoiado em uma avaliação com equipe adversária e em uma afirmação decisiva: a de que os controles seguem tão eficazes na operação quanto no teste.
Essa última afirmação é o ponto do volume. A prova que autoriza a subida é colhida em um regime, e a autonomia é exercida em outro. Quem afirma que o lastro vale na operação faz uma aposta de equivalência, e o lastro é o conjunto de razões para acreditar nela.
O paradoxo decorre daí. A prova que justifica subir a linha é produzida abaixo dela, onde a pessoa examinava cada ação; quando a linha sobe, essa pessoa deixa de examinar, e a fonte da evidência se estreita. Lisanne Bainbridge, em Ironies of Automation (“Ironias da automação”, Automatica, 1983), descreveu a versão clássica: quanto mais se automatiza, mais a tarefa que sobra ao operador é a mais difícil, vigiar o inesperado, e menos ele a pratica.
Dois meses depois, o painel mostra a mesma taxa de aprovação sem alteração, e o comitê usa o número para elevar de novo o limite. O que mudou é o que o número mede: no lote, a pessoa percorre o painel e confirma, e a ausência de correção deixou de ser sinal de acerto para ser sinal de que ninguém examinou. Quando o fornecedor altera uma tabela de preços, o limite alto atua sobre uma evidência que já não existia.
Ninguém agiu de má-fé: faltou separar a evidência colhida com exame da colhida sem ele.
Parasuraman e Riley (1997) chamam de uso indevido a confiança excessiva na automação, que gera falhas de monitoramento. Lee e See (2004) fixam o alvo de projeto: não a confiança máxima, e sim a apropriada, proporcional à confiabilidade real do sistema. A linha de autonomia é a tradução organizacional dessa proporção, e o lastro mede a confiabilidade a que ela deve corresponder.
[Ponto de Inflexão Fiduciária]: Das evidências que hoje sustentam a posição da linha em um sistema de IA da organização, quantas foram colhidas quando uma pessoa examinava cada ação, e quantas continuam sendo colhidas agora que não examina?
IV. Do Implícito ao Declarado: o Lastro de Autonomia
Chamamos de lastro de autonomia o conjunto de evidências verificáveis, atuais e colhidas no mesmo regime de operação em que o sistema atua, que sustenta a posição da linha de autonomia de cada tipo de decisão. Daqui em diante, apenas “lastro”. A analogia é monetária: autonomia emitida sem lastro é confiança em circulação sem contrapartida, e o efeito aparece quando alguém pede a conversão.
Chamamos de subida lastreada a elevação da linha condicionada a lastro suficiente e a gatilho de recuo definido de antemão, e de recuo a descida da linha quando o lastro se deteriora. A expressão “autonomia conquistada” (earned autonomy) circula no mercado e descreve bem a subida. A série prefere o lastro porque o que se conquista também se perde, e o lastro tem data e regime, o que permite dizer quando venceu.
Para que o lastro exista como ato de governança, cinco itens precisam estar escritos:
- O que a linha autoriza hoje. Tipo de decisão, valor e reversibilidade, por sistema, como já faz o Contrato de Autonomia da Série 7.
- A evidência de cada posição. O que foi medido, em que período, em que regime de operação e com que pessoa examinando ou não.
- O que vence o lastro. Troca de modelo, de dados, de fornecedor ou de volume faz da evidência antiga a evidência de outro sistema.
- O gatilho de recuo. A condição que faz a linha descer sem depender de nova deliberação, e o cargo que a aciona.
- Quem assina a subida e a descida, e a data em que o Conselho lê o lastro.
Feng, McDonald e Zhang (2025) propõem níveis de autonomia definidos pelo papel da pessoa, de operador a observador, e defendem que a autonomia seja decisão deliberada de projeto, separada do que o sistema consegue fazer; sugerem até certificados de autonomia. O lastro acrescenta ao certificado o que falta a qualquer atestado: validade e gatilho.
Um episódio do McKinsey Podcast sobre confiança na era dos agentes recomenda começar com autonomia delimitada, manter pessoas responsáveis pelas decisões de alto impacto e ampliar só quando o monitoramento mostrar comportamento previsível. O lastro nomeia esse “mostrar”. A Gartner prevê, em comunicado de 25/06/2025, que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, por custos crescentes, valor incerto ou controles de risco inadequados: previsão, e não fato, que põe a falta de controle entre os motivos.
☐ Sugere-se pedir à diretoria, para cada sistema que age sem aprovação humana prévia, o documento que diz onde a linha está hoje e a evidência que a sustenta, com a data e o regime em que foi colhida.
☐ Recomenda-se que cada posição da linha traga, de antemão, o gatilho de recuo e o cargo que o aciona.
☐ Orienta-se indicar o cargo que mantém o lastro de cada sistema e a data em que o Conselho o lerá.
V. O Teste do Ácido
Se o regulador, um cliente ou um auditor perguntar amanhã com que evidência o principal sistema de IA da organização passou a agir sem aprovação humana prévia, a organização terá um lastro, com data e regime de coleta, para mostrar, ou o Conselho vai descobrir que a linha subiu por hábito?
🏛️ Biblioteca: Metodologia Prática
Protocolo do Lastro Declarado
01. Passos para Conferir a Posição da Linha
- Liste os sistemas de IA em produção que agem sem aprovação humana prévia e o tipo de decisão que a linha cobre em cada um.
- Procure o documento que diz quando a linha subiu pela última vez e a evidência que a sustentou.
- Anote o regime da evidência: pessoa examinando cada ação, amostragem ou nenhum exame.
- Registre o que vence o lastro e o gatilho de recuo, ou a ausência de ambos.
- Leve o resultado à ata, com a data em que a diretoria apresentará o lastro de cada sistema.
02. Quadro do Lastro de Autonomia
| Vetor | Indicador | Ação |
|---|---|---|
| Contrato de Autonomia | Diz onde a linha está, por tipo de decisão, valor e reversibilidade | Registrar a posição atual e a data da última subida |
| Evidência da posição | Traz medida, período e regime em que foi colhida | Separar a evidência colhida com exame da colhida sem exame |
| Gatilho de recuo | Existe condição escrita e cargo que a aciona | Aprovar o gatilho antes da próxima subida |
03. Glossário
Linha de autonomia: limite explícito, por tipo de decisão, a partir do qual um sistema de IA age sem aprovação humana prévia.
Lastro de autonomia: termo proposto nesta série para o conjunto de evidências verificáveis, atuais e colhidas no mesmo regime de operação que sustenta a posição da linha de autonomia.
Subida lastreada: elevação da linha condicionada a lastro suficiente e a gatilho de recuo definido de antemão.
Recuo: descida da linha quando o lastro se deteriora, sem depender de nova deliberação.
Regime de operação: condições em que o sistema atua: volume, dados, modelo, fornecedor e grau de exame humano.
Caso de segurança (safety case): relatório com argumento estruturado, sustentado por evidência, de que um sistema é seguro o bastante em um contexto definido.
Contrato de Autonomia: termo da Série 7 para o documento aprovado que define o que cada sistema decide sozinho, com controles, gatilhos de suspensão e responsável nomeado.