A tensão em torno da inteligência artificial generativa tem aumentado nos últimos meses, alimentada pelo medo e por pedidos de maior regulação, muitas vezes vindos de quem menos se esperaria: CEOs e colaboradores dos “laboratórios” que desenvolvem estas mesmas soluções.
A par do recurso crescente a antropomorfismos, é frequente surgir a expressão “caixa negra”. E com razão: os engenheiros desenham os processos de treino, mas não o resultado. Os modelos estabelecem relações internas tão complexas que nem quem os desenvolve consegue explicar completamente determinadas respostas.
Esquecemo-nos, porém, de que o cérebro humano, cuja anatomia conhecemos bem, é também uma caixa negra: continuamos sem saber como produz uma ideia ou uma decisão. E aprendemos a gerir esta opacidade com formação, regras, permissões, supervisão e responsabilização. Não confiamos num cirurgião por conhecermos os seus neurónios, mas pelo sistema em que se insere.
Satya Nadella, CEO da Microsoft, distinguiu recentemente as experiências de laboratório das soluções de engenharia que resolvem problemas reais, através de sistemas robustos, monitorizáveis e auditáveis. E destacou o papel do “harness” em transformar as capacidades dos modelos em produtos utilizáveis. Era precisamente esse o conceito que pretendia abordar.
Podemos pensar no modelo como um arquiteto. Interpreta o objetivo, desenha a planta e identifica os materiais. Mas nem o melhor arquiteto constrói uma casa só com ideias. O harness é o mestre de obras, ou empreiteiro, que executa o que lhe é pedido e entrega um resultado. Se encontrar solo instável onde devia colocar um pilar, avisa o arquiteto, que revê o plano.
Repare que estou a dizer que o modelo interpreta, desenha e avisa, atribuindo-lhe características humanas. Fazemo-lo por falta de melhor vocabulário e porque é mais fácil de perceber, mas, mesmo sem ser intencional, reforçamos diariamente a ideia de entidade ou ser. O modelo não interpreta, calcula. O mesmo se aplica ao harness, palavra que uso 8 vezes neste artigo. Pode traduzir-se por arnês ou arreios, mas essas palavras sugerem mais segurança e prevenção do que ação.
Uma definição de harness (Databricks) sugere que é composto por quatro elementos: as ferramentas, para usar aplicações, pesquisar ou consultar dados; a memória do que foi feito; o ciclo que repete por outro caminho quando o resultado sai errado, ou envia mensagem a uma pessoa; e as regras de segurança, que, por exemplo, exigem aprovação antes de apagar um ficheiro, enviar uma mensagem ou fazer uma compra. Não é uma segunda inteligência misteriosa. É software, escrito por pessoas e com objetivos definidos por pessoas. E podemos observá-lo a dois níveis.
O primeiro é definido pelos laboratórios e pelas empresas que transformam modelos em produtos. Determina como o modelo recebe informação, que ferramentas usa, como conserva o contexto e como reage a um erro. Na analogia, o fornecedor não nos entrega apenas o arquiteto: entrega também a empresa de construção, as ferramentas, os procedimentos e os canais de comunicação com a obra.
No artigo “Harness Engineering”, a OpenAI relata como problemas iniciais, atribuídos ao modelo, resultavam afinal de um ambiente mal preparado. O projeto SWE-agent mostrou o mesmo: mudou a interface, melhoraram os resultados, sem tocar no modelo.
Não estamos, portanto, perante um modelo isolado, mas perante um produto definido pelo fornecedor. Nadella defendeu ainda, de forma muito alinhada com a estratégia da Microsoft, que as organizações devem procurar um harness externo ao modelo, para que a sua memória e o conhecimento acumulado não fiquem presos a um único fornecedor, ou seja, soberania dos seus dados. Como seria de esperar. O Copilot é, em grande medida, um harness de modelos de terceiros.
O que nos leva ao segundo nível, que é o nosso. Numa obra, é o dono que escolhe o terreno, define para que serve o edifício, tenta fixar um orçamento, decide o que precisa do seu aval e quem verifica o resultado. Ou confia que o empreiteiro verifica, já que também é ele quem subcontrata. Na organização passa-se o mesmo: definimos que informação e que sistemas ficam acessíveis, que operações são permitidas, que decisões exigem aprovação humana e o que conta como um bom resultado. O mesmo modelo, comprado ao mesmo fornecedor, dá resultados diferentes em duas empresas por causa destas escolhas. E nenhuma delas é uma escolha técnica.
Nada disto elimina a incerteza. O harness não torna o modelo previsível, mas torna uma parte importante observável e governável. E isso muda quem responde: se o fornecedor determina as capacidades e a organização decide os dados acessíveis, as ações permitidas e quando é preciso aprovação, as consequências não são uma “decisão da caixa negra”, são a soma de decisões de pessoas. A responsabilidade reparte-se, mas não desaparece. Daí a relevância do registo do que o sistema fez, a que acedeu e o que devolveu.
Quando um agente falha, não basta olhar para o modelo: há que examinar a infraestrutura do fornecedor e a configuração da organização. Recebeu a informação certa? As instruções eram claras? Tinha ferramentas adequadas? As permissões eram proporcionais ao risco? Existiam mecanismos para detetar e corrigir erros? Responder a isto é o trabalho de governação, e compete à organização no seu todo, não a um departamento. Não é compreender o que acontece na cabeça do arquiteto; é conhecer a ferramenta que nos entregam, decidir como a adaptamos, escolher quem a vai acompanhar e definir quando deve intervir.
O NIST AI Risk Management Framework insiste em objetivos, responsabilidades e supervisão. O artigo 14.º do AI Act exige supervisão humana efetiva nos sistemas de alto risco. Podemos olhar para todos os regulamentos e ganhar visibilidade sobre os riscos, mas eles não desaparecem. Podemos minimizá-los; teremos sempre de viver com eles.
Recordo com saudade o meu amigo Mário Pardo, com quem fiz um curso de paraquedismo em 2003. Cerca de 95 por cento do curso foi dedicado a um só tema: o que fazer se o paraquedas não abrir. Ao fim de algumas horas em sala, desistir podia parecer a decisão ponderada. Mas todos os que ali estavam queriam saltar. Por isso ficámos, treinámos e saltámos.
A melhor forma de lidar com esta nova ferramenta, este novo software, continua a ser aprender mais sobre ela e com ela. É uma análise de risco permanente, mas na qual os objetivos, regras e responsabilidades continuam a ser nossos.
Do que faz na sua empresa com inteligência artificial, quanto foi decidido por si?
Mário Porfírio
Founder/Manager: inedito.com.pt; bar.com.pt; yteam.pt
Professor da área de Política Comercial e Marketing na AESE Business School
Referências
- All-In Podcast (2026). “Satya Nadella on the AI Doomer Slowdown, Microsoft’s Master Plan & Who Wins AI”. https://www.youtube.com/watch?v=hdcsTeCFE0I
- Databricks Staff (2026). “What is an AI Agent Harness? https://www.databricks.com/blog/ai-harness
- Lopopolo, R. (2026). “Harness engineering: leveraging Codex in an agent-first world https://openai.com/index/harness-engineering/
- Yang, J., Jimenez, C. E., Wettig, A., Lieret, K., Yao, S., Narasimhan, K. e Press, O. (2024). “SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering”. NeurIPS 2024. https://arxiv.org/abs/2405.15793
- NIST (2023). “AI Risk Management Framework, AI RMF 1.0” https://www.nist.gov/itl/ai-risk-management-framework
- Regulamento (UE) 2024/1689, artigo 14.º, Supervisão humana https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=pt
