Guardrails de IA – Por quê prestar atenção neles é tão importante

Este é o primeiro artigo de uma série de 4, aprofundando o tema dos guardrails, que quer contribuir para a disseminação do conhecimento sobre o uso da IA pelas empresas e seus conselhos.

(*) Sandra Sinicco e Fábio Teixeira

Em tempos de inserção da IA nas empresas, os guardrails vêm ganhando cada vez mais atenção. Essas estruturas de controle e orientação têm por objetivo garantir o uso seguro e responsável de tecnologias emergentes. São mecanismos prioritários para realinhar, promover a transparência e definir limites claros para a IA, minimizando desvios éticos, riscos regulatórios e impactos negativos para os stakeholders.

Guardrails são uma necessidade, especialmente neste momento de mudanças tão impactantes nas tecnologias e no modus operandi das empresas. Os guardrails são como trilhos de trem e, para serem implantados, precisam de rotas bem definidas ,que podemos chamar de  políticas corporativas de uso de IA, tais como protocolos de transparência e explicabilidade, mecanismos de supervisão humana (“human in the loop”), auditorias de algoritmos e dados, métricas de monitoramento de vieses e de desempenho, instalação, ou não, de comitês de governança tecnológica com a participação de especialistas em diversas áreas que não somente tecnologia e IA.

Muitas empresas estão em uma corrida para implantar IA que simplesmente não faz o menor sentido.  O grande desafio hoje é basear a tomada de decisão “vamos implantar IA em nossa organização”, sabendo por onde começar e planejar o passo a passo, considerando que há um longo caminho a percorrer.

E, aqui,  não estamos falando apenas de um funcionário usando o ChatGPT para pesquisar algo que possa nos economizar tempo pessoalmente.

Estamos nos referindo ao acesso aos dados corporativos e ao uso de IA para obter informações rápidas e confiáveis para a tomada de decisão e melhora de produtividade, sem a contaminação de dados provenientes de outras fontes da Internet aberta. Estamos nos referindo também à necessidade de proteger os dados da empresa, de seus clientes e de seus fornecedores.

As organizações não podem se dar ao luxo de ter surtos nas decisões do seu dia a dia, e uma base de dados confiável é um dos elementos importantes para minimizar isso.

Um exemplo para ilustrar o que estamos comentando vem de uma grande empresa do setor industrial: a liderança decidiu implementar um sistema de inteligência artificial para otimizar a manutenção de equipamentos críticos. O modelo, baseado em dados históricos, passou a recomendar intervenções preventivas para reduzir custos e aumentar a eficiência operacional. Nos primeiros meses, os resultados foram positivos, com redução de paradas não programadas e ganhos relevantes de produtividade. No entanto, sem mecanismos robustos de supervisão, o sistema passou a priorizar padrões estatísticos que não consideravam nuances operacionais específicas de determinados ativos.

Em um dos casos, a IA recomendou adiar a manutenção de um equipamento crítico com base em dados que indicavam baixo risco imediato de falha. A recomendação foi seguida automaticamente, sem validação humana, pois o sistema havia sido configurado para executar decisões de forma autônoma em determinadas condições. Dias depois, o equipamento apresentou uma falha significativa, gerando impacto operacional, elevados custos e riscos à segurança da empresa. A análise posterior revelou que o modelo não havia capturado variáveis contextuais relevantes, como condições ambientais recentes e alterações operacionais não refletidas nos dados históricos.

A partir desse incidente, a empresa revisou sua abordagem de governança de IA e implementou guardrails claros, incluindo a obrigatoriedade de validação humana para decisões críticas, auditorias periódicas dos modelos e maior integração entre equipes técnicas e operacionais.

O episódio evidenciou que, embora a inteligência artificial seja uma ferramenta poderosa, sua eficácia depende diretamente de estruturas de governança bem definidas. Mais do que uma falha tecnológica, tratava-se de uma lacuna de governança — e de um lembrete claro de que a inovação sem guardrails pode comprometer não apenas os resultados, mas também a confiança na organização.

Há, portanto, vários níveis de preocupação que o Conselho deve considerar antes de investir massivamente no próximo passo.

Para dar a rota das boas práticas na implantação dos guardrails, sugerimos o seguinte diagrama:

Estas fases são fundamentais para que a IA seja implementada com um padrão de segurança que permita tomar decisões rápidas em caso de alucinações e erros. O envolvimento dos comitês exigirá, ao mesmo tempo, o trabalho técnico e um ponto fundamental que muda a configuração de seus trabalhos – a sinergia entre eles. Trabalhar esta sinergia exigirá políticas claras e bem definidas, bem como o envolvimento de todos em prol do todo. Nos próximos artigos, detalharemos cada ponto com maior profundidade.

Essas políticas claras, com ênfase na transparência, justiça, diversidade e inclusão, ajudarão a criar a linha mestra que dará sustentação ao compromisso da empresa em usar a IA a favor de seus valores e não se colocar em situação de refém de uma tecnologia que, se mal aplicada, poderá causar danos consideráveis à empresa, seja do ponto de vista técnico, ético, legal e reputacional .

A inteligência artificial continuará a transformar profundamente o ambiente corporativo nas próximas décadas. Para que essa transformação seja sustentável e legítima, as organizações precisarão desenvolver modelos de governança capazes de equilibrar inovação e responsabilidade.

Nesse cenário, os guardrails de governança tornam-se instrumentos fundamentais. Eles permitem que empresas avancem com segurança na adoção da IA, garantindo que seus sistemas operem dentro de limites éticos, regulatórios e estratégicos claramente definidos.

Ao adotar esses mecanismos, os conselhos empresariais estarão mais bem preparados para garantir que a inteligência artificial contribua para o crescimento sustentável das organizações, respeitando direitos, valores humanos e promovendo inovação responsável.

Autores : Fabio Teixeira, CEO da FDaiSolutions em Houston. Executivo experiente, membro de conselho com certificação NACD Directorship Certified™, empreendedor e autor de Boarding the Future: Governing Transformation from Boardroom to Startup. É reconhecido por sua perspectiva global, liderança intercultural, expertise em governança corporativa e sólido histórico na condução de processos de transformação, inovação e crescimento sustentável.Com mais de 30 anos de experiência em liderança executiva, ocupou cargos de alta gestão em empresas como Chevron, Ensco e Atlas Copco e Sandra Sinicco, diretora da LatamScaleup, consultoria inglesa especializada em Soft landing de empresas inovadoras  para a Europa e para a América Latina. Fundadora do Grupo CASA, empresa de comunicação estratégica para a indústria da inovação. Conselheira pelo IBGC, conselheira independente da Associação Distrito de Inovação de São Paulo, conselheira do The Conversation e do Museu da Pessoa.