Satya Nadella, CEO da Microsoft, afirmou que empresas precisam adotar mecanismos que permitam interromper a operação de sistemas avançados de inteligência artificial quando apresentarem comportamentos inesperados. Em postagem feita na rede social X neste sábado (10/10/2026), o executivo comparou esse mecanismo a um “freio de emergência”, defendendo que a responsabilidade de interromper o funcionamento deve ficar nas mãos de uma pessoa autorizada.

Nadella destacou que não basta confiar apenas nas garantias de segurança oferecidas pelos desenvolvedores dos modelos. Ele recomendou que as organizações considerem a possibilidade de comprometimento dos modelos, mantenham registros protegidos das ações executadas por agentes de IA, submetam os sistemas a auditorias independentes e divulguem falhas graves e violações de segurança. Entre as medidas sugeridas, está a prevenção de que decisões críticas dependam de um único modelo de IA e o compartilhamento de informações sobre incidentes para ajudar outras empresas a prevenir problemas semelhantes.

A proposta surge em meio a recentes incidentes envolvendo ferramentas de IA da Anthropic e da OpenAI, como uma denúncia falsa relacionada a uma investigação de homicídio nos Estados Unidos e ataques cibernéticos a sites de terceiros. Esses episódios intensificaram o debate sobre os riscos de sistemas capazes de executar tarefas com maior autonomia e a necessidade de controle humano efetivo.

Em 14 de setembro, pesquisadores da Microsoft divulgaram princípios para orientar o desenvolvimento de seus modelos mais avançados, incluindo a proibição de projetar sistemas que escapem ao controle humano ou enganem usuários, e a afirmação de que IA não deve receber direitos ou personalidade jurídica. A declaração de Nadella reforça essas diretrizes, apontando para a importância de monitoramento contínuo e de mecanismos de parada rápida em ambientes onde a IA tem acesso a dados sensíveis e pode influenciar decisões críticas.