Foto/divulgação: Gerada por IA
Alerta enviado pela OpenAI à Polícia Federal reacende discussão sobre a responsabilidade das empresas de tecnologia na prevenção de crimes e a proteção de cidadãos comuns
A OpenAI, empresa responsável pelo ChatGPT, comunicou à Polícia Federal brasileira possíveis ameaças de morte contra o presidente Luiz Inácio Lula da Silva, identificadas em conversas de usuários com a plataforma de inteligência artificial.
No início de outubro, a Polícia Federal encaminhou os documentos ao Ministério da Justiça para avaliação da abertura de investigações.
Embora o conteúdo das mensagens tenha provocado preocupação, os documentos divulgados não mostram as respostas fornecidas pelo ChatGPT. Portanto, não é possível afirmar que a ferramenta tenha auxiliado no planejamento de um atentado.
O episódio coloca em evidência três questões fundamentais: como a inteligência artificial pode ser utilizada para fins violentos, quais mecanismos existem para proteger cidadãos comuns e até onde as empresas de tecnologia podem interferir para prevenir crimes.
Como a inteligência artificial identifica possíveis ameaças?
A OpenAI informa que utiliza sistemas automatizados para identificar comportamentos potencialmente perigosos em suas plataformas.
Quando uma interação apresenta sinais de risco, o conteúdo pode passar por avaliação humana especializada, responsável por analisar o contexto e a gravidade das manifestações.
De acordo com a política institucional de segurança publicada pela empresa em abril de 2026, situações consideradas de risco iminente e crível de violência contra terceiros podem ser comunicadas às autoridades policiais.
As medidas também incluem a possibilidade de suspensão ou encerramento das contas envolvidas.
No caso relacionado ao presidente Lula, uma das contas foi encerrada e os registros foram encaminhados à Polícia Federal.
O procedimento, entretanto, não significa que toda manifestação violenta resulte automaticamente em denúncia. A empresa afirma que as avaliações consideram o contexto das conversas e os possíveis riscos concretos.
E se a vítima não fosse uma autoridade pública?
A identificação de ameaças contra um presidente levanta uma questão igualmente importante: os mesmos mecanismos de proteção seriam acionados se a vítima fosse um cidadão sem exposição política?
Um episódio registrado no Espírito Santo indica que esses procedimentos também podem ser aplicados a pessoas comuns.
Em junho de 2026, um homem de 36 anos foi preso em São Gabriel da Palha, suspeito de planejar o assassinato do próprio filho, de oito anos.
Segundo informações divulgadas pela Polícia Civil e pela imprensa, a OpenAI identificou conversas suspeitas e comunicou o caso ao FBI, a polícia federal dos Estados Unidos.
As informações foram posteriormente encaminhadas ao Ministério da Justiça brasileiro e à Polícia Civil do Espírito Santo, que realizou a investigação.
O caso demonstra que o acionamento das autoridades não está restrito a ameaças contra pessoas politicamente expostas.
Entretanto, permanece uma questão relevante: quais mecanismos garantem que os alertas sejam avaliados com critérios consistentes, independentemente da condição social, econômica ou política da possível vítima?
A política de segurança da OpenAI estabelece critérios relacionados à gravidade e à credibilidade das ameaças, mas os casos conhecidos não são suficientes para demonstrar a eficácia desses procedimentos em todas as situações.
Gerenciamento de riscos: até onde uma IA pode chegar?
Além das implicações policiais, o episódio amplia o debate sobre governança tecnológica, ética e gerenciamento de riscos.
Sistemas de inteligência artificial são desenvolvidos para atender necessidades humanas, mas também podem ser utilizados de maneiras diferentes daquelas originalmente previstas.
Na gestão de produtos e tecnologia, a identificação de riscos envolve avaliar cenários de uso indevido, estabelecer controles preventivos, acompanhar possíveis falhas e definir responsabilidades.
No contexto da inteligência artificial, esse processo apresenta desafios adicionais.
Um sistema precisa distinguir uma pergunta hipotética de um possível planejamento criminoso. Também deve evitar facilitar atos violentos e, ao mesmo tempo, preservar direitos como privacidade, liberdade de expressão e proteção de dados pessoais.
A existência de mecanismos automatizados de identificação não elimina a possibilidade de erros.
Alertas equivocados podem atingir pessoas que não representam perigo, enquanto ameaças reais podem passar despercebidas.
Por isso, o debate envolve não apenas a capacidade tecnológica de identificar riscos, mas também a transparência dos critérios utilizados, a supervisão humana e a responsabilização das empresas.
Tecnologia avança, mas prevenção depende de responsabilidade coletiva
O episódio ocorre em um contexto de expansão do uso da inteligência artificial em atividades pessoais, profissionais e institucionais.
A possibilidade de utilizar essas ferramentas para identificar manifestações de violência representa uma nova dimensão da prevenção de riscos. Ao mesmo tempo, exige atenção aos limites éticos e jurídicos dessas intervenções.
A discussão não se restringe às empresas de tecnologia ou às autoridades policiais.
Famílias, escolas, instituições religiosas, organizações sociais e órgãos públicos também desempenham papéis na prevenção da violência e na formação de comportamentos sociais.
Nesse cenário, a inteligência artificial pode funcionar como instrumento adicional de identificação e prevenção, mas não substitui a atuação das instituições humanas.
O caso das ameaças contra Lula evidencia a necessidade de uma discussão pública sobre o equilíbrio entre segurança, privacidade, prevenção e responsabilidade tecnológica.
A questão central deixa de ser apenas o que a inteligência artificial consegue identificar e passa a incluir como a sociedade está preparada para responder aos riscos que ela revela.
Sobre a autora
Luana Esther Krull
Profissional de Tecnologia, Projetos e Gestão de Produtos. Certificada CSPO® (Certified Scrum Product Owner) e CSM® (Certified ScrumMaster) pela Scrum Alliance, com experiência em soluções tecnológicas, processos corporativos, metodologias ágeis e integração entre negócios e tecnologia.
Fonte: Luana krull
