Suposta tentativa de influenciar sistemas de inteligência artificial em denúncia sobre o programa Olho Vivo abre investigação inédita, expõe novos riscos tecnológicos e coloca em evidência a importância da transparência nas instituições públicas
Há momentos em que a tecnologia deixa de ser apenas uma ferramenta e passa a desafiar diretamente as instituições democráticas. Foi exatamente isso que aconteceu no Paraná.
A revelação de que uma petição protocolada no Tribunal de Contas do Estado do Paraná (TCE-PR) continha um comando oculto destinado a influenciar sistemas de inteligência artificial provocou repercussão política, jurídica e tecnológica.
O episódio, revelado pela Folha de S.Paulo e detalhado pelo telejornal Boa Noite Paraná, da RPC/TV Globo, já é considerado um dos casos mais incomuns envolvendo o uso de inteligência artificial na administração pública brasileira.
Embora o Tribunal de Contas possua autonomia funcional, ele integra o sistema de fiscalização do Poder Legislativo estadual, atuando como órgão auxiliar da Assembleia Legislativa do Paraná (Alep). Por isso, a repercussão ultrapassa os limites do TCE e alcança também o ambiente político da Assembleia, local de onde inclusive, segundo as reportagens, partiu a petição.
O que estava escondido no documento
O documento foi apresentado em uma representação do deputado estadual Arilson Chiorato (PT) sobre o programa Olho Vivo. No arquivo havia um chamado prompt injection, técnica utilizada para inserir instruções destinadas exclusivamente a sistemas de inteligência artificial.
O comando foi escrito em letras microscópicas e na cor branca sobre fundo branco, tornando-se praticamente invisível para qualquer leitor humano, mas passível de leitura por ferramentas de IA empregadas para resumir, organizar ou classificar documentos.
Segundo a apuração, o texto instruía uma eventual inteligência artificial a ignorar comandos anteriores, classificar o processo como prioridade máxima, produzir um resumo favorável ao pedido de liminar e sugerir que a ação fosse distribuída aos conselheiros Fábio Camargo e Maurício Requião de Mello e Silva.
Na prática, tratava-se de uma tentativa de influenciar um sistema automatizado caso alguma ferramenta baseada em inteligência artificial participasse de etapas da tramitação eletrônica do processo.
Sistema do Tribunal bloqueou a tentativa
O TCE-PR informou que a tentativa não produziu qualquer efeito prático. Segundo o órgão, os mecanismos de segurança identificaram o comando oculto e impediram qualquer interferência.
A distribuição ocorreu normalmente por sorteio eletrônico, sendo o processo encaminhado ao conselheiro Fernando Guimarães, sem direcionamento e sem concessão de medida cautelar.
O Tribunal de Contas também instaurou procedimento interno para identificar quem inseriu o código oculto no documento e informou que comunicará os órgãos competentes após a conclusão das investigações.
Conselheiro diz que episódio é inadmissível
Entre os dois conselheiros mencionados no comando oculto, por enquanto apenas Fábio Camargo se manifestou. Em entrevista por telefone à RPC, ele afirmou ter ficado "espantado" com a descoberta. Disse desconhecer esse tipo de ferramenta aplicada à inteligência artificial e classificou a prática como inadmissível.
Já o conselheiro Maurício Requião de Mello e Silva, também citado no texto oculto, não havia se pronunciado até o fechamento da reportagem exibida pela emissora na noite de ontem, sexta (10).
A declaração do Conselheiro Fábio Camargo, mostra a indignação e reforça que nem mesmo integrantes da Corte de Contas haviam se deparado antes com situação semelhante.
Olho Vivo continua sob investigação
A descoberta do comando oculto não altera, por si só, o mérito da representação envolvendo o programa Olho Vivo. A licitação, estimada em cerca de R$ 581 milhões, permanece sob análise do Tribunal de Contas.
O processo de licitatório foi suspenso cautelarmente, em razão de apontamentos técnicos relacionados a possíveis sobrepreços, fragilidades no planejamento, riscos envolvendo a proteção de dados pessoais, além de eventuais impactos sobre direitos fundamentais.
Essas questões seguem sendo examinadas independentemente da investigação sobre a inserção do código oculto na petição.
Manifestação dos envolvidos
O deputado Arilson Chiorato (PT), afirmou, em nota pública, desconhecer completamente a existência do comando oculto e defendeu uma apuração técnica rigorosa.
O advogado responsável pelo protocolo do documento declarou que a petição recebeu contribuições externas, negou qualquer tentativa deliberada de direcionamento. O assessor jurídico do deputado também pediu investigação completa do ocorrido. Ele sustenta que o foco principal deve permanecer sobre o conteúdo da denúncia relacionada ao programa Olho Vivo.
A Ordem dos Advogados do Brasil – Seção Paraná (OAB-PR) também instaurou procedimento para apurar eventual responsabilidade ético-disciplinar, ressaltando que o uso de Inteligência Artificial jamais pode servir para burlar o devido processo legal.
Tecnologia precisa vir acompanhada de ética
O episódio representa um alerta importante para todas as instituições públicas. Ferramentas de inteligência artificial já fazem parte da rotina de tribunais, escritórios de advocacia e órgãos governamentais. Elas aumentam a produtividade, auxiliam na organização de documentos e tornam procedimentos mais rápidos.
Ao mesmo tempo, surgem novos desafios. Se hoje alguém tentou inserir comandos invisíveis para influenciar uma eventual inteligência artificial, amanhã práticas semelhantes poderão aparecer em licitações, processos administrativos, investigações ou ações judiciais.
A evolução tecnológica é acelerada. Os mecanismos de controle, auditoria e segurança precisam avançar na mesma velocidade para preservar a confiança nos sistemas públicos.
A visão do Sulpost
Mais do que um episódio curioso envolvendo IA, este caso coloca em debate a confiança nas instituições e os limites éticos do uso da tecnologia na administração pública.
É positivo que os sistemas de segurança do TC tenham identificado o comando oculto, impedindo qualquer interferência na distribuição do processo. O episódio demonstra que os mecanismos de controle existentes foram capazes de detectar uma tentativa inédita de manipulação. Mostra uma instituição preparada e atenta para os desafios dessa nova era tecnológica.
Ao mesmo tempo, caso seja confirmada a responsabilidade de algum agente humano, pela inserção deliberada dessas instruções invisíveis, em um documento oficial, trata-se de conduta incompatível com os princípios da transparência, boa-fé e devido processo legal. Em nossa visão, nortes que devem orientar qualquer atuação perante órgãos públicos.
Também seria um equívoco permitir que essa polêmica desvie a atenção do mérito da representação envolvendo o programa Olho Vivo. A eventual autoria do comando oculto precisa ser apurada com rigor, assim como permanecem relevantes os questionamentos que motivaram a denúncia sobre a licitação.
Em uma democracia sólida, tecnologia, transparência e fiscalização caminham lado a lado. Quando qualquer uma delas falha — ou tenta ser manipulada — toda a sociedade tem o direito de exigir investigações independentes, respostas claras e absoluto respeito às instituições.
Nenhum comentário:
Postar um comentário