Uma pesquisa da ISACA revelou uma lacuna preocupante na gestão de riscos de inteligência artificial nas organizações: a maioria das empresas não consegue explicar com que rapidez seria capaz de interromper um sistema de IA em caso de crise, nem identificar as causas de uma falha.
De acordo com o levantamento, 59% dos profissionais de confiança digital não têm clareza sobre a velocidade com que suas organizações conseguiriam paralisar um sistema de IA durante um incidente de segurança. Apenas 21% afirmaram ser capazes de agir de forma efetiva em até 30 minutos. O cenário indica que sistemas corrompidos podem continuar operando sem controle, aumentando o risco de danos irreversíveis.
Falhas, riscos e falta de responsabilidade
Somente 42% dos entrevistados demonstraram confiança na capacidade de suas organizações de analisar e esclarecer incidentes graves envolvendo IA. A ausência dessa capacidade de explicação pode expor empresas a penalidades legais e desgaste público, especialmente diante de reguladores e lideranças internas.
A questão da responsabilização também é nebulosa: 20% dos respondentes disseram não saber quem seria o responsável caso um sistema de IA causasse algum dano. Apenas 38% apontaram o conselho de administração ou um executivo sênior como os principais responsáveis.
Ali Sarrafi, CEO e fundador da Kovant, plataforma empresarial autônoma, avaliou o problema como estrutural. “Os sistemas estão sendo incorporados a fluxos de trabalho críticos sem a camada de governança necessária para supervisionar e auditar suas ações. Se uma empresa não consegue interromper rapidamente um sistema de IA, explicar seu comportamento ou sequer identificar quem deve ser responsabilizado, então ela não está no controle desse sistema”, afirmou.
Sarrafi defendeu ainda que a solução não está em desacelerar a adoção da IA, mas em repensar a forma como ela é gerenciada. “Sistemas de IA precisam estar inseridos em uma camada de gestão estruturada, que os trate como funcionários digitais, com responsabilidade clara, caminhos de escalonamento definidos e a capacidade de serem pausados ou substituídos instantaneamente quando os limites de risco forem ultrapassados”, disse.
Supervisão humana ainda é insuficiente
A pesquisa trouxe alguns dados mais positivos: 40% dos respondentes afirmaram que seres humanos aprovam quase todas as ações de IA antes de serem executadas, e outros 26% avaliam os resultados gerados pelos sistemas. No entanto, sem uma infraestrutura de governança mais robusta, a supervisão humana tende a ser insuficiente para identificar e resolver problemas antes que eles se agravem.
Outro ponto de atenção levantado pelo estudo é que mais de um terço das organizações não exige que seus funcionários informem onde e quando a IA é utilizada nos produtos de trabalho, ampliando os pontos cegos na gestão dessas ferramentas.
O levantamento da ISACA indica que muitas empresas ainda tratam o risco associado à IA como um problema essencialmente técnico, sem adotar uma abordagem de gestão ampla que envolva toda a organização. Apesar de regulamentações mais rígidas que ampliam a responsabilidade das lideranças sênior, as empresas ainda apresentam dificuldades para implementar e utilizar a IA de forma segura e eficaz.
Siga o Ensinando a Vencer e receba nossos conteúdos em primeira mão.
