No Brasil, 59% das empresas já delegam à inteligência artificial (IA) decisões que, há um ano, exigiam aprovação humana. O índice está abaixo da média global, de 70%. Os dados são da pesquisa “Autorização para agir: como a autonomia da IA está superando os limites impostos”, conduzida pela Illumio, empresa de contenção de violações, com 1.100 tomadores de decisão de TI e segurança em dez mercados.
O estudo mostra uma lacuna crescente entre a autoridade concedida à IA e a capacidade das organizações de auditar e limitar suas ações. No país, 43% das empresas não conseguem visualizar e auditar tudo o que os agentes de IA fazem. Globalmente, o índice é de 50%.
Entre as companhias brasileiras, 73% já utilizam IA em operações de segurança, acima da média global de 67%. Além disso, 33% se dizem confortáveis em deixar a tecnologia conduzir investigações de cibersegurança sem supervisão humana, patamar próximo ao global (32%).
Incidentes de segurança envolvendo IA
Os problemas já são realidade: 64% das organizações brasileiras enfrentaram ao menos um incidente ou sinal de alerta de segurança relacionado à IA (76% globalmente). Entre as ocorrências relatadas no Brasil:
- 31% afirmaram que a IA fez recomendações que poderiam criar riscos se fossem seguidas (35% globalmente);
- 22% disseram que a IA produziu ou desencadeou uma ação não autorizada (24% globalmente);
- 17% relataram que um agente ou ferramenta de IA se conectou a sistemas sem aprovação da equipe de segurança (26% globalmente);
- 15% apontaram que a IA acessou dados aos quais não deveria ter acesso (24% globalmente).
Diferentemente de um invasor externo, que precisa encontrar uma forma de entrar no ambiente, um sistema de IA pode já ter credenciais e conexão com aplicações, dados e infraestrutura corporativa. Por isso, o avanço da autonomia precisa vir acompanhado da capacidade de observar as ações da IA, limitar seu acesso e conter comportamentos inesperados antes que causem danos.
Para 54% das empresas brasileiras, controlar o acesso e as ações da IA é mais importante do que tentar prever todas as ameaças possíveis. Globalmente, o percentual é de 69%.
Disposição para aceitar mais riscos
A pesquisa também mostra como os líderes brasileiros equilibram inovação e risco. Para 42%, o caminho é buscar equilíbrio entre as duas prioridades (38% globalmente). Já 59% afirmam estar dispostos a aceitar mais riscos cibernéticos para obter os benefícios da IA do que há 12 meses (56% globalmente).
Entre as organizações brasileiras que aceitam mais riscos, a postura se reflete nas permissões concedidas à tecnologia:
- 64% passaram a permitir que a Inteligência Artificial acesse dados confidenciais ou sensíveis em situações antes consideradas arriscadas (48% globalmente);
- 59% permitem que a Inteligência Artificial recomende ações de segurança (53% globalmente);
- 47% liberaram o acesso da Inteligência Artificial à internet (45% globalmente);
- 46% autorizam ações autônomas em ambientes de não produção (51% globalmente);
- 42% concederam identidades privilegiadas à Inteligência Artificial (36% globalmente);
- 41% permitem ações autônomas em ambientes de produção (47% globalmente).
Apesar disso, 79% das empresas brasileiras dizem estar confortáveis com o nível de risco cibernético aceito para adotar a Inteligência Artificial. Mas a confiança na gestão do risco não elimina a necessidade de limites efetivos e aplicáveis à autoridade da tecnologia.
Zero Trust como caminho para limitar a IA
Para Raghu Nandakumara, Vice-Presidente de Soluções da Illumio, as organizações brasileiras estão avançando na adoção da Inteligência Artificial, mas a autonomia concedida à tecnologia está crescendo mais rapidamente do que a capacidade de muitas empresas de controlar suas ações. O maior risco da IA talvez não esteja em um sistema que desrespeita suas regras, mas sim naquele que nunca recebeu limites efetivos desde o início.
“As organizações precisam estabelecer limites rigorosos sobre o que os agentes de IA podem acessar e fazer e garantir que esses limites sejam aplicados tanto nos aplicativos quanto na infraestrutura subjacente, a fim de conter comportamentos inesperados antes que causem danos reais”, explica
À medida que a Inteligência Artificial deixa de ser apenas uma consultora que recomenda ações e passa a executá-las, a pesquisa aponta uma medida prática: adotar o modelo Zero Trust para limitar o que a IA pode acessar, em vez de tentar prever tudo o que ela poderá fazer.
