O Gartner, Inc. identifica pontos cegos críticos decorrentes de riscos negligenciados e consequências indesejadas da adoção da GenAI (Inteligência Artificial Generativa). Os Chief Information Officers (CIOs) devem endereçar proativamente esses desafios ocultos para garantir a geração de valor da GenAI e evitar falhas em projetos de IA.
“As tecnologias e técnicas de GenAI estão evoluindo a um ritmo sem precedentes, acompanhado apenas pelo hype que as cerca, o que torna desafiador para os CIOs navegar nesse cenário dinâmico”, diz Arun Chandrasekaran, Vice-Presidente Analista Emérito do Gartner.
Embora as organizações frequentemente se concentrem em desafios imediatos da GenAI, como valor para os negócios, segurança e prontidão de dados, elas podem ignorar pontos cegos críticos, pois esses são efeitos de segunda ou terceira ordem que muitas vezes não são visíveis inicialmente. Riscos como shadow AI, dívida técnica, erosão de habilidades, demandas de soberania de dados, problemas de interoperabilidade e dependência de fornecedores representam riscos ocultos que podem prejudicar o sucesso a longo prazo.
O Gartner prevê que, até 2030, esses pontos cegos criarão uma linha divisória entre as empresas que escalam o uso da Inteligência Artificial (IA) de forma segura e estratégica e aquelas que ficam presas, ultrapassadas ou desestabilizadas internamente.
Para se manterem competitivos e resilientes, os CIOs devem enfrentar os desafios visíveis e os riscos ocultos associados à adoção da GenAI e priorizar a resolução dos seguintes pontos cegos:
Explosão da Shadow AI
Uma pesquisa do Gartner com 302 líderes em segurança cibernética, realizada entre março e maio de 2025, revelou que 69% das organizações suspeitam ou têm evidências de que seus funcionários estão usando GenAI pública proibida.
A rápida adoção de ferramentas de IA não autorizadas pode levar a impactos visíveis e invisíveis, como perda de propriedade intelectual, exposição de dados e aumento dos riscos de segurança. O Gartner prevê que, até 2030, mais de 40% das organizações sofrerão incidentes de segurança ou conformidade relacionados com shadow AI não autorizada.
“Para endereçar esses riscos, os CIOs devem definir políticas claras para o uso de ferramentas de IA em toda a empresa, realizar auditorias regulares para atividades de shadow AI e incorporar a avaliação de riscos da GenAI em seus processos de avaliação de Software como Serviço (SaaS)”, diz Chandrasekaran.
Dívida técnica da IA
O Gartner prevê que, até 2030, 50% das organizações enfrentarão atrasos nas atualizações de IA e/ou aumento dos custos de manutenção devido à dívida técnica não gerenciada da GenAI.
“As empresas estão entusiasmadas com a velocidade de entrega da GenIA. No entanto, o custo punitivamente alto de manter, corrigir ou substituir artefatos gerados por IA, como código, conteúdo e design, pode corroer o retorno sobre o investimento prometido pela GenAI. Ao estabelecer padrões claros para revisar e documentar ativos gerados por IA e rastrear métricas de dívida técnica em painéis de TI, as empresas podem tomar medidas proativas para evitar interrupções dispendiosas”, diz Chandrasekaran.
Aumento da demanda por soberania de dados e IA
O Gartner prevê que, até 2028, 65% dos governos em todo o mundo introduzirão alguns requisitos de soberania tecnológica para melhorar a independência e proteger contra interferências regulatórias extraterritoriais.
As restrições regulatórias ao compartilhamento transfronteiriço de dados ou modelos podem retardar as implementações de IA em toda a empresa, aumentar o custo total de propriedade (TCO) e gerar resultados abaixo do ideal.
Para enfrentar esses desafios, os CIOs devem incorporar a soberania dos dados em suas estratégias de IA desde o início, envolvendo as equipes jurídicas e de conformidade desde o princípio e priorizando os fornecedores que atendam aos seus requisitos de soberania de dados e IA.
Erosão de habilidades
A dependência excessiva da IA pode corroer a expertise, o julgamento e o conhecimento tácito críticos humanos que não são facilmente codificados ou substituíveis. Essa erosão ocorre gradualmente e muitas vezes passa despercebida, de modo que os CIOs podem não reconhecer o risco até que a organização tenha dificuldade para funcionar sem a IA ou quando a IA falhar em casos extremos que exigem intuição humana.
“Para evitar a perda gradual da memória e da capacidade da empresa, as organizações devem identificar onde o julgamento e a habilidade humanas são essenciais, projetando soluções de IA para complementar, e não substituir, essas habilidades”, ensina.
Dependência e interoperabilidade do ecossistema
As organizações ansiosas por aproveitar o potencial da GenAI em escala geralmente escolhem um único fornecedor por uma questão de rapidez e simplicidade. Essa profunda dependência pode afetar a agilidade técnica da empresa e seu poder de negociação futuro em relação a preços, termos ou níveis de serviço.
Muitos CIOs subestimam o quanto seus dados, modelos ou fluxos de trabalho ficam vinculados a APIs, data lakes e ferramentas de plataforma de fornecedores específicos.
“Priorizar padrões abertos, APIs abertas e arquiteturas modulares no design de stack de IA ajuda as empresas a evitarem a dependência de fornecedores. Além disso, os CIOs devem tornar a interoperabilidade um padrão em pilotos e avaliações de GenAI.”
Os clientes da Gartner podem ler mais em “Generative AI’s Invisible Undercurrents: 10 Blind Spots CIOs Aren’t Watching but Should“.
