Já virou pop! A inteligência artificial está em tudo! É no sistema operacional que roda na fábrica; é no sistema que faz designer para as apresentações; é na criação de uma imagem de algo que não existe e que possui uma qualidade inimaginável. É no golpe digital sem falhas. É na aplicação de cibersegurança para defender a empresa dos golpes digitais. É no áudio ou no vídeo criado de pessoas que sequer estão vivas. É no trabalho da faculdade feito sem ler um livro. É na organização de um e-mail ou de uma viagem feita sem pensar. É na seleção de pessoas para entrevistas. Todos utilizam sem parar e em todos os momentos do dia.

Esta é a realidade de boa parte da população, especialmente das empresas que estão atentas às diversas oportunidades que a IA trouxe para suas operações. Porém, será que estamos preparados para usar a IA? E para substituir a IA quando ela não estiver operando? E se ela falhar ou criar algo que não existe ou copiar obra protegida pela propriedade intelectual, estamos preparados para criticar? E se o país que armazena suas nuvens, cortar conexões? E se o projeto mais importante do ano da empresa for disponibilizado para ensinar a IA?

Sim, a dependência desta maravilhosa invenção humana está cada vez mais clara. Tanto na vida privada, como na empresarial, a IA tem papel fundamental: a busca da eficiência! Mas ao longo do tempo, o que virá com o seu uso, especialmente se não for planejado, monitorado e suas decisões não forem revisadas?

As empresas ainda não atentaram para o risco na utilização da IA sem uma governança clara para a utilização desta ferramenta. O risco de alucinação das avaliações da IA, criação de vieses e discriminação pela utilização de dados não qualificados, falta de respeito a direitos autorais sem a empresa identificar, exposição de segredos de negócio, ampliação nos riscos cibernéticos são alguns dos exemplos de riscos que as empresas estão sofrendo sem se dar conta.

Além disso, existe um risco estratégico silencioso: a soberania tecnológica. Quem controla o modelo? Onde os dados estão armazenados? Quem pode acessá-los? Uma empresa pode, sem perceber, estar entregando informações sensíveis a terceiros e a outros países, sujeitos a legislações e interesses que fogem completamente ao seu controle.

É claro que a solução não é proibir o uso, mas sim implantar uma Governança de Inteligência Artificial, com regras claras, auditoria, controle de acessos, definição de ferramentas permitidas, classificação de informações sensíveis, treinamento de colaboradores e revisão humana obrigatória para decisões críticas. E isso não porque uma lei obriga, mas sim porque reduz riscos e aumenta o retorno financeiro depois de tantos investimentos.

A IA é inevitável e potencializa os riscos já existentes. O empresário que não governar seu uso hoje pode descobrir tarde demais que terceirizou o futuro da própria empresa — para um sistema que não explica, não garante e não assume responsabilidade. Além de custar muito caro.