Segurança de Dados: O Maior Desafio na Adoção de IA nas Empresas

Desafios na Implementação de Inteligência Artificial

Executivos da Hitachi Vantara identificam que a segurança dos dados é o principal obstáculo para a adoção eficiente da inteligência artificial (IA) nas organizações. Segundo um relatório global divulgado pela empresa, a estruturação dos dados, a governança e a infraestrutura formam os três pilares essenciais que ainda apresentam fragilidades significativas. A chegada das versões generativas da IA intensificou essas preocupações, especialmente porque a cibersegurança tem sido ameaçada pela ausência desses elementos fundamentais.

Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, alerta que a introdução de agentes de IA amplia os riscos operacionais. Esses agentes podem executar ações com consequências inesperadas se não forem monitorados de forma constante, e há uma compreensão equivocada generalizada sobre seu funcionamento. Segundo ele, muitas empresas se deixam levar pelo entusiasmo em torno da tecnologia e aceleram a implementação de soluções sem avaliar adequadamente os riscos, o que abre espaço para novas vulnerabilidades.

Dados Não Estruturados e Alucinações de IA

O relatório destaca que cerca de 76% dos dados corporativos são não estruturados, justamente o tipo mais utilizado por aplicações de IA. Além disso, a ocorrência de alucinações nos agentes de IA persiste em aproximadamente 91% dos casos, o que compromete a confiabilidade dos resultados. Essa combinação reforça a importância de uma governança robusta e estratégias eficazes para a organização dos dados.

No Brasil, o cenário apresenta particularidades. O país está passando por um processo acelerado de digitalização, muitas vezes sobre sistemas legados e ambientes heterogêneos. Entretanto, os executivos brasileiros demonstram cautela diante da adoção da IA, conforme avalia Joshua Wick, líder global de riscos e compliance da Hitachi Vantara. Ele observa que há uma preocupação maior antes do investimento, com uma análise mais cuidadosa dos benefícios e riscos associados à tecnologia.

Educação e Monitoramento como Caminhos para Mitigar Riscos

Para os especialistas, o uso responsável da inteligência artificial depende da capacitação dos usuários para que compreendam como a tecnologia opera e as implicações de seu uso. Shane Gibson enfatiza que muitas organizações negligenciam o tempo necessário para essa preparação, lançando ferramentas de IA em produção sem testes suficientes ou clareza sobre os objetivos.

Esse cuidado é apontado como fundamental para evitar problemas futuros e garantir que a IA seja uma aliada na transformação digital, não uma fonte de riscos descontrolados. A desaceleração na adoção de modelos de linguagem de grande escala (LLMs) reflete essa nova postura. A percepção de sucesso dessas ferramentas caiu de 95% para 81%, indicando maior escrutínio e critérios mais rigorosos.

Investimentos em Governança e Qualidade de Dados

O relatório também revela que as organizações estão investindo mais em governança e qualidade dos dados usados para treinar os modelos de IA. A proporção de empresas que aprimoram seus dados subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho cresceram de 36% para 44%, e o número de organizações sem estratégias claras de explicabilidade dos modelos caiu significativamente, de 42% para 24%.

Esses movimentos indicam uma maturidade crescente no uso da IA, onde o foco deixa de ser apenas a inovação pela inovação e passa a ser a garantia de resultados confiáveis e seguros. Shane Gibson reforça que, embora a IA tenha mostrado valor inicial, os desafios como alucinações e falta de retorno consistente sobre o investimento evidenciam riscos reais para os negócios.

Perspectivas para o Futuro da Tecnologia

Apesar dos desafios, os especialistas da Hitachi Vantara ressaltam que governança e segurança não são barreiras à inovação, mas sim ferramentas para utilizá-la com responsabilidade e eficácia. Gibson projeta que a evolução da tecnologia levará a interfaces únicas que facilitarão o acesso a resultados gerados por IA. Porém, para alcançar esse estágio, é imprescindível que as organizações se organizem internamente, fortalecendo a estrutura e a segurança desde já.

O caminho para a adoção segura da inteligência artificial passa pela compreensão dos seus limites, pela educação dos usuários e pelo investimento contínuo em governança. Só assim as empresas poderão explorar todo o potencial da IA sem comprometer a segurança dos seus dados e operações.