Segurança de Dados: O Desafio Central na Implementação da IA nas Empresas

Os pilares essenciais para a adoção segura da inteligência artificial

A implementação da inteligência artificial (IA) nas empresas enfrenta desafios significativos relacionados à estruturação de dados, governança e infraestrutura. Esses três elementos são os maiores pontos de atenção para os executivos da Hitachi Vantara, conforme revela um relatório global da empresa. A popularização da IA generativa intensificou preocupações sobre a segurança cibernética, especialmente pela ausência desses fundamentos, que se torna ainda mais crítica com a chegada dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que esses agentes trazem riscos adicionais, pois podem executar ações com consequências inesperadas caso não sejam monitorados constantemente. Além disso, há um equívoco generalizado sobre o funcionamento dessas ferramentas, o que pode gerar vulnerabilidades.

Riscos e excesso de confiança na tecnologia

Segundo Gibson, muitas organizações têm confiado exageradamente nos resultados da IA, o que leva à implementação precipitada de soluções, às vezes sem necessidade real ou em um ritmo acelerado demais. Esse cenário cria novas brechas para ataques e falhas de segurança.

O relatório destaca que as chamadas “alucinações” em agentes de IA ainda ocorrem em cerca de 91% das situações. Paralelamente, 76% dos dados corporativos permanecem não estruturados — justamente o tipo de dado mais explorado pelas aplicações de IA, o que aumenta os riscos associados.

O cenário brasileiro e uma postura mais cautelosa

O Brasil adota uma postura diferente, marcada por uma digitalização acelerada, porém apoiada em sistemas legados e ambientes heterogêneos. Os executivos brasileiros de tecnologia têm sido considerados conservadores pela Hitachi Vantara, o que se traduz em uma avaliação mais cuidadosa antes de investir em IA.

Joshua Wick, líder global de riscos e compliance da empresa, explica que os profissionais brasileiros querem realizar uma due diligence rigorosa antes de qualquer aporte financeiro. Essa cautela decorre de uma apreensão quanto ao retorno inicial dos investimentos, embasada nos estudos atuais sobre o tema.

Educação e preparo: caminhos para mitigar riscos

Especialistas veem essa cautela como positiva, ressaltando que a IA é uma ferramenta poderosa, mas que deve ser empregada com moderação. Wick destaca a importância de questionar se o problema a ser resolvido realmente exige IA antes de adotá-la.

Um ponto crucial para fortalecer a segurança e a governança da tecnologia é a capacitação dos usuários. É fundamental que eles compreendam o funcionamento da IA e as implicações do seu uso, um processo que demanda tempo e dedicação, aspectos muitas vezes negligenciados pelas organizações.

Gibson reforça a necessidade de planejar com atenção, conhecer os riscos envolvidos e evitar pressa na implementação. Testes prévios são indispensáveis para garantir a segurança e o desempenho esperado.

Segurança de dados assume protagonismo nas organizações

A preocupação com a segurança tem crescido expressivamente. O relatório revela que 56% dos líderes apontam a proteção dos dados como o maior desafio na adoção da IA, um aumento de 19 pontos percentuais em relação ao ano anterior.

Esse cenário impacta diretamente o uso dos modelos de linguagem de grande escala (LLMs). A percepção de sucesso dessas ferramentas, como ChatGPT e Copilot, caiu de 95% para 81%. Em contrapartida, há um maior investimento em governança e na qualidade dos dados.

Mais empresas têm aprimorado os dados usados no treinamento dos modelos, que passou de 39% para 49%. A adoção de frameworks de governança avançou de 32% para 45%, e as auditorias regulares de desempenho subiram de 36% para 44%. O número de organizações sem estratégias para explicar os modelos caiu de 42% para 24%, mostrando um movimento claro em direção a maior transparência e controle.

Governança e segurança como aliados da inovação

Para os especialistas da Hitachi Vantara, governança e segurança não devem ser vistas como barreiras à inovação, mas como elementos que permitem utilizar a IA com máxima eficiência e segurança.

Gibson projeta que, no futuro, as interfaces da IA estarão cada vez mais integradas, permitindo que os usuários solicitem resultados de forma simplificada. Contudo, para alcançar esse estágio, é necessário investir em estruturação e segurança desde já.

O equilíbrio entre avanço tecnológico e controle rigoroso é o caminho para garantir que a inteligência artificial traga benefícios concretos e seguros para empresas e sociedade.