Preocupações com Segurança na Implementação de IA
Executivos da Hitachi Vantara identificam a segurança dos dados como o principal obstáculo na adoção da inteligência artificial (IA) nas empresas. Segundo um relatório global da companhia, os pilares mais críticos para garantir o sucesso da tecnologia são a estruturação dos dados, a governança e a infraestrutura. Desde o surgimento das versões generativas da IA, a cibersegurança tem enfrentado ameaças crescentes, especialmente diante da falta desses elementos básicos, um cenário que pode se agravar com o uso crescente dos agentes de IA.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que os agentes de IA trazem riscos inéditos ao ambiente corporativo. “Eles podem agir de forma imprevista se não forem monitorados constantemente, e há muita confusão sobre o funcionamento dessas ferramentas”, explica.
Excesso de Confiança e Vulnerabilidades
Segundo o executivo, muitas empresas apostam demais nos resultados gerados pela IA e, animadas com a tecnologia, acabam implementando soluções desnecessárias ou em velocidade superior à recomendada, o que cria vulnerabilidades adicionais. O relatório mostra que cerca de 91% dos agentes de IA ainda apresentam alucinações – respostas incorretas ou imprecisas –, enquanto 76% dos dados corporativos são não estruturados, justamente o tipo mais explorado pelas aplicações de IA.
No entanto, o cenário brasileiro se diferencia. Apesar do ritmo acelerado de digitalização, muitas vezes baseado em sistemas legados e ambientes heterogêneos, os executivos de tecnologia no Brasil demonstram uma postura mais conservadora. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, destaca a cautela dos profissionais brasileiros na adoção da IA. “Todos querem realizar uma análise detalhada antes de investir, demonstrando apreensão com o valor inicial baseado nos estudos disponíveis”, comenta.
Leia também: OpenAI lança GPT-6 Astra, o modelo que marca o início da Inteligência Artificial Geral
Fonte: triangulodeminas.com.br
Leia também: Segurança de Dados: Principal Obstáculo na Adoção de IA, Revela Pesquisa da Hitachi Vantara
Fonte: amapainforma.com.br
Uso Parcimonioso da Inteligência Artificial
Essa postura é vista como positiva pelos especialistas, que consideram a IA uma ferramenta poderosa, mas que merece uso criterioso. Wick sugere que o primeiro passo deveria ser questionar se um problema pode ser resolvido sem recorrer à IA. Para os executivos, a educação dos usuários é fundamental para estruturar o uso da tecnologia e minimizar riscos, garantindo que eles compreendam como a IA funciona e as implicações de seu uso.
Gibson ressalta que esse processo demanda tempo e não pode ser apressado. “É essencial definir claramente o que se espera da IA, conhecer os riscos envolvidos e realizar testes antes de colocar a tecnologia em produção”, afirma.
Governança e Segurança em Evidência
A segurança dos dados está cada vez mais presente na agenda das organizações. O relatório global aponta que 56% dos líderes consideram esse tema o maior desafio na implementação de IA, um aumento de 19 pontos percentuais em relação ao ano anterior. Essa preocupação reflete no uso dos modelos de linguagem de grande escala (LLMs), que têm apresentado queda na percepção de sucesso. Ferramentas como ChatGPT e Copilot, por exemplo, caíram de 95% para 81% na avaliação positiva.
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Revela Estudo da Hitachi Vantara
Fonte: aquidesalvador.com.br
Em contrapartida, as empresas intensificam investimentos em governança e qualidade dos dados. A proporção de organizações que aprimoram os dados para treinamento passou de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, de 36% para 44%, e o número de empresas sem estratégia para explicabilidade dos modelos caiu de 42% para 24%.
Equilíbrio entre Inovação e Segurança
Apesar dos desafios, os especialistas reforçam que governança e segurança não impedem a inovação. Pelo contrário, são essenciais para garantir que as organizações possam explorar o potencial da IA com segurança. “A IA inicialmente parecia uma ferramenta muito útil, mas as alucinações e a falta de retorno sobre o investimento mostraram que ela pode representar riscos para os negócios, já que não é sempre determinística”, destaca Gibson.
Para o futuro, Gibson prevê a existência de interfaces únicas que simplificarão o acesso à IA, tornando a solicitação de resultados mais direta. Contudo, ele reforça que a estruturação e preparo das organizações são pré-requisitos para essa evolução.