A presença crescente da Inteligência Artificial (IA) está trazendo novos desafios para os gigantes da tecnologia, Google e Facebook.
No caso do Google, a IA responsável por gerar respostas está direcionando usuários para sites de golpes e malware, e o Facebook enfrenta a epidemia de imagens geradas por IA que levam usuários a links falsos, revelando um problema que vem preocupando especialistas em segurança online.
Google: invasão de malware nas buscas
Lily Ray, consultora de SEO, identificou e o site Bleeping Computer confirmou que a ferramenta de busca, especificamente a Search Generative Experience (SGE), está listando páginas maliciosas entre suas referências.
Isso significa que, ao buscar informações, os usuários podem se deparar com links para sites fraudulentos, muitas vezes camuflados sob domínios confiáveis.
O problema se torna ainda mais grave quando esses links aparecem como referências em textos gerados pela IA dando-lhes uma aparência de credibilidade.
Testes realizados pelo Bleeping Computer revelaram uma variedade de sites fraudulentos, desde sorteios falsos de iPhone até páginas que se passam por antivírus.
Facebook: imagens geradas por IA atrai pessoas para links falsos
Enquanto o Google lida com essa questão, o Facebook também enfrenta desafios semelhantes. Um estudo da Universidade de Stanford revelou que páginas que compartilham imagens geradas por IA coordenam ações.
Algumas usam táticas de spam para direcionar usuários a sites duvidosos, enquanto outras tentam vender produtos inexistentes ou obter dados pessoais.
As imagens são recomendadas pelo algoritmo do Facebook, alcançando até quem não segue as páginas. Comentários desses posts mostram que muitos usuários acreditam que na veracidade das imagens.
Ninguém está seguro
À medida que os deepfakes e outras criações de IA se tornam mais avançados a cada dia, até especialistas têm dificuldades em identificá-los. E embora investigadores e empresas tecnológicas tenham criado algoritmos para detectar automaticamente meios de comunicação falsos, não conseguem trabalhar com 100% de precisão.
Para combater a onda crescente de conteúdos falsos imperceptíveis e as suas consequências sociais, Andrea Henderson, professora da Universidade do Mississippi, enfatizou em uma matéria do The Daily Beast que a regulamentação e a responsabilidade corporativa são fundamentais.
Segundo ela, é fundamental iniciar conversas públicas sobre o tema, envolvendo todas as gerações, para enfrentar esse desafio em constante evolução no cenário tecnológico.
