Inteligência artificial generativa facilita criação de conteúdos sintéticos realistas e aumenta desafios para identificação de informações enganosas na internet.
A inteligência artificial generativa está transformando a maneira como imagens, áudios e vídeos podem ser produzidos e compartilhados na internet. No Brasil, o avanço dessas ferramentas também trouxe novos desafios relacionados à identificação de conteúdos manipulados, especialmente diante da popularização das chamadas deepfakes. Um novo guia divulgado pelo Comitê Gestor da Internet no Brasil (CGI.br), em 22 de setembro de 2026, chama atenção para as mudanças no ambiente digital e para o impacto da tecnologia na circulação de informações. (Agência Brasil)
Segundo o documento, o cenário atual é diferente daquele observado nos primeiros debates sobre desinformação digital. A circulação de conteúdos deixou de depender principalmente de redes abertas e passou a ocorrer também em ambientes mais restritos, como aplicativos de mensagens. Ao mesmo tempo, vídeos manipulados ganharam importância e podem apresentar aparência cada vez mais próxima de materiais reais.
Inteligência artificial facilita produção de vídeos e áudios sintéticos
A evolução da IA generativa tornou mais acessível a produção de imagens, áudios e vídeos sintéticos. De acordo com o CGI.br, as ferramentas atuais permitem criar conteúdos com alto grau de realismo sem que o usuário precise dominar conhecimentos técnicos avançados. Essa mudança reduz a barreira para a produção de materiais manipulados e aumenta a velocidade com que eles podem ser criados e distribuídos. (CGI.br)
As deepfakes estão entre os exemplos mais conhecidos desse processo. Elas podem alterar características de uma gravação ou produzir materiais inteiramente sintéticos para fazer uma pessoa parecer dizer ou fazer algo que não aconteceu. O avanço tecnológico torna a identificação desses conteúdos mais complexa, principalmente quando o material é compartilhado fora do contexto original.
O problema não está apenas na criação do conteúdo, mas também na sua distribuição. O guia do CGI.br aponta que a desinformação passou a circular de maneira mais distribuída entre diferentes plataformas, enquanto o vídeo ganhou espaço como um dos principais formatos utilizados para transmitir narrativas enganosas. Em muitos casos, esses vídeos são acompanhados por textos curtos que procuram dar contexto ou credibilidade ao material. (Agência Brasil)
Redes de mensagens aumentam velocidade de circulação
Outro ponto destacado pelo CGI.br é a mudança nos canais utilizados para disseminação de informações. Segundo o guia, redes mais fechadas, como o WhatsApp, ganharam importância em relação às redes abertas que tinham maior protagonismo em ciclos anteriores. Isso modifica a maneira como conteúdos potencialmente enganosos chegam aos usuários e são repassados para novos grupos. (Agência Brasil)
A combinação entre IA generativa e aplicativos de mensagens cria um cenário no qual um conteúdo pode ser produzido rapidamente, adaptado para diferentes públicos e compartilhado em grande escala. O usuário que recebe o material pode ter dificuldade para verificar sua origem, principalmente quando o vídeo chega acompanhado de uma mensagem curta e aparentemente contextualizada.
O CGI.br também chama atenção para os sistemas de recomendação, o perfilamento e o direcionamento de conteúdos. O novo guia analisa como a arquitetura das plataformas digitais influencia a circulação de informações e como modelos de negócios baseados em engajamento podem interferir na forma como os usuários entram em contato com determinados conteúdos. (CGI.br)
Para o usuário comum, a principal mudança é a necessidade de observar com mais cuidado materiais que parecem autênticos. Imagens, vozes e vídeos deixaram de ser, por si só, evidências suficientes de que determinado acontecimento realmente ocorreu.
Segurança digital passa a exigir mais atenção dos usuários
O avanço da inteligência artificial também preocupa especialistas em segurança digital por causa da possibilidade de utilização dessas ferramentas em golpes. O CERT.br publicou em setembro um novo fascículo sobre inteligência artificial alertando para riscos envolvendo deepfakes, privacidade, erros produzidos por modelos de linguagem e utilização criminosa da tecnologia. (CGI.br)
Entre os exemplos citados pelo órgão estão áudios, imagens e vídeos falsos usados para tentar se passar por pessoas conhecidas. A IA também pode ser empregada na criação de comprovantes falsos e outros materiais utilizados em tentativas de fraude. Por isso, a orientação é confirmar informações por canais oficiais e não considerar uma imagem ou documento digital como prova suficiente de uma transação. (CGI.br)
Outro levantamento recente do CGI.br mostra a dimensão do problema relacionado à segurança de dados no país. Pesquisa divulgada em agosto apontou que 32% dos usuários de internet brasileiros com 16 anos ou mais, equivalentes a cerca de 45 milhões de pessoas, relataram ter enfrentado tentativas de golpes envolvendo seus dados pessoais. Aplicativos de mensagens e chamadas telefônicas aparecem entre os canais mais citados nesses relatos. (CGI.br)
Nesse contexto, a expansão das ferramentas de IA cria tanto oportunidades quanto novos riscos. A tecnologia pode ser usada para produtividade, criação de conteúdo e automação, mas também pode facilitar fraudes e manipulações. O controle humano e a verificação independente das informações continuam sendo importantes mesmo quando o material apresenta aparência profissional ou realista.
O que muda para quem usa internet no Brasil
O cenário apresentado pelo CGI.br mostra que a educação digital passa a ter papel importante diante da evolução da inteligência artificial. O guia publicado em setembro reúne orientações para que os usuários evitem se tornar vítimas ou propagadores de conteúdos falsos ou enganosos. A publicação também apresenta explicações sobre o funcionamento das plataformas, sistemas de recomendação, IA generativa e deepfakes. (CGI.br)
Uma das mudanças mais importantes é compreender que a aparência de um conteúdo não garante sua autenticidade. Um vídeo com boa qualidade de imagem, uma gravação de voz convincente ou uma fotografia aparentemente real podem ter sido produzidos ou modificados digitalmente. Por isso, informações relevantes precisam ser comparadas com fontes confiáveis antes de serem compartilhadas.
O CERT.br recomenda ainda atenção especial a pedidos urgentes de dinheiro ou informações pessoais. Em situações suspeitas, a orientação é procurar diretamente a pessoa ou instituição envolvida por canais oficiais, em vez de responder ao contato recebido. A confirmação independente pode impedir que conteúdos produzidos ou manipulados com IA sejam utilizados em golpes. (CGI.br)
O avanço tecnológico, portanto, não significa apenas a criação de ferramentas mais sofisticadas. Ele também modifica os cuidados necessários para navegar pela internet. À medida que a produção de conteúdo sintético se torna mais acessível, verificar a origem das informações e desconfiar de situações que exigem decisões imediatas se torna parte importante da segurança digital.
Para o Brasil, o debate também envolve plataformas, empresas de tecnologia, órgãos públicos, pesquisadores e usuários. O novo guia do CGI.br procura contribuir para essa discussão ao apresentar informações sobre o funcionamento do ambiente digital e os efeitos da inteligência artificial generativa sobre a circulação de informações. (CGI.br)
Fontes: Agência Brasil – IA e vídeos falsos no Brasil · CGI.br – Guia Internet, Democracia e Eleições · CERT.br – Segurança no uso de IA · CGI.br – Pesquisa sobre golpes com dados pessoais