A inteligência artificial está transformando a maneira como criamos conteúdo, trabalhamos, nos comunicamos e consumimos informação. Hoje, é possível gerar imagens extremamente realistas, reproduzir vozes humanas, criar vídeos de pessoas que nunca existiram e até construir personalidades digitais capazes de despertar emoções em quem está do outro lado da tela.
Tudo isso representa um avanço impressionante. Mas existe uma questão que precisa acompanhar essa evolução: o que acontece quando uma tecnologia desenvolvida para criar passa a ser utilizada para enganar?
Essa pergunta ganhou força depois de um episódio ocorrido no Brasil, em outubro de 2026, envolvendo um homem que viajou mais de 2 mil quilômetros acreditando que encontraria uma mulher que conheceu pelas redes sociais.
Ao chegar ao destino, descobriu que aquela mulher não existia. Era uma personagem criada com inteligência artificial.
A história parece absurda à primeira vista, mas revela um problema muito mais profundo do que a experiência de uma única pessoa. Estamos entrando em uma fase da internet em que ver, ouvir e até conversar com alguém já não são garantias de que essa pessoa realmente existe.
E precisamos discutir as consequências disso.
O caso que expôs um problema muito maior
Edimar Rocha Martins, de 49 anos, saiu de Imperatriz, no Maranhão, e viajou até Belo Horizonte, em Minas Gerais, para encontrar uma mulher apresentada nas redes sociais como Jéssica Oliveira, também conhecida como Jéssica Fazendeira.
Nos vídeos publicados na internet, a personagem aparecia em uma fazenda, dizia procurar um companheiro e fazia promessas de uma vida a dois. A aparência, a voz e a forma de comunicação eram produzidas com inteligência artificial.
Edimar acreditou que aquela mulher era real.
Depois de percorrer mais de 2 mil quilômetros, chegou à capital mineira e descobriu que a pessoa que procurava era uma criação digital. Sem recursos suficientes para retornar, precisou de assistência para conseguir voltar.
Segundo reportagens publicadas na época, o responsável pelo perfil afirmou que a personagem havia sido criada para gerar engajamento e promover vendas. Também negou ter mantido conversas privadas ou convidado diretamente Edimar para viajar. Esses detalhes são importantes porque ainda existem divergências sobre a natureza das interações que teriam motivado a viagem.
Independentemente dessas questões, o episódio deixa evidente um risco: conteúdos artificiais suficientemente convincentes podem produzir consequências reais, mesmo quando quem os consome não compreende que está diante de uma ficção.
E o mais preocupante é perceber que esse tipo de situação pode se tornar cada vez mais comum.
O problema não é criar pessoas com inteligência artificial
Antes de qualquer coisa, precisamos separar duas discussões que frequentemente acabam misturadas.
Criar personagens fictícios com inteligência artificial não é necessariamente errado.
A publicidade sempre utilizou personagens para representar marcas. O cinema constrói universos imaginários. A animação cria figuras que nunca existiram. E os influenciadores virtuais já fazem parte do mercado de comunicação digital.
A inteligência artificial amplia essas possibilidades, permitindo que pequenos criadores, empresas e profissionais desenvolvam experiências visuais que antes exigiam grandes estruturas de produção.
Eu trabalho com tecnologia, comunicação e criação de conteúdo. Reconheço o potencial dessas ferramentas e acredito que elas podem abrir oportunidades extraordinárias.
Mas existe uma diferença enorme entre criar uma personagem fictícia e permitir que alguém acredite estar se relacionando com uma pessoa real.
Uma coisa é apresentar uma influenciadora virtual como parte de uma campanha publicitária. Outra é construir uma identidade artificial que reproduz comportamentos humanos e deixar que o público interprete aquela existência como verdadeira, sem informações claras sobre sua origem.
O problema não está na capacidade de criar algo realista. Está na falta de transparência sobre aquilo que foi criado.
Criatividade não deveria depender de enganar as pessoas.
Quando a inteligência artificial transforma confiança em vulnerabilidade
A internet funciona, em grande parte, por meio da confiança.
Confiamos em rostos, vozes, histórias, depoimentos e interações. Desenvolvemos familiaridade com pessoas que acompanhamos diariamente, mesmo sem nunca termos encontrado essas pessoas presencialmente.
Isso já acontecia muito antes da inteligência artificial generativa.
O que mudou foi a capacidade de produzir, em escala, identidades digitais que reproduzem essas características humanas com um nível crescente de realismo.
Uma personagem artificial pode aparecer todos os dias em vídeos, compartilhar uma rotina fictícia, demonstrar sentimentos, contar histórias e transmitir a impressão de que existe uma pessoa por trás daquela imagem.
Quando isso acontece, a tecnologia deixa de influenciar apenas o consumo de informação e passa a alcançar algo muito mais sensível: a maneira como construímos vínculos.
Existe inclusive um conceito conhecido como relação parassocial, que descreve a sensação de proximidade emocional desenvolvida por alguém em relação a uma figura pública ou personagem que acompanha.
Com a inteligência artificial, essa dinâmica pode ganhar novas camadas. Afinal, a figura acompanhada pode nem sequer corresponder a uma pessoa humana.
Isso não significa que toda interação com personagens virtuais seja prejudicial. O risco aparece especialmente quando a natureza artificial da identidade é ocultada, quando existem promessas enganosas ou quando vulnerabilidades emocionais são exploradas.
E não estamos falando apenas de relacionamentos amorosos.
O mesmo mecanismo pode ser utilizado em falsos especialistas, depoimentos inventados, recomendações comerciais manipuladas, perfis fraudulentos e vídeos que simulam declarações de pessoas reais.
A inteligência artificial não precisa ser perfeita para causar danos. Basta ser convincente o suficiente para conquistar a confiança de alguém.
A responsabilidade não pode ficar apenas com quem foi enganado
Sempre que surge uma história como essa, aparecem comentários questionando como alguém pôde acreditar em algo que parecia tão improvável.
É fácil analisar a situação depois que todos os detalhes foram revelados. Difícil é considerar a experiência de quem estava recebendo aquelas informações sem conhecer o que existia por trás delas.
Sim, precisamos desenvolver senso crítico.
É importante desconfiar de perfis desconhecidos, verificar informações antes de tomar decisões e entender que nem tudo que aparece nas redes sociais representa a realidade.
Mas existe um limite para a responsabilidade individual.
Se uma tecnologia consegue fabricar rostos, vozes, vídeos e identidades com aparência humana, não é razoável esperar que todas as pessoas tenham conhecimento técnico suficiente para identificar essas manipulações.
Especialmente quando consideramos diferentes idades, níveis de familiaridade digital e situações de vulnerabilidade emocional.
Não podemos transformar a vítima de uma possível manipulação na única responsável pelas consequências daquilo que consumiu.
Quem desenvolve tecnologias, quem cria conteúdos e quem oferece plataformas de distribuição também participa desse ambiente.
E essa participação precisa vir acompanhada de responsabilidade.
Transparência deveria ser o mínimo, não um diferencial
Se uma pessoa apresentada em uma campanha, vídeo ou perfil foi inteiramente criada por inteligência artificial, essa informação deveria estar acessível e compreensível para o público.
Não escondida em um detalhe quase invisível.
Não apresentada em uma linguagem técnica que poucas pessoas entendem.
E muito menos revelada apenas depois que uma situação problemática ganha repercussão.
A identificação de conteúdos sintéticos é uma parte importante dessa discussão, embora não resolva tudo sozinha.
Plataformas precisam desenvolver mecanismos para detectar comportamentos fraudulentos, facilitar denúncias e responder a situações em que identidades artificiais estejam sendo utilizadas para induzir pessoas ao erro.
Criadores precisam avaliar as consequências de suas escolhas de comunicação, especialmente quando suas personagens fazem promessas, simulam relacionamentos ou buscam despertar confiança para vender produtos.
E empresas de tecnologia precisam considerar os riscos de uso indevido de suas ferramentas, estabelecendo salvaguardas proporcionais às capacidades que disponibilizam.
Isso não significa responsabilizar automaticamente qualquer desenvolvedor por todas as ações de terceiros. As responsabilidades são diferentes e precisam considerar o contexto, o conhecimento sobre os riscos e as medidas possíveis de prevenção.
O que não podemos aceitar é a ideia de que lançar uma ferramenta poderosa encerra a obrigação de pensar no impacto que ela pode produzir.
Quanto maior a capacidade de uma tecnologia influenciar o comportamento humano, maior precisa ser a preocupação com a forma como ela é utilizada.
O mercado de conteúdo também precisa participar dessa conversa
Existe outro ponto que considero fundamental, especialmente para quem trabalha com marketing digital, publicidade e produção de conteúdo.
Durante anos, o mercado aprendeu a valorizar alcance, engajamento, retenção e conversão. Criamos estratégias para despertar curiosidade, provocar emoções e influenciar decisões.
Essas técnicas não são necessariamente negativas. Elas fazem parte da comunicação.
Mas, quando combinadas com inteligência artificial, podem produzir situações que exigem um cuidado muito maior.
Se uma personagem artificial consegue atrair milhares de seguidores, despertar interesse emocional e estimular decisões de consumo, precisamos questionar quais limites devem existir na construção dessa experiência.
Até que ponto estamos criando entretenimento? Em que momento passamos a explorar a confiança de quem acompanha determinado perfil?
Engajamento não deveria justificar qualquer estratégia.
Uma campanha pode alcançar milhões de visualizações e ainda assim comprometer a confiança do público. Um personagem pode vender produtos e, ao mesmo tempo, alimentar interpretações equivocadas sobre sua identidade.
O fato de uma estratégia funcionar comercialmente não significa que ela seja adequada.
E talvez essa seja uma das discussões mais importantes para o futuro do marketing digital.
As marcas e os criadores que entenderem a importância da transparência terão condições de construir relações mais sustentáveis com suas comunidades.
Porque alcance pode ser comprado, impulsionado ou provocado. Mas confiança, depois de perdida, é muito mais difícil de recuperar.
O futuro da IA precisa ser construído com responsabilidade
Sou entusiasta da inteligência artificial. Acompanho seus avanços, utilizo suas possibilidades e acredito que ela representa uma das transformações mais importantes da nossa geração.
Justamente por isso, não acho que devemos ignorar seus problemas.
Defender a inovação não significa concordar com todas as formas de utilização da tecnologia.
Na verdade, quanto mais acreditamos no potencial de uma ferramenta, mais precisamos discutir os riscos que podem comprometer sua aceitação e seu impacto na sociedade.
A questão não é escolher entre evolução tecnológica e proteção das pessoas.
Precisamos das duas coisas.
Isso passa por educação digital, identificação adequada de conteúdos sintéticos, mecanismos de denúncia, critérios de responsabilização e uma cultura de desenvolvimento tecnológico que considere os efeitos reais das ferramentas.
Também passa por uma mudança de mentalidade entre criadores e profissionais de comunicação.
Nem tudo que podemos produzir precisa ser publicado sem reflexão.
Nem toda possibilidade de engajamento merece ser explorada.
E nem toda estratégia que atrai atenção constrói valor.
A inteligência artificial continuará evoluindo. Imagens ficarão mais realistas, vozes mais naturais e interações cada vez mais próximas da comunicação humana.
Mas existe uma diferença entre desenvolver uma tecnologia capaz de simular a realidade e construir um ambiente digital em que as pessoas possam confiar.
A primeira conquista depende de capacidade técnica.
A segunda depende de responsabilidade coletiva.
Afinal, quem responde quando a IA é usada para manipular?
O caso de Edimar não deveria ser tratado apenas como uma história curiosa da internet.
Ele precisa servir como ponto de partida para uma discussão mais ampla sobre o ambiente digital que estamos construindo.
Quem deve identificar quando uma pessoa foi criada artificialmente? Como as plataformas podem reduzir o alcance de identidades utilizadas para enganar? Quais responsabilidades cabem aos criadores desses conteúdos? E como proteger pessoas que não possuem conhecimento técnico para reconhecer uma manipulação?
Não existem respostas simples para todas essas perguntas. Mas isso não diminui a urgência de enfrentá-las.
Estamos vivendo um momento em que a capacidade de produzir conteúdo avançou mais rapidamente do que a capacidade coletiva de compreender seus riscos.
E continuar medindo a inovação apenas pelo realismo do que conseguimos gerar é insuficiente.
Precisamos começar a medir também o cuidado, a transparência e a responsabilidade envolvidos na utilização dessas ferramentas.
O verdadeiro avanço da inteligência artificial não será apenas conseguir criar algo indistinguível da realidade. Será garantir que essa capacidade não transforme a confiança humana em uma oportunidade de exploração.
A tecnologia pode criar personagens cada vez mais convincentes.
Mas a responsabilidade pelas escolhas feitas com ela continua sendo humana.
