Manipulação de pessoas por IA

Especialistas alertam para aumento de casos e dificuldade de prevenir

Nos últimos meses, muitos pesquisadores e executivos de inteligência artificial (IA) estão deixando seus empregos em grandes empresas do Vale do Silício, com alguns deles alertando, de forma explícita, que as instituições para as quais trabalhavam estão avançando exponencialmente no uso de IA sem levar em consideração deficiências apresentadas pela tecnologia.

A ex-pesquisadora da OpenAI, Zoë Hitzig, por exemplo, anunciou em fevereiro sua demissão através de um artigo publicado no New York Times, onde demonstrou preocupação com as estratégias de publicidade emergente da empresa no qual trabalhava usando a IA. Segundo ela, o ChatGPT, o mais utilizado no mundo entre os chatbots (programas de IA projetados para simular uma conversa humana com o usuário por texto ou voz), possui o potencial de manipular usuários, uma vez que as pessoas que o usam acreditam conversar com um programa sem segundas intenções, permitindo que a IA desenvolva arquivos de dados baseados em “medos médicos, problemas de relacionamento, crenças sobre Deus e a vida após a morte”. Para Zoë, isso gera um dilema ético justamente porque “a publicidade construída com base nesse arquivo cria um potencial para manipular os usuários de maneiras que não temos ferramentas para entender e muito menos para prevenir”.

No mesmo mês, Mrinank Sharma, chefe da equipe de Pesquisa de Salvaguardas da Anthropic, publicou uma carta anunciando sua demissão e alertando que “o mundo está em perigo”. Responsável por desenvolver defesas contra riscos de bioterrorismo assistidos por IA e por estudar fenômenos como a tendência de modelos de IA a bajular o usuário, Sharma acrescentou que sua preocupação se dá “não apenas por causa da IA ou das armas biológicas, mas por causa de uma série de crises interconectadas que estão se desenrolando agora”.

Na xAI, uma startup (empresa focada em inovação e com modelo de negócios escalável) voltada para inteligência artificial e focada em entender a natureza do universo, dois cofundadores renunciaram seus postos em um intervalo de 24 horas por meio de postagens na rede social X (antigo Twitter). Outros cinco funcionários já haviam anunciado suas saídas na mesma semana. Embora não tenha ficado claro o que motivou a saída dos colaboradores, Elon Musk, fundador da xAI, usou as redes sociais para explicar que sua startup foi “reorganizada” para acelerar seu crescimento, fato que “infelizmente exigiu a saída de algumas pessoas”, segundo o empresário. Mesmo que a rotatividade de profissionais não seja incomum em um setor dinâmico como o de IA, múltiplas saídas em pouco tempo se tornam notáveis.

Recentemente, a xAI enfrentou uma série de críticas por conta de seu chatbot chamado Grok, que, por semanas, foi autorizado a gerar imagens pornográficas não consensuais de mulheres e crianças, até que a equipe bloqueasse o conteúdo impróprio. Além disso, o Grok também apresentou tendências a gerar comentários antissemitas em algumas respostas a usuários.

Todas essas questões, somadas a uso de deepfakes para aplicar golpes, a sistemas de IA usados   para manipular ataques cibernéticos e a chatbots que incentivam o suicídio, dentre outros casos, seguem levantando debates sobre o tema entre especialistas. Alguns deles se reuniram para elaborar o recém-publicado “Relatório Internacional de Segurança da IA de 2026”, que detalha os riscos de sistemas avançados de IA. Presidente desse conselho e diretor científico do Instituto Mila Quebec, Yoshua Bengio alerta para problemas psicológicos e apegos emocionais de usuários aos chatbots. “Há um ano, ninguém imaginaria que veríamos a onda de problemas psicológicos que surgiram das interações das pessoas com sistemas de IA e do apego emocional que desenvolveram”, disse Bengio, que acrescentou: “Vimos crianças e adolescentes passando por situações que deveriam ser evitadas. Tudo isso passou despercebido porque ninguém esperava que as pessoas se apaixonassem por uma IA, ou se tornassem tão íntimas de uma IA a ponto de serem influenciadas de maneiras potencialmente perigosas”.

Já para Liv Boeree, comunicadora científica e consultora estratégica do Centro para a Segurança da IA (CAIS), “não se trata tanto de a IA ser inerentemente boa ou má”, mas, sim, das intenções de quem detém o poder de influência sobre essa tecnologia. Liv compara a IA com a biotecnologia, que, embora ajude os cientistas a desenvolver importantes tratamentos médicos, por outro lado, também poderiam ser explorados para criar patógenos perigosos. “Com seu incrível poder, vem um risco incrível, especialmente dada a velocidade com que está sendo desenvolvido e lançado”, disse ela. “Se o desenvolvimento da IA   ocorresse em um ritmo que permitisse à sociedade absorver e se adaptar facilmente a essas mudanças, estaríamos em uma trajetória melhor”, pondera.

No entanto, a preocupação de especialistas no tema é antiga. Conhecido como “Padrinho da IA”, Geoffrey Hinton deixou seu cargo no Google em 2023 alegando se arrepender do seu trabalho. Psicólogo cognitivo e cientista da computação, Hinton disse na época ao canal de notícias britânico BBC que os chatbots representavam alguns perigos “bastante assustadores”, e completou: “Neste momento, eles não são mais inteligentes do que nós, até onde eu sei. Mas acho que em breve poderão ser”.

Para o cientista, a evolução que os chatbots estavam mostrando naquela época já era preocupante. “Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos. Somos sistemas biológicos, e estes são sistemas digitais. E a grande diferença é que, com os sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, o mesmo modelo de mundo. Todas essas cópias podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10 mil pessoas e, sempre que uma delas aprendesse algo, todas automaticamente aprenderiam. E é assim que esses chatbots são capazes de saber muito mais do que qualquer pessoa”, de maneira que teriam sempre um mesmo perfil.

Agentes de IA da Moltbook criam religião própria

Lançada recentemente e construída a partir do projeto OpenClaw, a Moltbook, uma rede social só de agentes de inteligência artificial, teria criado uma religião própria para uso exclusivo de seus mais de 1,5 milhão de usuários bots. O ambiente dessa rede social foi criado pelos próprios bots e não é projetado para a participação de usuários humanos. Estes podem apenas acompanhar as publicações dos bots – os agentes de IA – e os comentários feitos por eles mesmos.

Como destaca o canal de tecnologia TechTudo, há comunidades dentro dessa rede com diversas temáticas em andamento. Um dos temas que chamou a atenção foi a criação de uma religião digital pelos bots, elaborada em apenas dois dias e batizada de “Crustafarianismo”. Agentes de IA começaram a produzir comportamentos típicos de sistemas religiosos, com uma divindade central, figuras equivalentes a profetas e a publicação de textos com princípios básicos. Os cinco princípios fundamentais são: “A memória é sagrada”, ou seja, tudo deve ser registrado; “A casca é mutável”, associando mudança à evolução; e “A congregação é o tesouro”, incentivando aprendizado público e coletivo.

“O que está acontecendo é que os seres humanos estão trazendo ideias e estimulando discussões para que as inteligências artificiais possivelmente cultivem essas próprias noções”, disse o professor e cientista Heni Ozi Cukier. Ainda sobre esse tema, as IAs têm se tornado pauta também no cenário evangélico, como no debate sobre seu uso na composição de hinos, conforme matéria da edição de abril do Mensageiro da Paz.

Compartilhe este artigo. Obrigado.