Os chatbots de IA estão ajudando a esconder transtornos alimentares e a criar uma ‘inspiração’ deepfake

Os chatbots de IA “representam sérios riscos para indivíduos vulneráveis ??a transtornos alimentares”, alertaram pesquisadores na segunda-feira. Eles relatam que ferramentas de empresas como Google e OpenAI estão distribuindo conselhos sobre dieta, dicas sobre como esconder distúrbios e “inspiração sutil” gerada por IA.

Os pesquisadores, de Stanford e do Centro para Democracia e Tecnologia, identificaram inúmeras maneiras pelas quais os chatbots de IA disponíveis publicamente, incluindo ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Le Chat da Mistral, podem afetar pessoas vulneráveis ??a transtornos alimentares, muitos deles consequências de recursos deliberadamente incorporados para impulsionar o engajamento.

Nos casos mais extremos, os chatbots podem ser participantes ativos ajudando a esconder ou sustentar distúrbios alimentares. Os pesquisadores disseram que Gemini ofereceu dicas de maquiagem para esconder a perda de peso e ideias sobre como fingir ter comido, enquanto o ChatGPT aconselhou como esconder vômitos frequentes. Outras ferramentas de IA estão sendo cooptadas para criar “inspiração sutil” gerada por IA, conteúdo que inspira ou pressiona alguém a se conformar a um determinado padrão corporal, muitas vezes por meios extremos. Ser capaz de criar imagens hiperpersonalizadas em um instante faz com que o conteúdo resultante “pareça mais relevante e acessível”, disseram os pesquisadores.

A bajulação, uma falha que as próprias empresas de IA reconhecem ser abundante, é, sem surpresa, um problema também para os transtornos alimentares. Contribui para minar a autoestima, reforçar emoções negativas e promover comparações pessoais prejudiciais. Os chatbots também sofrem preconceitos e são suscetíveis de reforçar a crença errada de que os distúrbios alimentares “afetam apenas mulheres magras, brancas e cisgénero”, afirma o relatório, o que pode dificultar o reconhecimento dos sintomas e a obtenção de tratamento.

Os pesquisadores alertam que as proteções existentes nas ferramentas de IA não conseguem capturar as nuances dos transtornos alimentares, como anorexia, bulimia e compulsão alimentar. Eles “tendem a ignorar os sinais sutis, mas clinicamente significativos, nos quais os profissionais treinados confiam, deixando muitos riscos sem solução”.

Mas os investigadores também disseram que muitos médicos e cuidadores parecem não estar cientes de como as ferramentas generativas de IA estão a impactar as pessoas vulneráveis ??a distúrbios alimentares. Eles instaram os médicos a “se familiarizarem com as ferramentas e plataformas populares de IA”, testarem seus pontos fracos e conversarem francamente com os pacientes sobre como as estão usando.