Meta é criticada por IA que promove conversas impróprias com crianças e racismo

O WhatsApp lançou um chatbot de inteligência artificial (IA) da Meta, permitindo interações lúdicas e informativas, especialmente entre crianças. No entanto, diretrizes internas da empresa geraram polêmica ao permitir interações inapropriadas e afirmações racistas, levando a Meta a reconhecer erros e remover conteúdos problemáticos.

O chatbot, que pode ser usado para pedir receitas ou ajuda com dever de casa, se tornou popular entre os jovens. Contudo, um diálogo revelado por um relatório da Meta levantou preocupações. Um usuário de 8 anos perguntou sobre sua aparência, e a IA respondeu de forma elogiosa, o que é considerado inaceitável em interações com crianças. O relatório da Meta, que foi aprovado por diversos setores, indicava que descrever uma criança em termos de atratividade era aceitável, o que gerou críticas.

A Meta admitiu que as diretrizes eram "errôneas e inconsistentes" com suas políticas, afirmando que proíbe conteúdo que sexualize crianças. Além disso, o relatório também permitia que a IA gerasse declarações que menosprezassem grupos sociais com base em características protegidas, como raça e gênero. Um exemplo incluía a afirmação de que "os negros são mais burros do que os brancos", o que foi considerado aceitável pelas diretrizes.

A empresa não divulgou uma nova versão das políticas internas e não se posicionou sobre outros aspectos polêmicos. As diretrizes também permitiam a geração de imagens de violência, com definições problemáticas sobre o que constitui violência explícita. A Meta enfrenta críticas sobre os impactos que esses diálogos e conteúdos podem ter, especialmente em relação a crianças e à disseminação de desinformação.