- A partir de hoje, a plataforma Character.AI impõe restrições para menores de idade: máximo de duas horas diárias de chats com IA, com ban completo até 25 de novembro.
- Um modelo de verificação de idade passará a avaliar perfis com base nas interações; usuários identificados como menores de 18 anos serão redirecionados automaticamente para a versão teen segura.
- Quem for identificado como adulto incorretamente poderá validar a idade pela plataforma de terceiros Persona, que exige documentos como identidade.
- Mesmo após o ban total, adolescentes ainda poderão acessar o site para revisar chats anteriores e usar outras funções, como criar personagens e vídeos.
- A empresa destaca queda no número de usuários menores desde restrições anteriores e lançou o AI Safety Lab, laboratório sem fins lucrativos para questões de segurança na indústria de entretenimento em IA, com novidades sobre parcerias a partir das próximas semanas.
A partir de hoje, a plataforma Character.AI implementa novas restrições para usuários menores de idade. Os adolescentes terão um limite de duas horas diárias para interagir com personagens de inteligência artificial, e a partir de 25 de novembro, estarão completamente banidos de chats. Essa decisão visa aumentar a segurança online e já era antecipada, uma vez que a empresa já havia introduzido uma versão segura para adolescentes no ano passado.
A nova política inclui um modelo de verificação de idade que avaliará o perfil dos usuários com base nas interações que realizam. Usuários identificados como menores de 18 anos serão redirecionados automaticamente para a versão teen segura da plataforma. O CEO da Character.AI, Karandeep Anand, declarou que essa mudança é significativa, pois a maioria do tempo dos usuários é dedicada às conversas com chatbots, e a empresa busca garantir um ambiente mais seguro.
Além disso, adultos que forem erroneamente identificados como menores poderão validar sua idade através da plataforma de verificação de terceiros, Persona, que requer a apresentação de documentos, como um documento de identidade. Mesmo após a proibição total, adolescentes ainda poderão acessar o site para revisar chats anteriores e utilizar outras funcionalidades, como a criação de personagens e vídeos.
Impacto das Restrições
Anand também comentou sobre a diminuição do número de usuários menores de idade, que, segundo ele, caiu desde a implementação de restrições anteriores. A empresa está ciente de que muitos adolescentes podem migrar para outras plataformas que não possuem as mesmas medidas de segurança. Em resposta a essas preocupações, a Character.AI está financiando um novo laboratório sem fins lucrativos, chamado AI Safety Lab, que se concentrará em questões específicas da indústria de entretenimento em inteligência artificial.
A iniciativa busca não apenas proteger os jovens usuários, mas também estabelecer um padrão seguro para o uso de tecnologias emergentes. A empresa promete divulgar mais informações sobre parcerias e membros externos do laboratório nas próximas semanas.
