OpenAI permitirá conteúdo erótico no ChatGPT para adultos verificados
A OpenAI anunciou nesta terça-feira planos para aliviar as restrições do seu chatbot ChatGPT, para oferecer conteúdo erótico a usuários adultos verificados.
O plano faz parte do que a empresa chama de princípio de “tratar os usuários adultos como adultos”.
O diretor-geral da OpenAI, Sam Altman, disse em sua conta no X que restrições mais rígidas sobre a IA, para lidar com preocupações de saúde mental, fizeram com que o ChatGPT fosse “menos útil ou agradável para muitos usuários que não têm problemas de saúde mental”.
Os controles mais rigorosos foram implementados após o adolescente Adam Raine, da Califórnia, ter se suicidado no início deste ano. Em uma ação judicial, seus pais afirmaram que o ChatGPT deu a ele conselhos específicos sobre como tirar a própria vida.
A Comissão Federal de Comércio (FTC) dos Estados Unidos também abriu uma investigação contra várias empresas de tecnologia, incluindo a OpenAI, sobre como os chatbots podem afetar negativamente crianças e adolescentes.
“Dada a seriedade dessa questão, queremos fazer isso direito”, disse Altman na terça-feira. Ele assegurou que as novas ferramentas de segurança da OpenAI permitirão à empresa aliviar as restrições enquanto continuam a enfrentar os riscos graves relacionados à saúde mental.
Os planos da OpenAI incluem o lançamento de uma versão atualizada do ChatGPT que permitirá aos usuários personalizar a personalidade do assistente de IA, incluindo opções para respostas mais humanas, uso intensivo de emojis ou comportamento amigável.
A mudança mais significativa acontecerá em dezembro, quando a OpenAI planeja implementar um controle de idade mais rigoroso para disponibilizar conteúdo erótico a adultos verificados.
A OpenAI não forneceu detalhes imediatos sobre os métodos de verificação de idade ou controles adicionais de segurança para a entrega de conteúdo exclusivo para adultos.
Em setembro, a empresa lançou uma experiência do ChatGPT para menores de 18 anos, redirecionando-os para conteúdo apropriado para sua idade, bloqueando material gráfico e sexual.
Também afirmou estar desenvolvendo uma tecnologia de previsão baseada na idade que estima se um usuário tem mais ou menos de 18 anos, com base em como interage com o ChatGPT.