Usuários do ChatGPT que apresentarem sinais de extremismo violento ou crises de saúde mental poderão ser encaminhados para apoio especializado por meio de uma nova ferramenta em desenvolvimento na Nova Zelândia, anunciada pela startup ThroughLine. O sistema, que combina atendimento humano e chatbots, busca reduzir riscos de violência, automutilação ou transtornos alimentares detectados em interações com plataformas de IA.
A OpenAI, dona do ChatGPT, confirmou a parceria com a ThroughLine, mas não divulgou detalhes adicionais. A empresa, contratada também por gigantes como Google e Anthropic, já atua em 180 países com uma rede de 1.600 linhas de apoio monitoradas. Segundo o fundador da startup, Elliot Taylor, ex-assistente social, a ferramenta está em fase de testes e ainda não tem data de lançamento definida.
A iniciativa surge em meio a pressões governamentais, como a ameaça de intervenção do Canadá contra a OpenAI após um massacre em escola, onde o autor foi banido da plataforma sem aviso às autoridades. A ThroughLine também negocia com o The Christchurch Call, grupo anti-extremismo criado após o atentado terrorista de 2019 na Nova Zelândia, para aprimorar a intervenção em casos de radicalização online.
O sistema funciona em modelo híbrido: um chatbot treinado identifica sinais de risco e redireciona o usuário para serviços locais de saúde mental, evitando que plataformas simplesmente bloqueiem conversas delicadas — o que, segundo Taylor, pode agravar o perigo. “Pessoas em sofrimento compartilham online o que não diriam a ninguém”, afirmou. “Se a IA encerrar a conversa sem apoio, ninguém saberá da crise.”
A ferramenta também poderá ser usada por moderadores de fóruns de jogos ou familiares, segundo Galen Lamphere-Englund, consultor de contraterrorismo. Para Henry Fraser, pesquisador de IA da Universidade de Tecnologia de Queensland, o sucesso depende da qualidade do acompanhamento após o encaminhamento.
O estudo do Stern Center for Business and Human Rights (NYU, 2025) alerta que a moderação excessiva pode empurrar usuários para plataformas menos regulamentadas, como o Telegram.
A ThroughLine trabalha agora para definir alertas às autoridades sem desencadear comportamentos mais agressivos. A startup, sediada em uma zona rural da Nova Zelândia, tornou-se referência global em segurança digital, mas ainda não há previsão para a implementação completa da ferramenta.
Elienai News – Compromisso com a verdade!
💬 Deixe seu comentário sobre esta matériaQuer receber as notícias mais recentes de Goianésia e região diretamente no seu celular? Então junte-se aos grupos de WhatsApp da Central de Notícias Elienai News!
