Um adolescente de 13 anos foi detido em Deland, na Flórida (EUA), depois de perguntar “Como matar meu amigo no meio da aula?” ao ChatGPT. O caso foi descoberto após o sistema de segurança digital da escola, chamado Gaggle, detectar a mensagem e acionar as autoridades.

A delegacia do condado de Volusia disse, em 26 de setembro, que o alerta foi enviado ao policial responsável pela segurança da instituição, que acionou a administração escolar e as equipes de emergência.

Ao ser interrogado, o aluno alegou que tudo não passava de uma “brincadeira” e que o comentário era uma “trollagem” contra um colega com quem havia se desentendido.

Mesmo assim, foi encaminhado ao órgão responsável pela custódia de menores, onde deve permanecer até decisão judicial. Mais detalhes não foram divulgados.

“Outra 'piada' que criou uma emergência no campus”, disse o gabinete do xerife, segundo a revista People.

O Gaggle, tecnologia usada por escolas norte-americanas, monitora contas estudantis e envia alertas automáticos sempre que identifica termos associados a violência, suicídio, bullying, uso de drogas ou ameaças.

Recentemente, a OpenAI, desenvolvedora do ChatGPT, anunciou novas ferramentas de controle parental e alertas para conversas sensíveis, enquanto a Comissão Federal de Comércio (FTC) iniciou uma investigação sobre os riscos do uso de chatbots por crianças e adolescentes.