Escola usa ChatGPT para decidir quais livros “sexuais” deve proibir

EUA – Um distrito escolar de Iowa está usando inteligência artificial para decidir quais livros banir de suas bibliotecas porque ninguém tem tempo de realmente ler os livros para decidir se eles têm “descrições ou representações visuais de um ato sexual”, que são proibidos por uma nova lei estadual. O único problema: a tecnologia de IA ainda não é avançada o suficiente para avaliar o conteúdo dos livros, e o programa fornece respostas inconsistentes.

Para se preparar para o ano letivo, o Mason City Community School District, compilou várias listas disponíveis de livros comumente questionados para criar uma “lista principal” de livros para revisão. O distrito fez isso para cumprir uma nova lei, assinada em maio pelo governador de Iowa, Kim Reynolds (R), que proíbe todos os livros que contenham “descrições ou representações visuais de um ato sexual”.

Antes desta lei ser assinada, o distrito disse que não tinha registro de nenhum pai ou aluno contestando formalmente a remoção de um livro por causa de seu conteúdo. No entanto, o distrito revisou cada livro em sua lista principal “usando software de IA para determinar se ele contém uma representação de um ato sexual”, disse um porta-voz do distrito ao The Gazette.

Esse processo levou o distrito a remover 19 livros de suas bibliotecas de 7ª a 12ª séries. A lista incluía clássicos literários como “The Handmaid’s Tale” de Margaret Atwood, “A Cor Púrpura” de Alice Walker, e “Eu sei por que o pássaro canta na goiaba” de Maya Angelou.

Bridgette Exman, Superintendente Assistente de Currículo e Instrução do distrito, disse: “Francamente, temos coisas mais importantes a fazer do que gastar muito tempo tentando descobrir como proteger as crianças dos livros”, acrescentou ela. “Ao mesmo tempo, temos a obrigação legal e ética de cumprir a lei. Nosso objetivo aqui é realmente um processo defensável.”

Proibições semelhantes de livros têm aumentado em todo o país, de acordo com um relatório da organização de liberdade de expressão PEN America. No último ano letivo, a PEN America registrou 1.477 instâncias separadas de proibições de livros em todo o país, afetando 874 títulos únicos em 182 distritos escolares e 37 estados. Em 2022, cerca de 41% dos livros contestados eram de autores LGBTQ+ ou continham temas LGBTQ+, informou a American Library Association.