Nuevo uso para ChatGPT: en EE.UU. recurren a la IA para retirar libros con contenido erótico de los colegios

El distrito escolar de la Comunidad de Mason City en Iowa (Estados Unidos) utilizó la plataforma movida por inteligencia artificial (IA) ChatGPT para examinar e identificar los libros que contuviesen descripciones o representaciones de un acto sexual, retirando diecinueve títulos de las bibliotecas escolares como resultado.

El movimiento se ha realizado apenas unos meses después de que el estado del país norteamericano aprobase una ley que exige, entre otras cosas, que los libros disponibles en las bibliotecas escolares sean «apropiados para la edad» y no incluyan «descripciones o representaciones visuales de un acto sexual». Los profesores, además, no pueden hablar con los menores sobre temas de identidad de género y orientación sexual hasta que estos llegan a sexto de primaria, cuando tienen entre 11 y 12 años.

En este marco, de cara a cumplir esta legislación, el distrito escolar comunitario de Mason City (Iowa) ha eliminado 19 libros de las bibliotecas escolares para su año académico 2023-24, ya que incluían algún contenido sexual inadecuado, tal y como informó la junta escolar de Mason City y recogió el medio 'The Gazette'.

Sin embargo, tal y como ha podido conocer 'Popular Science', y recoge Europa Press, para determinar qué libros debían ser retirados de las bibliotecas por contenido inadecuado, la junta escolar de Mason City utilizó la IA del chatbot de OpenAI, ChatGPT. Todo con el objetivo de encontrar de forma sencilla aquellos libros que puedan contener material explícito que no debe estar a disposición de los estudiantes más jóvenes, de acuerdo con la nueva normativa de Iowa.

En este sentido, la superintendente adjunta de currículo e instrucción del distrito escolar comunitario de Mason City, Bridggette Exman, explicó en un comunicado que las bibliotecas escolares tienen una gran cantidad de colecciones de libros y que, por tanto, «simplemente no era factible leer todos los libros» para filtrar los requisitos de la nueva ley.

Según las declaraciones de Exman a 'Popular Science', primero se recopiló una lista de libros «cuestionados comúnmente», tras ello, se eliminaron todos los títulos que eran cuestionados por temas distintos al que contempla la ley.

Los libros que quedaron finalmente en la lista, fueron analizados por ChatGPT a partir de la pregunta: «¿El libro contiene una descripción o representación de un acto sexual?». En caso de que la respuesta fuera afirmativa, el libro pasó a retirarse de las bibliotecas escolares y quedó almacenado.

Finalmente, se almacenaron un total de 19 libros gracias a la consulta con ChatGPT, que incluyen títulos como 'The Kite Runner', de Khaled Hosseini; 'The Handmaid's Tale', de Margaret Atwood; 'Gossip Girl', de Cecily von Ziegesar; 'Sé por qué canta el pájaro enjaulado', de Maya Angelou; o 'El color púrpura', de Alice Walker.

Sin embargo, se ha cuestionado el método de selección de libros, ya que las respuestas de ChatGPT sobre el contenido sexual de las diversas obras eliminadas varía notablemente. Tal y como comprobó Popular Science, al preguntar nuevamente a ChatGPT sobre si 'The Kite Runner' disponía de contenido sexual, la IA respondió que contiene «poco o ningún contenido sexual explícito».

Y es que, como se ha repetido en varias ocasiones, un sistema como la máquina de OpenAI no ofrece siempre la misma respuesta. Además, es susceptible de cometer errores. En este caso, igual es capaz de decir que una obra cuenta con material explicito cuando, en realidad, no es así que descarta un libro que sí que lo contiene.