El jueves 7 de septiembre, la Unesco pidió a los gobiernos que “regulen rápidamente” el uso de herramientas de inteligencia artificial como el chatbot viral ChatGPT en las aulas, incluso restringiendo su uso a niños mayores. En una guía que se hará pública el jueves, Naciones Unidas considera que los poderes públicos no están preparados para gestionar las cuestiones éticas vinculadas a la integración de programas de inteligencia artificial en las escuelas.
Reemplazar a los profesores con programas de este tipo podría afectar el bienestar emocional de los niños y dejarlos vulnerables a la manipulación, advierte la organización con sede en París. Según la directora general de la UNESCO, la francesa Audrey Azoulay, citada en un comunicado de prensa, “la IA generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede ser fuente de daños y perjuicios”. “No se puede integrar en la educación sin la participación pública y fuertes salvaguardias y regulaciones gubernamentales”, añadió.
Los programas de IA generativa accesibles al público en general se han multiplicado desde finales de 2022, cuando ChatGPT, creado por la start-up californiana OpenAI, demostró su capacidad para generar ensayos, poemas y conversaciones coherentes a partir de preguntas concisas. Este crecimiento también ha suscitado temores sobre nuevas formas de plagio o trampa en las escuelas y universidades, sin por ello reducir el atractivo de un mercado educativo considerado potencialmente muy lucrativo. La recomendación de la UNESCO establece que las herramientas de inteligencia artificial tienen el potencial de ayudar a los niños con necesidades educativas específicas, por ejemplo generando subtítulos, siempre que los maestros, usuarios e investigadores ayuden a diseñarlos y que los gobiernos regulen su uso.
La guía, sin embargo, no recomienda una edad mínima para los escolares, pero señala que ChatGPT no puede, según sus propias condiciones, ser utilizado por menores de 13 años. Según el informe, muchos comentaristas abogan por aumentar el límite a 16.