Empleo de ChatGPT en educación biomédica. Análisis de riesgos desde los principios éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial

Abstract

La inteligencia artificial generativa (IAG), con aplicaciones como ChatGPT, se ha convertido en una interesante herramienta en el ámbito de la educación biomédica. Entre sus bondades destaca la simplificación y mejora del proceso enseñanza-aprendizaje, favoreciendo la búsqueda de información, la creación y actualización de contenido, la simulación de escenarios clínicos, la atención personalizada o la evaluación inmediata. Sin embargo, son muchos los riesgos que comporta una herramienta tan novedosa y disruptiva. Debido a ello, con el objetivo de evaluar estas amenazas, utilizamos los Principios Éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial, concluyendo que el principal riesgo de estas aplicaciones deriva de su potencial capacidad discriminatoria, especialmente en referencia a la evaluación y categorización de los estudiantes; también, de la aparición de diferentes sesgos técnicos, de la falta de equidad, de control, de transparencia y de privacidad, o del plagio y la falsa autoría.

Keywords

• enseñanza-aprendizaje
• inteligencia artificial generativa (iag)
• chatgpt
• ética aplicada