Students’ Trust in AI and Their Verification Strategies: A Case Study at Camilo José Cela University

Abstract

La confianza desempeña un papel fundamental en las interacciones de los individuos con los sistemas tecnológicos, y aquellos que incorporan inteligencia artificial (IA) presentan desafíos significativamente mayores que los sistemas tradicionales. El panorama actual de la educación superior está cada vez más moldeado por la integración de asistentes de IA en las experiencias en el aula de los estudiantes. Su uso apropiado está estrechamente ligado al nivel de confianza depositado en estas herramientas, así como a las estrategias adoptadas para evaluar críticamente la exactitud del contenido generado por IA. Sin embargo, la atención académica a esta dimensión sigue siendo limitada. Para explorar estas dinámicas, este estudio aplicó el marco de evaluación POTDAI a una muestra de 132 estudiantes de ingeniería y ciencias sociales de la Universidad Camilo José Cela en Madrid, España. Los hallazgos revelan una falta general de confianza en los asistentes de IA a pesar de su uso generalizado, una dependencia común de métodos de verificación inadecuados y un escepticismo notable respecto a la capacidad de los profesores para detectar errores relacionados con la IA. Además, los estudiantes demostraron una preocupante percepción errónea de las capacidades de los diferentes modelos de IA, a menudo favoreciendo herramientas menos avanzadas o menos apropiadas. Estos resultados subrayan la urgente necesidad de establecer un protocolo de verificación fiable accesible tanto para estudiantes como para el profesorado, y de investigar más a fondo las razones por las cuales los estudiantes optan por herramientas limitadas en lugar de las alternativas más potentes que se les ponen a su disposición.