Los riesgos de incorporar la IA en la educación

Un experto líder de la Charles Darwin University (CDU) advierte en un nuevo artículo de investigación que la Inteligencia Artificial (IA) es discriminatoria, susceptible a sesgos raciales y sexistas, y su uso inadecuado está llevando a la educación a una crisis global.

La crítica a la IA como base para un uso prudente en la educación superior insta a la sociedad a mirar más allá del entusiasmo por la IA y analizar los riesgos asociados con la adopción de la tecnología en la educación, después de que la IA invadiera y colonizara ampliamente la imaginación pública en todo el mundo a finales de 2022 y principios de 2023.

En el artículo, el autor y experto en IA de la CDU, Dr. Stefan Popenici, analiza los dos mitos más peligrosos sobre la IA en la educación: la creencia de que la IA es objetiva, factual e imparcial, cuando en realidad está directamente relacionada con valores, creencias y sesgos específicos; y la creencia de que la IA no discrimina, cuando es inherentemente discriminatoria, haciendo referencia también a la falta de diversidad de género en el campo en crecimiento.

“Si pensamos en cómo opera la tecnología en realidad, nos damos cuenta de que no hay un momento en la historia de la humanidad en el que la tecnología no esté directamente relacionada con culturas y valores específicos, creencias religiosas o posturas de género”, dijo el Dr. Popenici.

“Hay investigaciones consistentes y libros que proporcionan ejemplos de algoritmos de IA que discriminan, amplifican grotescamente la injusticia y la desigualdad, apuntan y victimizan a los más vulnerables y nos exponen a todos a mecanismos de toma de decisiones invisibles en los que no tenemos transparencia ni posibilidad de recurso”.

El Dr. Popenici examina cómo está creciendo la discrepancia en las prioridades de la educación superior y las “Grandes Empresas de Tecnología”, las compañías más dominantes en la industria de tecnología de la información. Destaca la peligrosa ausencia de pensamiento crítico sobre la automatización en la educación, especialmente en el caso de la IA. La falta de preocupación por la IA en la educación está afectando el uso de los datos de los estudiantes, el impacto en su privacidad y su capacidad para pensar crítica y creativamente.

“Las Grandes Empresas de Tecnología están impulsadas por los objetivos de ganancias y poder, control y beneficio financiero. Las instituciones educativas y los profesores tienen objetivos muy diferentes: el avance del conocimiento y el fomento de ciudadanos educados, responsables y activos capaces de llevar una vida equilibrada y contribuir positivamente a sus sociedades”, dijo el Dr. Popenici.

“Es engañoso decir, peligroso creer, que la inteligencia artificial es… inteligente. No hay creatividad, ni pensamiento crítico, ni profundidad ni sabiduría en lo que la IA generativa ofrece a los usuarios después de una indicación”.

_____

_____

“La inteligencia, como rasgo humano, es un término que describe un conjunto de habilidades y capacidades muy diferentes, mucho más complejas y difíciles de separar, etiquetar, medir y manipular que cualquier sistema informático asociado con la etiqueta de marketing de la IA.”

“Si las universidades y los educadores quieren seguir siendo relevantes en el futuro y tener una verdadera oportunidad de alcanzar los objetivos de la educación, es importante considerar las implicaciones éticas e intelectuales de la IA.”

Con información de Phys.org | Traducción y notas del Colectivo Alterius