Oct/25 Salden es director del Centro de Enseñanza y Aprendizaje de la Universidad del Ruhr, Bochum, Alemania, señala que dado que la IA probablemente será una parte integral de las universidades en el futuro previsible, ¿qué pueden hacer las universidades para prevenir los peores efectos? y plantea los nuevos escenarios. Tomado de International Higher Education.
La cuestión de la soberanía digital cobra mayor urgencia para las universidades en la era de la inteligencia artificial. Las aplicaciones basadas en IA no solo son cruciales desde la perspectiva de la protección de datos y la transparencia funcional, sino que también representan una amenaza para el pensamiento independiente. La alfabetización en IA, una infraestructura de IA independiente y un marco estratégico claramente definido son fundamentales para defender la libertad académica.
Desde el inicio de la digitalización, las universidades de todo el mundo se han preocupado por la cuestión de la soberanía digital. Esto implica cuestiones como garantizar que las aplicaciones informáticas cumplan con las regulaciones de protección de datos y reducir las dependencias técnicas y financieras. Sin embargo, la inteligencia artificial está desafiando la soberanía digital de nuevas maneras que van más allá de estos aspectos clásicos.
Riesgos para la soberanía intelectual.
En escuelas y universidades, los estudiantes recurren cada vez más a grandes modelos lingüísticos en sus procesos de aprendizaje. Cada vez más estudiantes (así como académicos experimentados) introducen tareas en servicios de chat basados en IA para ver qué soluciones se pueden generar. Posteriormente, continúan su trabajo basándose en estos resultados.
Esto se aplica no solo a las tareas basadas en hechos, sino también a la interpretación de datos y al desarrollo de argumentos. Por lo tanto, los grandes modelos lingüísticos tienen una influencia considerable y en constante crecimiento en los resultados del aprendizaje y en los resultados de los estudios científicos.
Para los procesos científicos, un enfoque imparcial y analítico es fundamental. Sin embargo, contrariamente a lo que los usuarios suelen asumir, los modelos de lenguaje de IA no son entidades objetivas. En cambio, se configuran según las cosmovisiones de dos maneras: primero, mediante sus datos de entrenamiento (y cualquier sesgo que puedan contener); y segundo, mediante el ajuste posterior (es decir, su adaptación al funcionamiento estándar), que evita comportamientos de respuesta indeseables para el uso público del sistema.
Esto también aplica a las cuestiones de cosmovisión. Tras el entrenamiento, los modelos suelen responder de forma diferente a preguntas políticas controvertidas.
Tanto en China como en Estados Unidos, podemos observar la fuerte influencia que la política tiene en las empresas tecnológicas. En Estados Unidos, en particular, se ha hecho evidente recientemente que los propietarios de grandes empresas tecnológicas pueden orientar sus plataformas de redes sociales hacia la corriente política cuando es necesario y utilizarlas para influir políticamente en sus usuarios. Es importante comprender que también pueden hacerlo con los grandes modelos de lenguaje que controlan.
Ya existen numerosos ejemplos documentados de este ajuste político de los grandes modelos de lenguaje. Un ejemplo de Estados Unidos es el chatbot Grok, que en el verano de 2025 informó repentina e intrusivamente a sus usuarios sobre el “genocidio blanco” en Sudáfrica, un tema que es una pasión política del propietario de Grok, Elon Musk, y de ninguna manera un consenso político objetivo.
De manera similar, en China, el modelo DeepSeek se niega regularmente a proporcionar a los usuarios información sobre la masacre de la Plaza de Tiananmén. Debemos asumir que existen muchas otras adaptaciones de los modelos para respaldar visiones del mundo específicas.
El problema radica en que los usuarios de IA generativa suelen desconocer este hecho. Existe una gran tentación de interpretar los grandes modelos lingüísticos como aparentemente objetivos y competentes. Esta cuestión se agrava aún más cuando los modelos de IA se integran en aplicaciones técnicas cotidianas, actuando en roles aparentemente neutrales como asistentes virtuales, asistentes de reservas y otros roles, incluidos los de orientación científica.
La investigación sobre las implicaciones para la formación de opinión ya ha comenzado y está proporcionando información preocupante. Por ejemplo, en un experimento, los usuarios tuvieron que escribir un texto sobre el valor de las redes sociales para la sociedad con la ayuda de un chatbot. Este chatbot tenía (sin el conocimiento de los usuarios) ciertas opiniones preprogramadas sobre el tema, que los usuarios a menudo adoptaban acríticamente para sus textos. Estos experimentos llevan a la conclusión de que los chatbots influyen considerablemente en lo que pensamos y escribimos.
Claramente, estos modelos representan un riesgo significativo para la soberanía intelectual. Para decirlo sin rodeos, son las herramientas perfectas para la manipulación subliminal. Esto debería ser de especial interés para las universidades y el mundo académico, donde la libertad de pensamiento es esencial. Debemos comprender que los amplios modelos de lenguaje preestablecidos ideológicamente pueden influir en la argumentación científica sin que nos demos cuenta.
Dado que la IA probablemente será una parte integral de las universidades en el futuro previsible, ¿qué pueden hacer las universidades para prevenir los peores efectos?
Infraestructura de la IA
. En primer lugar, la soberanía de la IA es una cuestión de infraestructura técnica. Si bien en los inicios de las aplicaciones de IA listas para el mercado, las universidades dependían completamente de proveedores comerciales, ahora están tomando cada vez más la tecnología de IA en sus propias manos.
Desde una perspectiva técnica, un sistema de IA en una universidad suele constar de varios componentes. Estos incluyen la interfaz de usuario, el servicio específico que ofrece (por ejemplo, un chatbot) y un amplio modelo de lenguaje en el que se basa el servicio.
En el contexto universitario en particular, también son de interés los componentes adicionales, especialmente aquellos que permiten un mayor grado de fiabilidad factual, como la generación aumentada por recuperación. El sistema técnico general también incluye los servidores en los que se procesan los datos.
En principio, las universidades pueden operar cada uno de estos componentes de forma autónoma. Las universidades europeas pueden servir de ejemplo. En Alemania, por ejemplo, las universidades han colaborado a través de las fronteras regionales para desarrollar interfaces que reducen la necesidad de transmitir datos personales al acceder a modelos lingüísticos comerciales de gran tamaño.
Más importante aún, están empezando a usar modelos de lenguaje grandes adaptables (de código abierto) de diferentes proveedores y a almacenarlos en centros de datos públicos para que todos los miembros de la universidad puedan usar este servicio. Se pueden ver desarrollos similares en otros países europeos.
Sin embargo, incluso si las universidades establecen su propia infraestructura de IA, no pueden resolver el problema de que no hay modelos de lenguaje grandes ideológicamente neutrales. Por lo tanto, las universidades también deben ofrecer varios modelos diferentes y ser transparentes sobre qué modelo pertenece a quién y cómo funciona en la práctica.
Alfabetización en IA
Incluso si una universidad establece un marco tecnológico efectivo, no puede detenerse allí si aspira a la soberanía de la IA. Si los usuarios no comprenden los fundamentos de la IA, no la usarán adecuadamente. Por lo tanto, es esencial fomentar la alfabetización en IA entre todos los miembros de la universidad. Esto incluye conocimientos básicos de tecnología, derecho, ética y pedagogía con respecto a la IA.
En la Unión Europea, la Ley de IA ahora exige que todos los proveedores y operadores de aplicaciones de IA promuevan dichas competencias. En el sector de la educación superior, esto ha llevado al desarrollo de cursos de autoaprendizaje y talleres presenciales, que se implementan tanto en universidades individuales como dentro de alianzas.
Aquí también es importante comprender que no todas las universidades tienen que hacerlo solas, ya que el contenido es de interés general. Las universidades no deberían depender exclusivamente de las ofertas de proveedores comerciales, ya que los conflictos de intereses podrían impedir el debate abierto sobre algunas cuestiones relacionadas con la IA.
Además, una lección importante extraída de la implementación práctica es que, en vista de los rápidos cambios y por razones de objetividad, estas ofertas no deberían estar orientadas a herramientas, sino que deberían proporcionar una comprensión de las características y los desafíos fundamentales y genéricos de la IA.
Al mismo tiempo, es importante no limitar las habilidades de los individuos al trabajo con la propia IA. Más bien, las universidades deben concienciar a su personal y a sus estudiantes sobre las competencias científicas y cómo desarrollarlas y aplicarlas, por ejemplo, el pensamiento crítico y la metodología de investigación. La enseñanza y el aprendizaje conscientes de estas competencias también forman parte de la soberanía de la IA en un sentido amplio.
Finalmente, la soberanía de la IA también requiere condiciones marco y estrategias claras para su uso en una institución. Esto incluye la aclaración de las cuestiones legales y la asignación de responsabilidades y procesos para la toma de decisiones en cuestiones relacionadas con la IA.
Si las universidades cuentan con una estrategia clara de IA, controlan la infraestructura crítica de IA y si los estudiantes y el personal son competentes en el manejo de la tecnología, estas instituciones podrán considerarse soberanas en materia de IA. Es urgente esforzarse por lograrlo.
