Junio/24 En esta ocasión, Cárdenas- Támara, observador de www.universidad.edu.co y director del Observatorio Iberoamericano de sociopolítica, cultura y ambiente U. de La Sabana, reflexiona sobre riesgos del uso irreflexivo de la IA.
Introducción
Los diversos programas y aplicaciones de IA son una tendencia mundial que se introdujo en el mundo con su lanzamiento en sociedad en el año 2022 con CHATGPT. En el mundo de los sistemas escolares y académicos, los estudiantes, profesores, administrativos y autoridades académicas lo vienen utilizando a la manera de un copiloto o coach para producir imágenes, escribir textos académicos, ensayos, e incluso la IA viene definiendo el camino a seguir para muchas instituciones y organizaciones del mundo. Propongo en este texto, reflexionar de manera general sobre algunos riesgos que implica la utilización irreflexiva de la IA, reconociendo de partida que es una dimensión tecnológica revolucionaria que viene transformando casi todas las dimensiones de la realidad humana.
Para introducir el tema como problema a reflexionar, pongo un ejemplo cotidiano para señalar los problemas éticos, morales y de sentido que puede estar planteando la IA en la vida cotidiana de todos nosotros.
Supongamos que un individuo XY está enamorado de un individuo XX. El individuo XY no sabe como seducir o cortejar a la niña y un día decide apoyarse en una de las tantas aplicaciones de inteligencia artificial. Digamos que usa CHATGPT. Le pegunta: ¿Quiero enamorar a una chica llamada XX, dime que tengo que decirle para empezar?
Las variantes al ejercicio pueden ser infinitas.
La respuesta que brinda es la siguiente:
<<Para empezar, podrías decirle algo como: “Hola XX, he querido decirte que siempre me ha parecido que tienes una sonrisa increíble y me encantaría conocerte mejor. ¿Te gustaría salir a tomar un café juntos?”>>.
Un sencillo ejemplo que puede parecer inocuo, que nos plantea preguntas morales y éticas que todavía no hemos respondido.
El proceso en mención continúa, el chico se mete de lleno con la IA para continuar su proceso de cortejo, a mediano plazo todo en su vida se lo pasa a controlar la IA:
La seducción continúa:
−Hazme un poema que enamore a XX.
ChatGPT responde:
<<En el jardín de tu mirada brillante, se encuentran las flores de la ilusión. Cada pétalo es un suspiro constante, cada verso, una declaración de pasión.
En tu sonrisa encuentro mi alivio, en tus ojos, mi guía y mi destino. Eres el sol que ilumina mi camino, la melodía que calma mi desvarío.
XX, como la luna en la noche estrellada, tu presencia llena de magia mi existir. En cada latido, eres mi balada, en cada palabra, mi razón de vivir>>.
Supongamos que el proceso continúa y el individuo XX termina enamorándose de XY. Todo es piloteado con IA.
El proceso de su vida, en una condición inédita en la historia humana lo determina la I.A.
¿Qué tenemos?
- No hay creatividad alguna.
- Hasta cierto punto es un engaño.
- Todo sentido de la autenticidad se pierde.
- Se termina replicando un proceso condicionado por la máquina.
- Se configura un engaño hacia XX y un autoengaño de XY.
- Toda la relación se basa sobre la artificialización de la interacción, cuyo protagonista de fondo es la IA.
- A largo plazo se descubren las herramientas utilizadas y la mentira malogra tanto a XX como a XY.
Con este pequeño ejemplo, corto y esquemático, pero ilustrativo se nos plantea un serio problema de orden ético y moral que ejemplifica situaciones para las cuales no estamos preparados y que tendrá unas consecuencias en el micro, meso y macrosistema.
Si escalamos el ejemplo al ámbito de una institución el efecto puede llegar a ser aún más grave. Estaríamos situados en lo que defino como la muerte de la idea institucional.
La muerte de la idea institucional
La institución universitaria, en sus diversas modalidades y tradiciones responden a un carisma fundacional que define su horizonte de vida y sentido. Como todos sabemos hay diversos tipos de universidades y la diversidad de organizaciones universitarias han aumentado en las últimas dos décadas. Tenemos universidades a distancia para adultos (paradójicamente no reconocidas por el Estado y las universidades tradicionales en Colombia), universidades académicas tradicionales, universidades nómadas, politécnicos presenciales y remotos, universidades académicas en conversión hacia politécnicos, universidades de investigación, universidades de docencia, etc (El listado es más amplio). En fin, la organización universitaria en un mundo globalizado e internacionalizado esta hoy condicionada por fuerzas externas e internas que afectan la fidelidad al carisma original. Algunas universidades cambian su orientación sin detenerse a pensar muy en serio sobre su carisma, son organizaciones que buscan adaptarse muy rápidamente a las fuerzas del mercado y a las demandas del mundo globalizado. Su memoria institucional puede pensarse como muy débil, por un lado, no tienen mucha historia o la memoria histórica se ha erosionado, dada la rapidez del cambio cultural que viene experimentando el mundo académico en las últimas dos décadas. Por otro lado, sus anclajes institucionales son débiles, incluso aun cuando sean leídas como organizaciones impecables a la luz de los procesos de calidad total o acreditación.
La muerte de la idea institucional implica una fuerte ruptura con la historia, la identidad, el carisma y la tradición universitaria. Se diluye la memoria histórica sobre el sentido misional, que en el horizonte de la civilización occidental tiene un fuerte sentido de lucha, de tragedia y realismo. La universidad es un faro que ilumina desde un sentido plural, la existencia y la experiencia de quienes pasan por el claustro. La Universidad tiene su origen en los claustros y monasterios. En ellos además de orar, se enseñaban cosas prácticas y oficios que beneficiaban a toda la comunidad. La comunidad universitaria se forja en el ser y en el hacer. Fija orientaciones de vida, cuya experiencia de orden es única para quienes tienen el privilegio de acceder a esta institución. Con el desarrollo de la teoría organizacional, la institución universitaria gana y se acoge a la optimización que brinda la teoría organizacional, cuyas diversas escuelas, fijan derroteros de manejo administrativo que buscan garantizar su ideal institucional de permanecer en el tiempo y de constituirse en empresas de larga duración. Hablo de universidades como empresas de larga duración, condición que está en la base de otras instituciones que hoy están en crisis: el matrimonio, la familia, la patria, la iglesia.
La universidad es una dimensión constructora de identidades personales, institucionales y organizacionales desde anclajes reflexivos y críticos. Una universidad nos prepara profesionalmente para ejercer una carrera, un postgrado o un doctorado, pero además y fundamentalmente configura identidades personales, en unión a otras instituciones, según el criterio misional y carismas propio de su historia. No hablo de la historia como la expresión fosilizada de una organización. Hablo de la historia como la memoria viva que nutre e inspira a la organización. La crisis de la civilización occidental es una crisis de sus instituciones, muchas de las cuales perdieron el rumbo, erosionaron sus principios o simplemente claudicaron y perdieron sus ideales fundacionales.
La universidad contemporánea podría pensarse como una institución hoy amenazada por los discursos de la eficiencia y la rapidez, estado hiperinflacionario que pueden estar generando y escalando tecnologías como la IA. Terminamos definiendo marcos misionales, a la manera del chico que quiere enamorar a la muchacha de su curso, ejemplo con el que iniciamos este texto, y el efecto es un engaño y un autoengaño social como una hiperinflación de nuestra identidad institucional, que poco a poco se distorsiona, obligándonos a decir y a afirmar cosas que no somos y que dadas las condiciones actuales tampoco podemos realizar. Pasamos a vivir en una mentira que nos genera un discurso artificial y estereotipado sin referencia alguna a prácticas sociales discursivas, que están en la base del análisis discursivo, es decir el texto no se puede comprender sin el contexto y el campo de lo social.
¿Qué efectos tenemos? Pérdida de la identidad, deshumanización y delirio fanfarrón. Estas expresiones pueden definir lo que puede pasar en una institución, organización o en identidades personales que terminan abusando de la IA. El diálogo humano se cancela y termina primando el utilitarismo, el manoseo egoísta y la falacia hipócrita de la mentira. Todo termina girando sobre los enunciados y las buenas intenciones seductoras de la máquina que pasa a ser un semidios o demiurgo.
Me parece que estas ideas son las que explican las palabras alarmantes que Noam Chomsky, junto con Ian Roberts and Jeffrey Watumull publicaran en el New York Times en marzo de 2023. Nos recuerdan que la inteligencia ha sido siempre un medio para resolver problemas. En ese sentido, la AI puede entenderse como la extensión tecnológica y científica de la técnica humana y por lo tanto comprenderse a la luz de la evolución cultural del hombre, lo cual es absolutamente loable, racional y comprensible. Ese no es el problema. Para ellos el foco de atención es que <<tememos que la distorsión más popular y de moda de la inteligencia artificial, el aprendizaje automático, degrade nuestra ciencia y degrade nuestra ética al incorporar en nuestra tecnología una concepción fundamentalmente defectuosa del lenguaje y el conocimiento>>.
En un medio como el nuestro, cuyo desarrollo científico y académico es tan incipiente, la anterior afirmación de uno de los más importantes lingüistas del siglo XX-XXI puede parecer como irrelevante para muchos académicos que puede decirse le entregaron su alma a la IA. Chomski, como padre de la lingüística generativa, contribuyó con sus investigaciones al avance de los estudios del lenguaje y sus hallazgos en parte hacen parte de la consolidación disciplinar en el campo de las ciencias sociales que permitieron el desarrollo de la IA. Estamos ante una figura de referencia en el campo de la semiótica y la lingüística mundial. Sus afirmaciones emanan de uno de los grandes personajes de la ciencia contemporánea, son palabras e ideas que merecen atención. No es un culebrero oportunista que pasa a hablar de IA de la noche a la mañana para viaticar por el mundo hablando de IA sin tener ninguna preparación lingüística, neurocientífica o antropológica. Hablo del Chomski científico, no del activista.
¿Qué es la inteligencia artificial? En el texto citado en el New York Times, Chomsky, Roberts y Watumull (2023) nos brindan la siguiente síntesis:
A grandes rasgos, toman grandes cantidades de datos, buscan patrones en ellos y se vuelven cada vez más competentes en la generación de resultados estadísticamente probables, como el lenguaje y el pensamiento aparentemente humanos. (“(PDF) La falsa promesa de ChatGPT – Academia.edu”) Estos programas han sido aclamados como los primeros destellos en el horizonte de la inteligencia artificial general, ese momento profetizado desde hace mucho tiempo en el que las mentes mecánicas superan a los cerebros humanos no solo cuantitativamente en términos de velocidad de procesamiento y tamaño de la memoria, sino también cualitativamente en términos de perspicacia intelectual, creatividad artística y cualquier otra facultad distintivamente humana.
La crítica que hacen se apoya en Borges y en Wilhelm von Humboldt como maestros de la palabra, nociones que apelan al empalabramiento, concepto rico que nos recuerda que el lenguaje está en la base de la cultura humana, y expresa el esplendor de la conciencia, la experiencia y el hacer, que no podemos irresponsablemente cederle totalmente a procesos de generación de conocimiento artificial. Una hipervaloración de IA lo que implica es la ruptura con las cadenas de producción semiótica que están en la base de la creatividad humana. La noción de semiosis, como cadena infinita de producción de sentido se diluye y atrofia, lo que implica lo ruptura con la generación de ideas y teorías. Es decir, se ratifica la muerte de la idea institucional. Para quienes hemos participado en procesos de investigación participativa educativa y comunitaria, el esfuerzo y trabajo que implica dialogar, visitar, explorar comunidades, sistematizar sus conocimientos, como los conocimientos propios del investigador a la luz del método etnográfico propio de la antropología, se diluye ante la inmediatez de “datos”, “argumentos”, “propósitos”, “imágenes”, “presentaciones” y discursos que arma la IA en cuestión de minutos descrestando al auditorio. Los resultados aparentemente tan buenos, pueden llevarnos a experimentar y a vivir situaciones donde nuestros estudiantes definen −como nunca antes había sucedido− sus objetivos de investigación de la noche a la mañana; ya experimentamos situaciones donde todos los profesores quedamos “descrestados” con el anteproyecto que leemos, pero que el estudiante es incapaz de explicar cuando se le pide que lo haga o lo ejecute. Muy bien, −le decimos al estudiante−ahora póngalos en práctica. Y resulta que le es imposible, dado que el output que le generó la máquina, en el fondo no le dice nada y no entiende como va a ejecutar esos objetivos, que no son ni imágenes mentales ni ideas en su mente como tampoco en su expresión manual o apropiación corporal.
La mente humana no funciona como CHAPGPT. La mente humana, en su enorme diversidad personal y neurológica tiene atributos que hoy son desconocidos e ignorados por IA y cuya estructura de programación por asombrosa, que sea no dialoga a la luz de una teoría educativa, ni con las neurociencias y tampoco con la neuro didáctica. Somos seres excéntricos que podemos demorar nuestras respuestas. Y finalmente optar por la huida, la libertad y la creatividad silenciosa, no necesariamente productiva. La explosión inflacionaria de la IA, herramienta que bien utilizada tiene sus campos de aplicación y nos puede ayudar mucho a resolver problemas, puede terminar convirtiendo en máquinas a los operarios de la empresa. Condición real que desfigura completamente a una universidad e incluso es un riesgo para toda la educación en los sistemas escolares, donde los nuevos “expertos” en educación, muchos de ellos, sin base académica alguna en el campo de las neurociencias, la lingüística o la semiótica, terminan imponiendo sus modelos institucionales, con afectaciones cognitivas en los procesos que acontecen en la primera infancia, la educación media, el bachillerato y la formación universitaria. Lo afirman con claridad Chomsky, Roberts y Watumull (2023): “El sistema operativo del niño es completamente diferente al de un programa de aprendizaje automático”.
Sigamos con los ejemplos. Supongamos que la conversación humana, tal como lo señalan los trabajos de Roger Scruton, basados en el conocimiento de la antropología, es el campo emergente más importante de lo humano. Es decir, la conversación y el lenguaje son instituciones universales presentes en todas las culturas humanas desde la diversidad lingüística y de cosmovisiones. A lo largo de la historia del homo sapiens sapiens, probablemente verificable también entre nuestros hermanos los homo neandertalensis, e incluso presente en otros homos, la palabra, adornada y anclada de cotidianidad, ciencia y mitopoemas es la primera institución humana. La conversación entre amigos, comunidad, enemigos, culturas, civilizaciones y parientes no siempre tiene tema definido. Empezamos a conversar sobre A, y el diálogo nos lleva a terminar hablando de C o creando un mitema nuevo que no hacia parte del horizonte gramatical propuesto, es decir, generando nuevo conocimiento. Estoy refiriendo un caso de autenticidad conversacional. Lo que llamamos una auténtica conversación entre amigos.
Cuando se introduce la inteligencia artificial, como actante principal de la conversación, se pierde toda autenticidad y la conversación termina marcada por la hiperinflación cognoscente y la artificialidad. Todo posible proceso social como cultural, al igual que el diseño institucional se diluye. La IA en manos de un dictadorzuelo de turno puede ser una herramienta de control y enajenación muy sofisticada.
Como somos seres falibles estamos abiertos a la equivocidad. Nos podemos equivocar y demorar en el proceso de creación, cualquiera que sea. Es mejor ser demorado en muchas circunstancias de la vida. El machine learning, dependiendo de quien lo use, puede terminar hackeando toda la espontaneidad institucional, borrando la historia, la memoria institucional y la tradición propia de la universidad. El conocimiento que genera la maquina es superficial, en el fondo puede terminar operando dentro de la cadena mimética del engaño. El efecto final, es el isomorfismo institucional, condición que ha sido estudiada en el campo teórico del análisis neoinstitucional desde hace por lo menos 20 años.
El isomorfismo institucional implica que todas las instituciones educativas se terminan pareciendo las unas a las otras. Estado y condición que puede terminar explosionando con la IA. Como ironía, nos encontraríamos con que la Universidad de los Andes se terminaría pareciendo en su proyecto educativo institucional a la Universidad Nacional, y viceversa; y ambas reflejando el proyecto educativo de la Universidad de Harvard. Con una pequeña diferencia: sólo el departamento de ciencia política de la U. de Harvard tiene unos 300 profesores de planta. O su departamento de salud pública maneja un presupuesto superior al del departamento de Antioquia y de otros departamentos de Colombia. Pequeño detalle. El proceso no será nunca tan lineal, ya que los humanos que están al frente de la tarea, van a decorar y a enmascarar los resultados con etiquetas propias que darán la impresión de cierto aire de autonomía y autenticidad. Todos terminamos estandarizados y homogenizados por el hecho de haber mordido irresponsable y acríticamente el anzuelo de “desarrollo” de la IA.
Estamos experimentando una tendencia global que se ha disparado con el movimiento de la industria académica mundial. Entonces, como no tenemos nada interesante que decir, que sea la maquina la que defina mi agenda, la que nos pilotee (nuestro copilot o coach). No nos percatamos que, en su historia programática, toda agenda se desprende de una crescenda (creencia), por lo tanto, la muerte institucional implica que la agenda ya no se construye sobre la crescenda. La crescenda desaparece. Se erosiona el sentido de nación, como de civilización, en el sentido de esplendor de la cultura humana. No hay proyectos institucionales o apuestas de largo aliento. Creo que estamos en el campo de los estudios coloniales o postcoloniales. Mucho tendríamos que aprender de ese campo del conocimiento aplicado a lo que viene sucediendo con los usos irresponsables de la IA en los sistemas educativos. Como sociedad responsable y como organizaciones que aspiran a la virtud, nos tocará implantar, y el Estado tiene que ser un abanderado de ello, normas que le permitan definir al lector y al consumidor, si los procesos a los que hace referencia el autor, la institución o la organización fueron ellos, creados y preguntarles en ¿qué porcentaje se utilizó IA? Como el sistema ha sido hackeado, se tiene que regular la esfera de la nueva dimensión emergente de la IA; se hace fundamental la transparencia y exigirles a personas e instituciones, como ya viene haciendo Amazon Kindle, que declaren en el marco de derechos de propiedad, si como autores sus libros son creaciones propias o elaboraciones surgidas mediante la IA. George Orwell afirmaba en una de sus obras proféticas y críticas una idea que tiene mucha vigencia: “En una época de engaño universal decir la verdad es un acto revolucionario”.
