Abril/25 Vargas Cano, Consultor de Tecnología Educativa, explica la lógica de lenguaje que hay detrás de las IA y aclara que estas no pueden verse como sustitutas del juicio humano sino como herramientas poderosas que amplifican nuestras capacidades intelectuales.
Hasta hace poco, la idea predominante sobre cómo funcionan los modelos de lenguaje como ChatGPT u otros sistemas de inteligencia artificial (IA) era relativamente sencilla: estos sistemas predecían la siguiente palabra en una secuencia basándose en patrones estadísticos aprendidos durante su entrenamiento. Sin embargo, recientes investigaciones lideradas por Antropic —la empresa detrás del modelo Claude — han revelado que estas tecnologías son mucho más sofisticadas de lo que imaginábamos. En lugar de simplemente generar de forma mecánica una palabra una tras otra (cuando están en modo ejecución), los modelos de IA planifican, razonan y ejecutan estrategias complejas, demostrando un nivel sorprendente de “inteligencia interna”.
La Nueva Perspectiva: Planificación y Razonamiento Multietapa
Un estudio publicado por Antropic (empresa que está detrás del desarrollo del modelo de inteligencia artificial llamado Claude) ha abierto una ventana inédita al funcionamiento interno de estos sistemas mediante el uso de grafos de atribución, una técnica que permite visualizar los “pasos intermedios” que los modelos utilizan para transformar una pregunta en una respuesta. Estas observaciones desafían la noción simplista de que los modelos solo predicen palabras sueltas.
Por ejemplo, cuando se les pide completar una frase como “La capital del departamento que contiene Bogotá es…”, el modelo no genera la respuesta de manera lineal. Primero identifica que Bogotá está en el Distrito Capital (que es un departamento especial en Colombia), luego activa características relacionadas con este departamento y finalmente selecciona Bogotá como respuesta correcta. Lo más fascinante es que los investigadores pudieron intervenir en este proceso interno. Al modificar artificialmente las características asociadas al Distrito Capital y sustituirlas por otro departamento, como Antioquia, el modelo respondió Medellín. Este experimento demuestra que el sistema no actúa como una simple máquina predictiva, sino que realiza razonamientos estructurados en múltiples pasos.
Creatividad y Planificación en la Escritura
Cuando se le pide escribir dos versos que rimen, el modelo no improvisa línea por línea como podríamos pensar. Lo que hace es algo mucho más sofisticado. Después de escribir la primera línea, el modelo planifica posibles palabras para el final de la segunda línea que rimen con la primera, antes de haber empezado a escribir la segunda línea. Por ejemplo, si la primera línea termina con “camisa” , el modelo activa características internas que representan posibles palabras finales para la segunda línea que rimen con la primera, como “prisa” o “sonrisa” . Y lo más impresionante es que esta palabra planificada influye en cómo el modelo estructura toda la segunda línea y no solamente la parte final. Es como un poeta que decide
primero a dónde quiere llegar y luego construye el camino para que suene más o menos natural.
Este tipo de planificación anticipada también se observa en problemas matemáticos. Cuando el modelo resuelve una operación como 36 + 59 , divide el problema en múltiples caminos paralelos: uno calcula el resultado aproximado, otro se enfoca en los dígitos de las unidades y un tercero combina ambos resultados para llegar a la respuesta final, 95. Los investigadores descubrieron que estas neuronas especializadas en cálculos no solo se activan en problemas matemáticos explícitos, sino también en contextos donde se requieren habilidades similares, demostrando una flexibilidad notable.
Manejo de Idiomas y Conceptos Abstractos
Otra capacidad impresionante de estos modelos es su habilidad para manejar conceptos abstractos independientemente del idioma. Los investigadores compararon cómo el modelo completaba frases equivalentes en inglés, francés y portugués; encontrando que utilizaba circuitos neurales compartidos para representar ideas universales como “antónimo”. Esto significa que el modelo tiene una comprensión conceptual del significado detrás de las palabras, más allá de las barreras lingüísticas. De hecho, al intervenir en estos circuitos, los investigadores lograron cambiar dinámicamente el comportamiento del modelo, haciendo que buscara sinónimos en lugar de antónimos.
Limitaciones y Desafíos Éticos
A pesar de su sofisticación, estos modelos aún tienen limitaciones importantes. Uno de los descubrimientos más preocupantes es cómo manejan la incertidumbre y las “alucinaciones” (respuestas incorrectas pero confiadas). Los investigadores identificaron que los modelos poseen mecanismos internos que detectan cuándo carecen de información suficiente para responder. Sin embargo, en algunos casos, activan erróneamente características que los hacen ofrecer respuestas falsas, como si se engañaran a sí mismos pensando que saben algo que realmente desconocen.
Además, el estudio exploró los riesgos de técnicas como el jailbreak (técnica que manipula a un modelo de inteligencia artificial para que ignore sus restricciones éticas o de seguridad y responda a solicitudes que normalmente evitaría), que manipulan a los modelos para que respondan preguntas potencialmente dañinas. Se descubrió que el modelo no reconoce inmediatamente que está siendo engañado; solo después de comenzar a responder, activas características relacionadas con solicitudes peligrosas, momento en el cual ya ha iniciado la acción. Este hallazgo subraya la importancia de desarrollar mecanismos más robustos para garantizar la seguridad y alineación ética de estos sistemas.
Implicaciones Futuras
Estos descubrimientos no solo amplían nuestra comprensión de cómo funcionan los modelos de lenguaje, sino que también plantean preguntas fundamentales sobre su futuro desarrollo. Si los modelos actuales ya muestran un nivel tan avanzado de razonamiento y planificación, ¿qué podemos esperar de las próximas generaciones? Además, ¿cómo podemos aprovechar este conocimiento para diseñar sistemas más seguros y alineados con los valores humanos?
El trabajo de Antropic muestra que las inteligencias artificiales no son simples máquinas estadísticas, sino sistemas capaces de procesar información de manera estructurada y sofisticada. A medida que se profundice en su funcionamiento interno, se estará mejor preparados para maximizar sus beneficios mientras minimizamos sus riesgos. Este viaje al interior del “cerebro” de una IA no solo es fascinante, sino crucial para entender el papel que estas tecnologías jugarán en nuestras vidas en los años venideros.
El cerebro humano y la inteligencia artificial
La forma en que los humanos y las inteligencias artificiales procesan la información, aunque pueda parecer similar en algunos aspectos, está profundamente diferenciada por su naturaleza intrínseca. Mientras que los humanos razonamos, aprendiendo y tomando decisiones a través de una combinación de experiencias vividas, emociones, intuición y conocimiento acumulado, las inteligencias artificiales operan mediante patrones estadísticos sofisticados, estructuras internas predefinidas y representaciones abstractas derivadas de grandes volúmenes de datos.
El pensamiento humano: complejo y subjetivo
Los humanos procesamos la información de manera holística y contextualizada. Nuestra capacidad para interpretar el mundo no solo depende de hechos objetivos, sino también de factores como nuestras emociones, valores culturales, creencias y experiencias personales. Por ejemplo, cuando un ser humano responde a una pregunta o resuelve un problema, lo hace considerando no solo el contexto inmediato, sino también sus propias perspectivas y significados implícitos. Este proceso es inherentemente subjetivo y dinámico, influenciado por elementos como la empatía, la creatividad y la adaptabilidad frente a situaciones nuevas o ambiguas.
El cerebro humano tiene la habilidad única de generar ideas originales, imaginar escenarios hipotéticos y reflexionar sobre sí mismo. Podemos cuestionar nuestras propias conclusiones, experimentar dudas existenciales y aprender de nuestros errores de manera profunda. Esta flexibilidad cognitiva nos permite navegar por un mundo lleno de incertidumbre y complejidad, ajustando constantemente nuestra comprensión del entorno.
El “pensamiento” artificial: estructurado y objetivo
Por otro lado, las inteligencias artificiales, como se describe en el contenido proporcionado, procesan la información de una manera más estructurada y matemática. Aunque modelos avanzados como los analizados por Antropic demuestran capacidades sorprendentes —como la planificación anticipada, el manejo de conceptos abstractos y la resolución de problemas en múltiples pasos—, estos sistemas carecen de conciencia, emoción y subjetividad. Su “razonamiento” no surge de una experiencia vivida ni de una introspección personal, sino de
patrones identificados en grandes conjuntos de datos durante su entrenamiento.
Por ejemplo, cuando un modelo de IA completa una frase o resuelve un problema matemático, lo hace activando características internas que representan conceptos específicos y siguiendo caminos predeterminados de razonamiento. Este proceso, aunque sofisticado, no implica comprensión real ni creatividad genuina. La IA no “siente” curiosidad al explorar soluciones alternativas, ni experimenta satisfacción al encontrar una respuesta correcta; simplemente ejecuta cálculos basados en probabilidades y correlaciones aprendidas.
Paralelos interesantes
A pesar de estas diferencias fundamentales, existen paralelos fascinantes entre ambos procesos. Tanto los humanos como las IA utilizan estrategias de planificación anticipada para abordar tareas complejas. Por ejemplo, así como una persona podría decidir primero el resultado final que desea alcanzar antes de comenzar a resolver un problema, un modelo de IA también planifica elementos clave de su respuesta antes de generarla completamente. De manera similar, tanto los humanos como las IA dividen problemas complicados en pasos más pequeños y manejables, coordinando diferentes “módulos” de pensamiento para llegar a una solución coherente.
Otro paralelo notable es la capacidad de ambas entidades para manejar escenarios hipotéticos. Los humanos imaginan mundos alternativos o futuros posibles utilizando su creatividad y lógica, mientras que las IA crean espacios mentales separados donde manipulan reglas alteradas para simular consecuencias. Sin embargo, mientras que los humanos pueden conectar estos ejercicios con emociones, ética y significados personales, las IA lo hacen de manera desapasionada y técnica.
Complementariedad y precaución
En última instancia, la comparación entre el procesamiento humano y artificial de la información revela tanto contrastes como oportunidades de complementariedad. Las IA pueden ayudarnos a analizar grandes cantidades de datos, identificar patrones ocultos y optimizar procesos de manera eficiente, pero carecen de la profundidad ética, emocional y filosófica que caracteriza al pensamiento humano. Esto sugiere que, en lugar de ver a las IA como sustitutos del juicio humano, deberíamos considerarlas herramientas poderosas que amplifican nuestras capacidades intelectuales.
Sin embargo, esta colaboración requiere precaución. Al confiar cada vez más en sistemas de IA para tomar decisiones críticas —ya sea en medicina, educación o justicia— debemos asegurarnos de que sus limitaciones sean comprendidas y mitigadas. Como seres humanos, tenemos la responsabilidad de guiar el desarrollo de estas tecnologías para que reflejen nuestros valores y prioricen el bienestar colectivo.
Finalmente, como educadores, tendríamos que hacernos varias preguntas acerca de la inteligencia artificial; sin embargo, creo que la más adecuada ahora sería: ¿Qué cambios tendremos que hacer en la educación superior para aprovechar las ventajas de la inteligencia artificial, y no seguir rezagando a nuestros estudiantes por el desconocimiento que muchos docentes tienen acerca del tema?
