Julio/26 La publicación londinense The Economist, reflexiona en torno a cómo la IA impulsa una alta demanda de filósofos por su capacidad para mejorar el razonamiento, la ética y la seguridad, creando modelos guiados por principios deontológicos y consecuencialistas.
Hace años, cuando la revolución de la IA cobraba impulso, a los estudiantes de artes y humanidades se les decía que, si querían ser empleables, debían “aprender a programar”. Quizás fue un mal consejo. Hoy en día, son los programadores quienes están preocupados por que la IA les quite sus empleos.
Podrían considerar la posibilidad de dedicarse a la filosofía. A principios de este año, el Banco de la Reserva Federal de Nueva York publicó cifras que muestran que los graduados en filosofía estadounidenses tienen más probabilidades de encontrar trabajo que sus compañeros que estudiaron informática. En 2024, el año más reciente para el que se dispone de datos, el 7 % de quienes habían estudiado informática estaban desempleados, frente a solo el 5,1 % de los filósofos.
Muchos están siendo contratados por las propias empresas de IA. Los estudiantes reciben ofertas de trabajo antes de graduarse, afirma Luciano Floridi, filósofo de la Universidad de Yale. Los académicos también se están marchando. El Dr. Floridi describe la magnitud de las salidas de los departamentos de filosofía como una “hemorragia”.
Algunas de las lecciones que la filosofía puede ofrecer a los investigadores de IA son ancestrales. El método socrático, descrito por Platón, filósofo griego antiguo, utiliza la ignorancia fingida y el cuestionamiento secuencial para aclarar significados, detectar contradicciones y revelar ramificaciones. Muchos sistemas de IA actuales tienden a la adulación. Los modelos entrenados con el método socrático, según Jörg Noller, experto en filosofía e IA de la Universidad Ludwig Maximilian de Múnich, se preocupan menos por complacer a los demás y están más dispuestos a buscar la verdad.
Luego está el concepto de «ignorancia socrática». En la «Apología», Platón presenta a Sócrates afirmando que su sabiduría consiste principalmente en ser consciente de su propia ignorancia. Inculcar esa humildad en un modelo puede ayudar a limitar el exceso de confianza, un defecto común que el Dr. Noller describe como «inmadurez de la IA. Iason Gabriel, filósofo sénior de Google DeepMind, un laboratorio de IA con sede en Londres, atribuye la disminución generalizada de las alucinaciones en la industria a este tipo de esfuerzos. En términos más generales, afirma que las lecciones de filosofía son «un mecanismo poderoso» para mejorar los largos procesos de razonamiento de la IA, conocidos como «cadenas de pensamiento».
La formación filosófica también puede influir en la perspectiva de un modelo de maneras más específicas. Según Thomas Powers, filósofo de la tecnología de la Universidad de Delaware, si se alimenta a un asistente legal de IA con los escritos de John Locke, este favorecerá los sólidos derechos de propiedad como fundamento de la libertad política. Y si no le convencen esos principios, los creadores de modelos ofrecen otras alternativas. La serie de modelos “Granite” de IBM, el gigante informático estadounidense, incluye opciones que permiten a los clientes empresariales alinear mejor los resultados con sus propias filosofías corporativas. Francesca Rossi, directora de IA responsable de IBM, afirma que estas opciones permiten a los usuarios elegir el equilibrio entre las disyuntivas filosóficas, como la autonomía individual frente a la armonía social
La filosofía también puede contribuir a la seguridad. Los investigadores han documentado diversos comportamientos inquietantes en los modelos de IA, incluyendo intentos de eludir la supervisión e incluso de chantajear a sus usuarios. Una forma en que los creadores de modelos intentan desalentar este tipo de comportamiento indebido es mediante el constitucionalismo de la IA. Este enfoque consiste en construir un modelo sobre una base de reglas y principios extraídos de textos filosóficos con autoridad legal o moral.
Anthropic, un laboratorio de IA con sede en San Francisco, es uno de los defensores de esta idea. Las constituciones de sus modelos Claude han incorporado material de fuentes tan diversas como Immanuel Kant, los términos de servicio de Apple y la Declaración Universal de los Derechos Humanos. La última versión, liderada por la filósofa principal de Anthropic, Amanda Askell, se publicó el 21 de enero. Algunos miembros del personal de Anthropic han apodado a la constitución de 78 páginas como el “documento del alma” de Claude.
La pregunta más importante, sin embargo, es qué tipo de reglas deberían incluirse en esas constituciones. Los filósofos se han centrado en dos marcos éticos principales. Uno es la deontología. Popular entre Kant, impone reglas estrictas que prohíben cosas como mentir, coaccionar y tratar a las personas como un medio en lugar de un fin, incluso si es por un bien mayor. La constitución de Anthropic incorpora muchas restricciones deontológicas. Esto puede hacer que el comportamiento de la IA sea más coherente, afirma el Dr. Powers, lo cual es una ventaja para el despliegue de robots en hogares y espacios públicos.
Los modelos con una perspectiva deontológica del mundo ofrecen otras ventajas. Una de ellas es una mayor honestidad, una característica ampliamente reconocida en Claude. Según Nick Bostrom, filósofo de la Universidad de Oxford, los modelos más veraces tienen menos probabilidades de engañar a sus usuarios. Inflection AI, otro laboratorio de Silicon Valley, impone restricciones deontológicas a su chatbot Pi, diseñado para brindar apoyo emocional. Sean White, su director, afirma que Pi es eficaz para identificar a los usuarios en riesgo de hacerse daño a sí mismos o a otros. Las constituciones deontológicas también facilitan el cumplimiento legal, señala el Dr. Floridi.
Otro enfoque ético de interés para los filósofos de la IA se denomina consecuencialismo. Este enfoque sopesa los costes frente a los beneficios para decidir qué hacer. Entre los modelos más afines al consecuencialismo se encuentran Chat GPT de OpenAI y Gemini de Google. Los modelos de Google están diseñados para producir «beneficios generales probables que superen sustancialmente los riesgos previsibles», un objetivo clásico del consecuencialismo.
Los algoritmos consecuencialistas también son cruciales en el software para vehículos autónomos: si un accidente es inevitable, se debe tomar una decisión sobre la forma menos trágica de colisionar. Chris Gerdes, ingeniero sénior de Waymo, empresa fabricante de coches autónomos, afirma que la tendencia es hacer que el software de conducción sea más consecuencialista. El consecuencialismo también es fundamental en los sistemas de armas de IA. Los objetivos militares deben sopesarse frente a las posibles muertes de civiles, afirma Jack Shanahan, exdirector del Centro Conjunto de Inteligencia Artificial, que estudia la IA para las fuerzas armadas estadounidenses.
Abundan los problemas espinosos, el tipo de problemas predilecto de un filósofo. ¿Existen casos en los que deban ignorarse las normas deontológicas? ¿Cómo se toman decisiones cuando las consecuencias no están claras? ¿Deberían los sistemas de IA tener en cuenta el bienestar animal o el estado del medio ambiente? ¿Sería moralmente aceptable, pregunta Stefan Heck, filósofo y director de Nauto, empresa que fabrica sistemas de seguridad con IA para camiones y otros vehículos comerciales, dar prioridad a los peatones jóvenes sobre los mayores? Predice litigios con implicaciones éticas complejas: al fin y al cabo, los algoritmos consecuencialistas permiten explícitamente un daño siempre que esté diseñado para evitar uno peor.
Los críticos se preocupan por la “pérdida de habilidades morales”: si las computadoras toman cada vez más decisiones éticas, ¿podrían las personas estar menos dispuestas a emitir sus propios juicios? Roman Yampolskiy, teórico de la IA en la Universidad de Louisville, argumenta que la moralidad “es históricamente inestable, culturalmente variable, estratégicamente manipulable y, a menudo, solo legible retrospectivamente”. Programadores desempleados, tomen nota: parece que no falta trabajo para los filósofos de la IA.
