Por qué la filosofía y Odiseo son clave para entender los límites éticos de la IA
Mientras empresas como OpenAI y Anthropic contratan filósofos para diseñar constituciones éticas, la frónesis aristotélica y el viaje de Odiseo muestran por qué ninguna máquina puede reemplazar el juicio humano en contextos de incertidumbre moral.
La inteligencia artificial genera incertidumbre económica, laboral y educativa. Pero hay un dato paradójico: mientras amenaza ciertos empleos, rescata a la filosofía de su histórica precariedad. Empresas como DeepMind, Anthropic y OpenAI contratan masivamente a filósofos para diseñar “constituciones éticas” que controlen modelos de inteligencia artificial.
The Economist señaló recientemente que los filósofos tienen una tasa de desempleo del 5% frente al 7% de los ingenieros informáticos. ¿Qué rol puede tener la filosofía en las nuevas tecnologías?
En ética se suelen distinguir dos marcos principales. El deontológico, inspirado en Kant, impone reglas absolutas: no mentir, no coaccionar, respetar la dignidad humana. El consecuencialista o utilitarista, en cambio, sopesa costos y beneficios para maximizar el bienestar general. Anthropic ha incorporado elementos kantianos y la Declaración de Derechos Humanos en la “constitución” de su modelo Claude, mientras que OpenAI y Google diseñan sistemas que buscan “beneficios que superen significativamente los riesgos previsibles”.
Pero existe un tercer marco que escapa a todo algoritmo: la ética de la virtud, centrada en el carácter. No aplica reglas universales ni calcula consecuencias óptimas, sino que busca desarrollar virtudes como la prudencia, la compasión o el coraje. Las virtudes son esenciales para enfrentar situaciones dilemáticas donde ninguna fórmula sirve.
Imaginemos una conversación difícil con un hijo: la honestidad absoluta puede ser cruel, pero la mentira resulta deshonesta. La virtud está en el equilibrio contextual. Charles Darwin lo entendió en 1838 cuando hizo una famosa lista de pros y contras del matrimonio. Pese a su intención racional, pronto se dio cuenta de que el casamiento no es un cálculo factible porque sus consecuencias son radicalmente inciertas.
Este es el problema de pedirle a una IA que decida si uno debería casarse. Durante treinta años, la economía conductual criticó al homo economicus revelando sus sesgos cognitivos. Sin embargo, Aristóteles, hace más de 2000 años, ofreció una alternativa: la frónesis, la sabiduría práctica para juzgar bien en contextos inciertos.
La frónesis no aplica reglas universales y permite distinguir entre virtudes en tensión, como la compasión y la justicia, o la honestidad y la amabilidad. Tomar decisiones en este marco exige experiencia de vida, algo que una máquina no puede acumular porque no experimenta, no envejece, no siente vergüenza ni arrepentimiento.
La Odisea, recientemente llevada al cine por Christopher Nolan, es una escuela de frónesis. Odiseo navega la incertidumbre radical sin fórmulas ni algoritmos. Enfrenta dilemas que lo obligan a ejercer diferentes tipos de racionalidad.
A veces aplica el cálculo lógico puro. Circe le advierte que debe elegir entre Escila y Caribdis. Odiseo hace un cálculo de pérdida esperada: mejor perder seis hombres que arriesgar toda la tripulación. Otras veces, su humanidad lo traiciona. Tras cegar al cíclope Polifemo y escapar como “Nadie”, no resiste la tentación de gritar su nombre real. Ese acto de orgullo le cuesta diez años de viaje: un claro fracaso de prudencia.
Otra aventura estudiada por la economía conductual es la de las sirenas. Odiseo ordena a sus hombres taparse los oídos con cera y se ata al mástil para escucharlas sin sucumbir. El truco no funciona como esperaba: sufre enormemente y solo desea que termine.
También se aparta de la racionalidad pura cuando rechaza la inmortalidad que le ofrece la ninfa Calipso. Elige una vida mortal, con esposa, hogar y muerte segura. Ningún algoritmo de maximización de placer elegiría esa opción. Odiseo decide según un juicio sobre qué tipo de vida vale la pena vivir. Eso es frónesis.
La virtud es el hábito de actuar según una razón práctica, no lógica. Se cultiva mediante repetición, aprendizaje y relación con otros. Cuando actuamos virtuosamente, experimentamos eudaimonía: una vida plena y significativa.
En un mundo gobernado por algoritmos, la filosofía de la frónesis nos ayuda a reconocer cuándo no debemos confiar en ellos. Estamos acostumbrados a ver las limitaciones técnicas de la IA generativa, pero más importante es desarrollar sabiduría sobre cuándo su uso resulta moralmente corrosivo.
El auge de los filósofos en empresas de IA no es casualidad. Es el reconocimiento de que la inteligencia verdadera requiere frónesis. Actuar según este viejo arte en tiempos de certeza artificial significa saber cuándo confiar en nosotros mismos, cuándo desconfiar de los números y cuándo elegir la incertidumbre. Eso es, precisamente, lo que significa ser humano.