Cuentan los viejos marineros de la Costa da Morte, ese extremo del mundo donde los romanos creían que el sol se hundía cada noche en el océano, que hubo una vez un farero que sabía escuchar al viento. No necesitaba brújulas ni mapas: le bastaba con salir cada amanecer a la galería del faro y cerrar los ojos.
Decía que cada viento traía un mensaje distinto:
- El viento del norte era seco y áspero, y soplaba con el tono de los hombres que tienen miedo.
- El viento del oeste llegaba cargado de rumores del mar abierto: voces de barcos perdidos, noticias de guerras y naufragios lejanos.
- El viento del sur era cálido y dulce, como si trajera consigo una promesa: “aguanta, que la calma volverá”.
Durante años, aquel farero cuidó su luz como quien cuida un corazón. Nunca dejó que la lámpara se apagara, ni siquiera cuando el mar golpeaba los cristales y el faro temblaba como un viejo enfermo de Parkinson en uno de esos desguaces residenciales modernos.
Decía que la luz no pertenecía a él, sino a los que aún buscaban el camino.
En los tiempos en que el mundo era joven, los fareros eran los guardianes del rumbo. Su luz no era solo técnica: era una promesa de humanidad, una presencia en medio del caos del mar. Hoy, nuestros faros se llaman satélites, El GPS nos guía con precisión milimétrica, pero sin voz, sin duda, sin alma. Nos orienta, sí, pero ya no nos acompaña.
Ya no hay fareros, ni lámparas que cuidar, ni vientos que interpretar. Solo sistemas que “saben” a dónde ir. Pero quizá, como aquel farero gallego, necesitamos volver a escuchar el viento: la voz de la duda, del discernimiento, del alma.
Porque los algoritmos pueden guiarnos, pero no pueden juzgar el sentido de nuestro viaje.
La Ética es ese faro que no emite coordenadas, sino claridad interior. Y aunque la luz sea ahora digital, la responsabilidad de mantenerla encendida sigue siendo humana. Como aquella lámpara del farero, es lo que necesitamos mantener encendida en medio del oleaje digital. Porque la Inteligencia Artificial puede calcular el camino más corto, pero solo nosotros podemos decidir si ese camino conduce al bien.
Así como aquel farero de Finisterre escuchaba el viento para orientar a los navegantes, la Ética nos invita a escuchar algo más profundo que la técnica: la voz del bien. Como faro antiguo, Aristóteles en su Ética a Nicómaco nos enseñó que la virtud no se encuentra en los extremos, sino en el justo medio: el equilibrio entre el exceso y la carencia, entre el impulso y la razón. La virtud, decía, es habituarse a elegir bien. Esa idea, que parece antigua, es más urgente que nunca en la era de la Inteligencia Artificial.
Vivimos rodeados de sistemas que deciden por nosotros: nos recomiendan qué leer, qué comprar, qué ruta tomar, incluso con quién relacionarnos mediante apps de citas. Los algoritmos son los nuevos vientos del mundo digital; soplan en direcciones invisibles, moviendo nuestras decisiones sin que apenas lo notemos.
Pero Aristóteles no hablaba de seguir el viento, sino de educar el carácter para dominarlo. La Ética, para él, no era un conjunto de normas, sino una práctica diaria de discernimiento: saber cuándo detenerse, cuándo avanzar, y por qué hacerlo.
Si aplicamos esa idea a la Inteligencia Artificial, el problema no está en que las máquinas “piensen”, sino en cómo nosotros elegimos orientar esa capacidad.
Los sistemas de IA aprenden de datos: patrones, números, correlaciones. Pero Aristóteles habría dicho que el bien no se encuentra en los datos, sino en la finalidad de la acción. Toda acción humana, decía, tiende hacia un fin (telos), y el más alto de esos fines es la eudaimonía: la plenitud alcanzada por medio de la virtud.
Entonces, nace la pregunta: ¿Qué es el “bien” para una Inteligencia Artificial? ¿Optimizar una tarea? ¿Reducir costes? ¿Predecir con precisión? Y, sobre todo, ¿qué ocurre cuando ese “bien técnico» entra en conflicto con el bien humano: la justicia, la empatía, la dignidad… La IA, en su lógica matemática, carece de propósito moral. Puede calcular millones de rutas, pero no sabe qué destino vale la pena alcanzar.
En la Ética clásica, cuando alguien actuaba mal, el juicio recaía sobre la intención. Aristóteles distinguía entre el acto y el agente: no basta con que algo ocurra; lo que importa es por qué ocurre. El error humano podía ser castigado, pero también comprendido. Detrás de cada acción había un rostro, una conciencia, una voluntad.
En la Inteligencia Artificial, esa cadena moral se difumina. Cuando un algoritmo discrimina, manipula o causa un daño, ¿a quién señalamos? ¿Al programador que lo diseñó? ¿A la empresa que lo comercializó? ¿A los datos que lo alimentaron? ¿O a la propia máquina que “decidió” errar?
La justicia moderna tropieza con esta paradoja: tenemos efectos sin intenciones. La IA actúa sin conciencia, pero con consecuencias. Y esas consecuencias pueden ser tan reales como un despido injusto, una detención errónea o que catedráticos universitarios me confirmen que han vuelto a los exámenes orales porque no son capaces de discriminar un plagio estudiantil.
El problema es que la responsabilidad se ha vuelto líquida: todos somos un poco culpables, y por eso, a menudo, nadie lo es del todo. Por ejemplo en tecnologías como Blockchain, el código es tan complejo, tan distribuido, que no hay un solo farero que vigile la lámpara.
Si el faro se equivoca y un barco encalla, ya no sabemos a quién llamar. La culpa se diluye entre líneas de software y equipos de desarrollo. Aristóteles habría visto aquí un desequilibrio de los fines: la acción técnica ha perdido su telos moral. El “hacer bien” ha sido reemplazado por el “hacer funcionar”. Y cuando el hacer sustituye al juzgar, la justicia pierde su Norte.
Por eso, el gran reto ético y jurídico de nuestro tiempo no es crear máquinas más inteligentes, sino mantener la responsabilidad humana en el centro de sus decisiones. Porque aunque el faro ahora sea digital, la mano que lo enciende sigue siendo humana, y con ella, la carga del bien y del mal.
Esa diferencia, invisible pero esencial, es lo que nos mantiene humanos. Quizá el farero de Finisterre no desapareció, sino que cambió de forma. Tal vez su linterna es ahora un satélite en órbita, y su mirada vive en los millones de sensores que alumbran nuestra noche digital, si no sufrimos un nuevo apagón premeditado.
Pero su mensaje sigue siendo el mismo: vigilemos la luz. No permitamos que la claridad se vuelva ceguera.
Porque la virtud, como la luz, no nace de la perfección, sino del cuidado constante.
De volver cada día a encender la lámpara, incluso cuando el viento sopla en contra.
De elegir el rumbo, no porque sea el más rápido, sino porque es el más justo.
En este mundo gobernado por datos, el riesgo no es que las máquinas piensen, sino que los humanos dejemos de hacerlo.
Cada algoritmo que decide por nosotros apaga un poco del fuego interior que Aristóteles llamaba razón práctica:
la capacidad de juzgar, de dudar, de actuar bien. Por eso, la verdadera Ética de la Inteligencia Artificial no está en el código, sino en quién la programa, quién la usa y con qué propósito.
No se trata de enseñar a las máquinas a ser virtuosas, sino de recordar nosotros cómo serlo.
Y cuando el futuro parezca incierto, cuando las luces digitales cieguen más que iluminen,
tal vez convenga detenerse un momento, mirar al horizonte y escuchar.
Si el viento trae un murmullo suave, quizá sea el viejo farero recordándonos que toda luz necesita un guardián,
y que el rumbo correcto, en el mar o en los algoritmos, no se calcula: se elige.
«Toda acción y toda elección parecen tender a algún bien; por eso con razón se ha dicho que el bien es aquello a lo que todas las cosas aspiran.” Aristóteles, Ética a Nicómaco, Libro I
Alberto Saavedra CXO imita.es Chief Exponential Officer
