Cuando en mis estudios de Teleco de la Politécnica de Madrid nos enseñaban a programar había una máxima: para hacer que una máquina detectara un ser humano había que proporcionarle la información lo más detallada posible, por ejemplo, un ser humano tiene dos piernas, dos brazos y camina erguido, ergo si tiene dos piernas, dos brazos y camina erguido es un humano. El problema venía cuando había que explicar las excepciones, un ser humano puede tener solo una pierna y para eso nació la Inteligencia Artificial para solucionar todos esos problemas que nacen del conocimiento adquirido.
Este conocimiento es el que marca nuestra relación con el mundo sensible y es muy difícil de modelar y sistematizar como lo comprobé el pasado mes en la exposición Algoritmos de la Fundación Telefónica en Madrid. En ella hay una muestra del Proyecto «Deyavú» en la que se deja total libertad a la Inteligencia Artificial para sea creativa y «retoque» algunas de las mejores obras de arte del Museo del Prado. El resultado fue desastroso, se cargó toda la belleza intrínseca de los cuadros y deformó todas las figuras cambiando incluso los colores más impactantes de cada obra para igualar a otras obras que consideraba perfectas según le indicaban su sesgo de datos.
Después de negarme a mi mismo durante muchas semanas, hoy quiero confesar que me he registrado en OpenAI y he compartido palabras con ChatGPT. Hemos hablado de todo un poco, de la política, de las guerras, de las armas, de las enfermedades e incluso le he contado un tema personal y, a pesar de que la coletilla inicial de sus mensajes (según le han dictaminado sus creadores, no puede tener emociones ni sentimientos porque es lo que es), me ha expresado que «Lo siente mucho» y me ha ofrecido una solución muy pragmática.
Como he percibido que su conversación era más lúcida que con muchas de las personas con las que he hablado con la prudencia del aprendiz de IA, he ido un paso más allá y le he pedido que me ayude con este blog y que me ilustre con los peligros que considera que el ser humano tiene que tener en cuenta al implementar soluciones con Inteligencia Artificial:
1. Desempleo masivo: La IA puede desplazar a los trabajadores en varios sectores, lo que podría resultar en desempleo masivo en determinados sectores. La IA puede automatizar muchas tareas y, por lo tanto, reducir la necesidad de trabajo humano en diversas áreas.2. Sesgo algorítmico: Los algoritmos utilizados en la IA son tan buenos como los datos con los que son entrenados. Si estos datos tienen sesgos, como prejuicios raciales o de género, los algoritmos de IA también reflejarán dichos sesgos y pueden perpetuar la discriminación.
3. Riesgo de seguridad: Los sistemas de IA pueden ser vulnerables a los ataques de ciberseguridad y hackers, lo que podría comprometer la privacidad y seguridad de los datos sensibles y críticos.
4. Supremacía de la IA: Si la IA se vuelve más inteligente que los seres humanos, podría superarnos en inteligencia y controlar nuestras acciones. Esto podría llevar a situaciones peligrosas en las que los humanos pierdan el control sobre las máquinas inteligentes.
5. Falsificación de la realidad: La IA puede ser utilizada para crear contenidos falsos o alterar la realidad, lo que puede ser utilizado con fines malintencionados, como manipular la opinión pública.
es un problema complejo que no tiene una solución simple. Es importante que los desarrolladores de IA consideren cuidadosamente los posibles efectos de sus sistemas y trabajen para minimizar los riesgos. También es importante que los gobiernos y las organizaciones reguladoras establezcan pautas claras y responsabilidades para los sistemas de IA. Me recomienda que nuestras gobernantes se pongan las «pilas», si puede ser que no sean de petaca, y les pide que empiecen por lo siguiente:1. Definir qué es la IA y qué no lo es: Antes de regular la IA, es necesario definir qué se considera IA y qué no. Esto es importante porque puede haber diferentes interpretaciones sobre qué tecnologías entran en esta categoría y cuáles no.
2. Establecer principios éticos: La IA puede tener un impacto importante en la sociedad y en la vida de las personas, por lo que es importante establecer principios éticos que guíen su desarrollo y uso. Estos principios podrían incluir la transparencia, la responsabilidad, la privacidad, la equidad y la seguridad.
3. Regular el uso de datos: La IA se basa en el uso de datos para el aprendizaje y la toma de decisiones. Por lo tanto, es necesario regular el uso de datos, asegurando que se recolecten de manera ética y que se respete la privacidad de las personas.
4. Establecer normas de seguridad: La IA puede tener consecuencias graves si se utiliza de manera inadecuada o si es hackeada por terceros. Por lo tanto, es necesario establecer normas de seguridad para garantizar que la IA sea segura y esté protegida contra posibles amenazas.
5. Regular la responsabilidad: Es importante establecer quién es responsable en caso de que la IA cause daños o perjuicios a personas o empresas. Esto puede incluir a los desarrolladores, a los usuarios o a terceros involucrados en su uso.
6. Establecer una agencia reguladora: Para garantizar el cumplimiento de las normas y principios establecidos, se podría considerar la creación de una agencia reguladora encargada de supervisar el desarrollo y uso de la IA.
No somos perfectos y, obviamente, siempre es más fácil corregir los sesgos de un algoritmo que los del ser humano. No me da miedo las empresas que tienen una misión, una visión y una razón de ser para crear estos automatismos sino los reguladores cuyo único objetivo es no hacerse daño a cuatro años vista.«Todo está perdido cuando los malos sirven de ejemplo y los buenos de mofa». Demócrito de Abdera , polímata griego que creía en los átomos.
Alberto Saavedra at imita.es Chief Vissionary Officer
