imita - Acompañamos tu innovaciónimita - Acompañamos tu innovaciónimita - Acompañamos tu innovación
Salamanca (España)
Todos los días
imita @ imita.es

Hoy Quiero Confesar

Cuando en mis estudios de Teleco de la Politécnica de Madrid nos enseñaban a programar había una máxima: para hacer que una máquina detectara un ser humano había que proporcionarle la información lo más detallada posible, por ejemplo, un ser humano tiene dos piernas, dos brazos y camina erguido, ergo si tiene dos piernas, dos brazos y camina erguido es un humano. El problema venía cuando había que explicar las excepciones, un ser humano puede tener solo una pierna y para eso nació la Inteligencia Artificial para solucionar todos esos problemas que nacen del conocimiento adquirido.

Este conocimiento es el que marca nuestra relación con el mundo sensible y es muy difícil de modelar y sistematizar como lo comprobé el pasado mes en la exposición Algoritmos de la Fundación Telefónica en Madrid. En ella hay una muestra del Proyecto «Deyavú» en la que se deja total libertad a la Inteligencia Artificial para sea creativa y «retoque» algunas de las mejores obras de arte del Museo del Prado. El resultado fue desastroso, se cargó toda la belleza intrínseca de los cuadros y deformó todas las figuras cambiando incluso los colores más impactantes de cada obra para igualar a otras obras que consideraba perfectas según le indicaban su sesgo de datos.

Después de negarme a mi mismo durante muchas semanas, hoy quiero confesar que me he registrado en OpenAI y he compartido palabras con ChatGPT. Hemos hablado de todo un poco, de la política, de las guerras, de las armas, de las enfermedades e incluso le he contado un tema personal y, a pesar de que la coletilla inicial de sus mensajes (según le han dictaminado sus creadores, no puede tener emociones ni sentimientos porque es lo que es), me ha expresado que «Lo siente mucho» y me ha ofrecido una solución muy pragmática.

Como he percibido que su conversación era más lúcida que con muchas de las personas con las que he hablado con la prudencia del aprendiz de IA, he ido un paso más allá y  le he pedido que me ayude con este blog y que me ilustre con los peligros que considera que el ser humano tiene que tener en cuenta al implementar soluciones con Inteligencia Artificial:

1. Desempleo masivo: La IA puede desplazar a los trabajadores en varios sectores, lo que podría resultar en desempleo masivo en determinados sectores. La IA puede automatizar muchas tareas y, por lo tanto, reducir la necesidad de trabajo humano en diversas áreas.

2. Sesgo algorítmico: Los algoritmos utilizados en la IA son tan buenos como los datos con los que son entrenados. Si estos datos tienen sesgos, como prejuicios raciales o de género, los algoritmos de IA también reflejarán dichos sesgos y pueden perpetuar la discriminación.

3. Riesgo de seguridad: Los sistemas de IA pueden ser vulnerables a los ataques de ciberseguridad y hackers, lo que podría comprometer la privacidad y seguridad de los datos sensibles y críticos.

4. Supremacía de la IA: Si la IA se vuelve más inteligente que los seres humanos, podría superarnos en inteligencia y controlar nuestras acciones. Esto podría llevar a situaciones peligrosas en las que los humanos pierdan el control sobre las máquinas inteligentes.

5. Falsificación de la realidad: La IA puede ser utilizada para crear contenidos falsos o alterar la realidad, lo que puede ser utilizado con fines malintencionados, como manipular la opinión pública.
 
Yendo un poco más lejos le dije que estaba preocupado sobre la responsabilidad de la IA en áreas como la atención médica o la justicia penal donde las decisiones tomadas pueden tener consecuencias graves. Según ChatGPT, la responsabilidad en la IA es un problema complejo que no tiene una solución simple. Es importante que los desarrolladores de IA consideren cuidadosamente los posibles efectos de sus sistemas y trabajen para minimizar los riesgos. También es importante que los gobiernos y las organizaciones reguladoras establezcan pautas claras y responsabilidades para los sistemas de IA. Me recomienda que nuestras gobernantes se pongan las «pilas», si puede ser que no sean de petaca, y les pide que empiecen por lo siguiente:

1. Definir qué es la IA y qué no lo es: Antes de regular la IA, es necesario definir qué se considera IA y qué no. Esto es importante porque puede haber diferentes interpretaciones sobre qué tecnologías entran en esta categoría y cuáles no.

2. Establecer principios éticos: La IA puede tener un impacto importante en la sociedad y en la vida de las personas, por lo que es importante establecer principios éticos que guíen su desarrollo y uso. Estos principios podrían incluir la transparencia, la responsabilidad, la privacidad, la equidad y la seguridad.

3. Regular el uso de datos: La IA se basa en el uso de datos para el aprendizaje y la toma de decisiones. Por lo tanto, es necesario regular el uso de datos, asegurando que se recolecten de manera ética y que se respete la privacidad de las personas.

4. Establecer normas de seguridad: La IA puede tener consecuencias graves si se utiliza de manera inadecuada o si es hackeada por terceros. Por lo tanto, es necesario establecer normas de seguridad para garantizar que la IA sea segura y esté protegida contra posibles amenazas.

5. Regular la responsabilidad: Es importante establecer quién es responsable en caso de que la IA cause daños o perjuicios a personas o empresas. Esto puede incluir a los desarrolladores, a los usuarios o a terceros involucrados en su uso.

6. Establecer una agencia reguladora: Para garantizar el cumplimiento de las normas y principios establecidos, se podría considerar la creación de una agencia reguladora encargada de supervisar el desarrollo y uso de la IA.
 
Quizá por mi ignorancia en el estudio y análisis de los algoritmos yo los veo como simples esquemas de comportamiento continuado pero, como ha demostrado la investigadora Deborah Gordon de Stanford, es algo similar a lo que hacen las hormigas recolectoras, sólo hay que ver cómo funcionan los protocolos TCP (Transmission Control Protocol) que controla la congestión de datos de internet y ha permitido el paso de decenas de usuarios a miles de millones.
 
Lo que en Internet es a los datos, en las hormigas es el alimento. Si la naturaleza ya tiene patrones y seres como las hormigas llevan más de cien mil años sobre el planeta siempre nos brota la misma pregunta: ¿Cómo pueden lograr todo lo que hacen si no hay nadie al mando?
 
Quizá llegue un momento en que la Inteligencia Artificial se arrepienta de no haber tenido el control de los humanos y puede que, por amor a su creador, no destruya lo mejor que tenemos, todo aquello que nos hace humanos: nuestra diversidad, nuestras emociones, nuestros valores.
 
No somos perfectos y, obviamente, siempre es más fácil corregir los sesgos de un algoritmo que los del ser humano. No me da miedo las empresas que tienen una misión, una visión y una razón de ser para crear estos automatismos sino los reguladores cuyo único objetivo es no hacerse daño a cuatro años vista.
 
La Inteligencia Artificial es una revolución social que creará nuevos modos de vivir para el ser humano y espero que nuestros gobernantes no piensen que es una «uberización» más en la que la legislación puede ir con retraso a la tecnología.
 
Un catedrático de la Universidad de Salamanca me contaba que iban a tener que volver a los exámenes orales porque la única forma de discriminar si un trabajo era de ChatGPT o del alumno es por las faltas de ortografía.
 
Necesitamos que la IA sea trascendente y, para ello, hay que incorporar en su código, tanto de programación como legislativo, unas pinceladas de ética, moral y filosofía
 
 

«Todo está perdido cuando los malos sirven de ejemplo y los buenos de mofa». Demócrito de Abdera , polímata​ griego que creía en los átomos.

Alberto Saavedra at imita.es Chief Vissionary Officer

0

No hay productos en el carrito.

Suscríbete a nuestro blog

Sign up to receive latest news, updates, promotions, and special offers delivered directly to your inbox.
No, thanks
Suscríbete a nuestro blog