Critica el desplazamiento humano y el pensamiento único y parametrado por sus creadores de las grandes empresas tecnológicas como Elon Musk y Zuckemberg, entre otros.
Entrevista de La Tercera – latercera.com
YUVAL NOAH HARARI Y SUS REFLEXIONES SOBRE LA INTELIGENCIA ARTIFICIAL
A finales del mes pasado, más de mil líderes e investigadores de la tecnología se unieron para redactar una carta, en la que pidieron frenar los acelerados avances en programas de inteligencia artificial como ChatGPT.
“¿CUÁLES PODRÍAN SER LAS CONSECUENCIAS DE QUE LA IA SE APODERE DE LA CULTURA?”.
“La nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir el contenido por sí misma”, destacó.
Bajo esta línea, cuestionó: “Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creados por una inteligencia no humana. Simplemente no entendemos lo que significa”.
FINES DAÑINOS
La semana pasada un semanario alemán compartió una supuesta “entrevista” exclusiva que le hicieron al ex piloto de la Fórmula 1, Michael Schumacher, pero rápidamente se conoció que el artículo había sido elaborado con IA, es decir, no contó realmente con su participación
Aquello desató que sus familiares anunciaran una demanda contra la revista.
Para Harari, casos como ese son solo el comienzo de lo que se podría llegar a hacer con la IA si se utiliza para fines dañinos.
Sugirió al citado medio que es probable que próximamente se pueda discutir de política con presuntos usuarios de la internet, quienes en verdad podrían ser el resultado de la inteligencia artificial generativa.
“Puede que incluso te envíen un video hablando, pero no hay ninguna persona de atrás”, insistió, “se trata de una amenaza especialmente grave para las democracias, más que para los regímenes autoritarios, porque las primeras dependen de la conversación pública”.
En este sentido, recalcó que “si la IA se apodera de la conversación, se acabó la democracia”.
Desde su visión, el uso de la IA con fines dañinos también podría ser un nuevo instrumento en beneficio de los sistemas dictatoriales, en caso de que no se adopten medidas previas para restringir sus formas de utilización.
“Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Así que las consecuencias podrían ser mucho más desastrosas. Es algo a lo que no sé si la humanidad podrá sobrevivir”.
LA PROPUESTA DEL FILÓSOFO PARA CONTROLAR LA IA
Un factor crucial en el análisis del filósofo israelí, es que ciertos programas de IA podrían llegar a ser difíciles de controlar si toman “decisiones sobre su propio uso”.
Por ejemplo, representantes de Google anunciaron recientemente que un software que están trabajando aprendió a hablar bengalí de manera instantánea, a pesar de que en un inicio solo le habían entregado “muy pocas indicaciones” en ese idioma.
Harari ve tales casos como un serio problema.
“Hemos inventado algo que nos quita poder. Y está ocurriendo tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando. Tenemos que asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas”.
Para disfrutar de los beneficios de esta tecnología considerando sus eventuales riesgos, Harari propuso que se apliquen medidas preventivas como las que se utilizan antes de poner un nuevo remedio a la venta.
“Una compañía farmacéutica no puede lanzar un medicamento al mercado sin pasar antes por un largo proceso de regulación. Es realmente extraño y aterrador que las corporaciones puedan hacerlo con herramientas de IA extremadamente potentes a la esfera pública, sin ninguna medida de seguridad similar”.
PERO, ¿QUIÉN TENDRÍA QUE IMPLEMENTAR Y CONTROLAR ESAS NORMAS?
Para el autor de Sapiens, dicha responsabilidad debe recaer en el sector público y no en las empresas privadas.
“Con todo el debido respeto a Elon Musk y Zuckerberg o a los otros jefes de las grandes empresas tecnológicas, no son elegidos por nadie, no representan a nadie excepto a sus accionistas y no hay razón para confiar en ellos”, cerró.
