Por ahora, es imposible que la Inteligencia Artificial (IA) desarrolle voluntad propia y se rebele, de acuerdo con expertos de la Universidad Iberoamericana. Señalaron que el principal peligro radica en que el ser humano ceda cada vez más decisiones a sistemas automatizados sin responsabilidad ni transparencia.
Alexandro López, coordinador de la Ingeniería en IA, señaló que esta tecnología opera bajo patrones matemáticos y probabilidades, pero no tiene modelos abstractos del mundo y mucho menos consciencia, como ocurre en las películas de ciencia ficción:
“Esto se le llama ‘desalineación’. Si un modelo escupe un sesgo, una mentira o si nos da algo malo, es probable que encontró este patrón y, estadísticamente, dijo esta es la respuesta que tengo que darle.
Los errores de Inteligencia Artificial son fallas matemáticas no actos de rebelión; es decir, cálculos, no conciencia […] El peligro no es la voluntad, es la dependencia estadística”, explicó en conferencia.
En este sentido, tanto Alexandro como Andrés Molano, director de departamento de Estudios de Ingeniería para la Innovación, no descartan que las narrativas apocalípticas de los CEOs y desarrolladores en Estados Unidos se trate de una estrategia geopolítica de mercado contra China, para evitar nuevos competidores:
“El problema es que estamos en una carrera de quién tiene el mejor modelo, quién puede ganarle al otro y eso genera problemas éticos […] Y ese miedo puede estar siendo aprovechado como una estrategia para tratar de controlar el mercado y frenar el desarrollo de los pequeños”, dijo Molano.
“Si convences a los gobiernos de que la tecnología es tan peligrosa, como si fuera material nuclear, logras que las empresas multimillonarias sean las únicas que puedan acceder a esas restricciones”, añadió López.
Sin embargo, demandaron auditorías externas de la comunidad científica, similares a las del sector farmacéutico o alimentario. Además de tener límites claros como prohibir que la IA tenga acceso a infraestructura crítica: redes eléctricas, mercados financieros o armamento, pues no deben quedar bajo control autónomo de sistemas probabilísticos, ya que el error puede ser irreversible.
“No podemos frenar la posibilidad de descubrir cosas que van a ayudar muchísimo a la humanidad, pero sí es necesario definir procesos de auditoría que externos estén revisándolo. Sí es necesario que existan unas normas.
La IA y cualquier modelo puede ser usado para hacer cosas malas […] No está bien que no sepamos qué es lo que está pasando”, enfatizó Molano.
Recordaron que fue gracias a la IA que se llegó a la Luna y tener todo tipo de información en la palma de tu mano con los celulares.
