¿La Inteligencia Artificial (IA) puede salirse de control y actuar contra los seres humanos? El coordinador de Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana (IBERO), Alexandro López González, afirmó que no observa evidencia técnica de que las herramientas actuales tengan esa capacidad.
El especialista explicó que las IA disponibles no actúan de forma autónoma o independiente ni poseen voluntad propia. En un informe especial, refirió que su comportamiento depende de los parámetros establecidos por las personas que las desarrollan y utilizan.
Por ello, planteó que es necesario separar dos problemas que suelen mezclarse: los riesgos propios de la tecnología y aquellos que aparecen cuando alguien la utiliza de manera inadecuada.
Ahí está, dijo, uno de los peligros que ya puede tocar directamente a las personas: la IA permite procesar y relacionar enormes cantidades de información, facilitando tareas de vigilancia y localización que antes necesitaban muchos más recursos humanos.
“Con inteligencia artificial esto ya es una realidad”.
— Alejandro López González, especialista de la IBERO
El riesgo está en quién usa la IA
López González señaló que uno de los principales desafíos actuales de la Inteligencia Artificial está en la privacidad, debido a la capacidad para analizar grandes volúmenes de información y relacionar datos que pueden utilizarse para localizar o vigilar personas.
Frente a este escenario, consideró necesario que gobiernos y empresas establezcan mecanismos para proteger los datos personales y limitar aquellos usos de la tecnología capaces de vulnerar la privacidad.
El académico también consideró que existe una “importante burbuja económica alrededor de la IA”, es decir, un entorno donde las expectativas, inversiones e intereses alrededor de esta tecnología pueden crecer más rápido que sus capacidades demostradas. Añadió que los intereses económicos y geopolíticos pueden influir en la forma en que se presenta su presunta peligrosidad.
Humanos no deben soltar el control
El coordinador de Ingeniería en Inteligencia Artificial de la IBERO planteó que cualquier sistema debería estar centrado en las personas y mantener al ser humano “en el loop”; es decir, informado sobre lo que hace la tecnología y la forma en que llega a sus conclusiones.
También consideró necesario avanzar hacia sistemas de IA explicable, capaces de mostrar qué hicieron, por qué tomaron determinada acción y cómo llegaron a una decisión. Delegar una tarea, advirtió, no significa abandonar la supervisión.
“No tenemos que dejarle simplemente: va, resuelve las cosas y ya”.
— Alejandro López González, experto de la IBERO
¿Qué debería regularse?
López González consideró positivo establecer reglas para la Inteligencia Artificial, siempre que definan con claridad qué se busca proteger y cuáles prácticas deben limitarse. Entre los puntos planteados por el especialista destacan:
- Protección de datos personales, frente a usos que puedan vulnerar la privacidad.
- Límites para empresas, sobre lo que pueden hacer con estas tecnologías.
- Protección a consumidores, mediante mecanismos establecidos por los gobiernos.
- Supervisión humana, aun cuando una tarea sea delegada a una herramienta tecnológica.
- Impacto social, como parte de las decisiones que empresas y desarrolladores toman alrededor de la IA.