Para leer con: “Shadowplay”, de Joy Division
En 1950, Alan Turing, uno de los pioneros de la computación, ideó un experimento para determinar si una máquina puede exhibir inteligencia indistinguible de la de un humano.
El Test de Turing plantea a un juez humano que interactúa mediante una interfaz con otro humano y una máquina, sin saber quién es quién. Si el juez no logra distinguir consistentemente al humano de la máquina, se dice que la máquina habrá “pasado” la prueba.
Tal vez sin quererlo, Alan Turing abrió el debate ético en torno al desarrollo de máquinas que imitan la inteligencia humana.
Mientras estos sistemas adquieren crecientes capacidades que antes eran dominio exclusivo de los humanos, sirve cuestionar el costo de delegar decisiones a una máquina.
¿Estamos controlando la tecnología que creamos, o estamos empezando a perder el control sobre ella? ¿Deberían los sistemas de IA que imitan la conciencia y las emociones humanas ser tratados con algún tipo de derecho no humano, como el de los animales? ¿Quién será responsable cuando una IA tome una decisión errónea o perjudicial? ¿Hasta qué punto debería la IA tener autonomía en la toma de decisiones que afectan aspectos críticos de la vida humana, como la salud y la seguridad? ¿Cuál debería ser la respuesta ética al desplazamiento laboral causado por la automatización, especialmente en sectores vulnerables? ¿Podemos asegurar que la inteligencia artificial evitará la intensificación de las desigualdades sociales y económicas? ¿Podemos prevenir el uso malintencionado de la IA, como la creación de “súper deepfakes” que pueden llegar a manipular elecciones, y qué responsabilidades deberían asumir sus desarrolladores? ¿Cómo equilibrar la innovación en un ambiente de inteligencia artificial para proteger y preservar las tradiciones culturales y humanas que podrían ser ignoradas por una tecnología avanzada? ¿Cuál es el impacto moral de reemplazar con máquinas los roles sociales y laborales históricamente desempeñados por humanos? ¿Cómo se pueden proteger los derechos de privacidad en un mundo en el que la IA puede analizar y anticipar comportamientos humanos (con datos entregados voluntariamente)? ¿Cómo podemos asegurar que los algoritmos de IA sean transparentes y comprensibles para los usuarios de a pie? ¿Cómo hacemos acuerdos de uso humanamente serios y que no tengan 18 cuartillas con puntaje tipográfico 3 y un lenguaje indescifrable? ¿Es éticamente aceptable utilizar IA en la guerra? ¿Necesitaremos una vigilancia ética continua de los algoritmos de IA a medida que evolucionen y aprendan de maneras que sus creadores no anticiparon? ¿Cómo garantizar que la IA no solo va a cumplir con las leyes actuales sino que también se adaptará a las normas éticas que podrían ir más allá de la legislación existente? ¿Cómo se debería manejar el consentimiento de uso de datos personales en sistemas de IA, siendo que estos desarrollos pueden aprender para adaptarse a escenarios que los usuarios originales no podrían prever? ¿Debería la sociedad limitar el desarrollo de ciertas formas de IA, y de ser así, cómo se podrían definir y regular estas limitaciones sin frenar el progreso tecnológico ni la libertad científica?
¿Estamos sacrificando aspectos estructurales de nuestra esencia humana?
PUBLICIDAD
A medida que la inteligencia artificial se hace cada vez más autónoma, el dilema ético que enfrentamos se profundiza, y exige sentido común en el debate. La inteligencia artificial no es solo una herramienta tecnológica, sino un fenómeno cultural y social que debería ser manejado con madurez y prudencia. Aquí es donde saldrá a flote el nivel de la inteligencia humana como bloque.
A propósito del Test de Turing, ¿debería existir un “test de ética” universal que cualquier aplicación de IA necesite pasar antes de ser desplegada?