A Juanita, una señora de la tercera edad, los reyes magos le regalaron una “Alexa” y está encantada porque afirma que “ella”, sí es una “maga” que “todo” le resuelve. Y ante la pregunta de si Alexa nunca falla, Juanita responde diciendo que, como cualquier persona, “a veces”, también se equivoca.
Alexa, como Siri, son ya parte de la diaria interacción con gente de todas las edades y aunque todos sabemos bien que no son personas, la mayoría no sabríamos decir, a ciencia cierta, qué son. En realidad, se trata de asistentes inteligentes de voz; un claro ejemplo de eso que, en las películas, conocemos como “robots”.
Se suele llamar “robots” a las máquinas que, con apariencia de individuos, pueden realizar tareas definidas, sobre todo, de tipo mecánico. Pero también son “robots” todos aquellos otros dispositivos que igualmente funcionan con una “cierta espontaneidad”, sólo que, para distinguirlos de los “humanoides”, de manera breve, se les denomina simplemente “bots”.La característica común de ambos aparatos consiste en que su preciso comportamiento se debe a un “software”.
“Software” es la palabra de origen inglés con la que se designa un sistema de información programada para la ejecución, automática y repetitiva, de algunas actividades de orden lingüístico, matemático o mecánico. La programación informática está conformada por un conjunto de específicas instrucciones que se llaman “algoritmos”. Los “algoritmos”son entonces, una cadena de comandos o una serie de pasos (procedimientos), diseñada para resolver automáticamente un problema.
Además de Alexa y Siri, en 2022, apareció otro “bot” o, más precisamente, un “chatbot”, conocido como “chatGPT”,justamente por ser un software de conversación. Se podría decir que, gracias a esta aplicación especializada en diálogo, la “inteligencia artificial” (IA) dejó de ser ciencia ficción o un tema privativo de la investigación científica para convertirse en una realidad común y ordinaria.
El concepto y la expresión de “IA” se remontan a la famosa conferencia que el informático John McCarthy dictara en la Universidad de Darmouth College, (Hanover, New Hampshire), en 1956. Lo que entonces se presentaba como un prometedor proyecto es, ya ahora, una nueva tecnología que, si bien está aportando significativos avances, también está planteando importantes desafíos éticos. En efecto, como lo han demostrado diversos estudios, por ejemplo, sobre el ChatGPT, la IA no sólo es eventualmente “falible”, sino que, además, tiene la propensión a generar contenido con un cierto sesgo, ya sea lingüístico, racial, político o de género.
Obviamente, la orientación intencionada de la IA depende directamente de los programadores de algoritmos, quienes, por tanto, no pueden evadir su responsabilidad moral y jurídica. Por ello, en su mensaje del primero de enero para la 57 jornada mundial de la paz, el papa Francisco ha hecho un llamado a sostener un diálogo abierto sobre la IA ya que considera que este nuevo desarrollo está dotado no sólo de un potencial disruptivo, sino también de efectos ambivalentes.
En consecuencia, el Papa recuerda la necesidad de vigilar y trabajar para garantizar que una lógica de violencia y discriminación no arraigue en la producción y uso de los nuevos dispositivos, a expensas de los más frágiles y excluidos porque la injusticia y las desigualdades alimentan los conflictos y toda clase de antagonismos que fracturan la paz.
Pero este mensaje del papa en el inicio del 2024, no es el primer y único documento pontificio en materia de IA. Ya enel mes de junio de 2023, se hizo la primera edición del Manual titulado “Ética en la era de las tecnologías disruptivas: una hoja de ruta operativa.” (Ethics in the Age of disruptive Technologies: an operational roadmap). El texto fue resultado del vínculo entre el Dicasterio para la cultura y la educación y la Universidad de santa Clara que, en conjunto, han fundado el ITEC (Instituto de Tecnología, ética y cultura), responsable de la publicación en línea del mencionado Manual.
Además, en febrero de 2020, la Pontificia academia para la Vida publicó el documento llamado “Rome Call for AI Ethics” (Llamado de Roma para la ética de la Inteligencia artificial). En este texto, se formulan seis principios de lo que ahí mismo se denomina la “alogor-ética”. Tales principios son: 1) transparencia, 2) inclusión, 3) responsabilidad, 4) imparcialidad, 5) fiabilidad, 6) seguridad y privacidad. Parece claro que estos criterios apuntan a la ética, tanto de los productores de robots, como de quienes financian tales proyectos y de quienes diseñan sus algoritmos. Sin embargo, no sobra preguntarse cuáles serán los deberes éticos que tenemos nosotros, los usuarios de los asistentes y programas de inteligencia artificial para no ser nosotros mismos objetos de programación y manipulación. No podemos ingenuamente suponer que sólo somos susceptibles de convertirnos en víctimas inocentes de quienes crean la IA. Para usar la inteligencia artificial debemos de ser inteligentes.