- ¿Qué es Renaissance?
Gracias por esta pregunta, y un cordial saludo a todos los presentes y a los que, en diversas funciones, participan en las actividades del Instituto de Bioética de la Pontificia Universidad Católica de Buenos Aires.
La pregunta: ¿qué es Renaissance?, me permite volver sobre lo que se ha hecho hasta ahora: Renaissance es un camino que busca responder a una de las urgencias más actuales de nuestra sociedad, es decir, diseñar tecnologías que estén al servicio del hombre, y que pongan a cada individuo, especialmente a los más vulnerables, en el centro de cualquier proyecto tecnológico. Nuestro santo padre Francisco, vuestro compatriota, suele decir que estamos en una época de cambios. Sus palabras definen perfectamente lo que está ocurriendo. Hemos sido testigos de la transformación digital de las tecnologías; de la producción de enormes cantidades de datos; de una potencia informática cada vez mayor. Gracias a ello, comenzó la llamada “primavera de la inteligencia artificial”, que ahora puebla la vida de todos y cada uno de nosotros. Todo esto puede producir innumerables beneficios para la humanidad, pero no lo olvidemos: también hay peligros y zonas grises que pueden surgir si estas mismas tecnologías se utilizan irreflexivamente. La bondad y la nocividad de estas extraordinarias herramientas del ingenio humano dependen de varios factores, en primer lugar del uso que hagamos de ellas. Somos conscientes de la complejidad actual, y para complicar aún más la situación está la pandemia, que el mundo entero está luchando por superar. En la era del Covid, cada uno de nosotros se ha vuelto un poco más digital y un poco menos humano. Privados de la capacidad de relacionarnos físicamente con otros individuos, hemos interactuado a través de medios tecnológicos, cediendo así una inmensa cantidad de datos (sobre nuestras acciones, correos electrónicos, llamadas, teletrabajo) a quienes pueden utilizarlos para simular, predecir, guiar e influir en nuestro comportamiento. En todo este proceso de transformación constante, hay una tecnología que destaca sobre las demás por su omnipresencia y posible impacto: la inteligencia artificial. La mayor parte de la humanidad no sabe cómo funciona: sin embargo, afecta a la industria, la sanidad, la educación, la alimentación, la seguridad y muchas otras esferas de la vida cotidiana.
En resumen, está en todas partes; y gracias a su poder cada vez mayor, ha adquirido un papel que tenderá a crecer cada vez más en los próximos años. Esta es la cuestión: Renaissance es el proyecto que llevamos a cabo para exigir que la tecnología, y en particular la inteligencia artificial, se desarrolle respetando la libertad y la dignidad de cada individuo y de toda la familia humana.
El 28 de febrero de 2020, en Roma, se firmó por primera vez la Rome Call for AI Ethics, un documento con el que queríamos decir: estas tecnologías no deben ser simplemente herramientas capaces de realizar funciones específicas de forma más rápida y eficiente. Estas tecnologías han cambiado nuestra manera de estar en el mundo, de percibir la realidad y a nosotros mismos, y nos plantean preguntas radicales sobre la identidad humana. Queremos proponer una humanización de la tecnología. Queremos contraponer a la algocracia, que es el poder de los algoritmos, una algorética: la ética de la inteligencia artificial.
El interés y la actualidad de nuestro llamamiento quedan también demostrados por la participación de los primeros firmantes: Brad Smith, Presidente de Microsoft; John Kelly III, Presidente de IBM; Qu Dong-Yu, Director General de la FAO, y nuestro Ministro italiano de Innovación Tecnológica. Muchos otros le siguieron.
En abril del año pasado, el papa Francisco confirmó su interés por este campo de estudio con la creación de la Fundación Renaissance: una organización sin ánimo de lucro que pretende difundir la Rome Call y promover la reflexión antropológica y ética sobre la inteligencia artificial y las nuevas tecnologías entre personas como ustedes - calificadas por su compromiso científico, eclesiástico, cultural, empresarial y profesional en la sociedad. Tenemos un sitio web, llamado romecall.org, en el que individuos e instituciones pueden firmar nuestro llamamiento y apoyar nuestro trabajo. Nuestra esperanza, nuestro objetivo, es que la voz de los que piden poner al hombre en el centro sea cada vez más fuerte: sólo así podremos dirigir las transformaciones actuales para el bien de todos.
- ¿Cuál es la perspectiva moral de esta coalición que pide una Inteligencia Artificial para “el bien común”?
Como todos sabemos, tal y como he mencionado antes en las palabras del santo padre, la humanidad está atravesando un periodo de transformación radical. No es la primera vez en la historia de la humanidad: esta vez, sin embargo, nos enfrentamos a una velocidad y omnipresencia nunca antes vistas. Esto afecta no sólo a la vida de los individuos, sino a la sociedad en su conjunto. Pensemos en lo que llaman “tecnologías emergentes y convergentes”, que nos permiten intervenir, por ejemplo, en la base molecular del cuerpo humano. Estas tecnologías nos llevan a cuestionar el propio concepto de vida y la posibilidad de transformarla y modificarla.
Ante todo esto, no podemos quedarnos callados y observar pasivamente lo que ocurre. Creo que es importante, como primer paso, impedir que los gobiernos o las meras razones empresariales tengan todo el poder de decisión para crear tecnologías con fines puramente lucrativos, que ofenden la libertad y la dignidad humana. La única manera de defender estos valores es dar un papel central a la ética, que debe estar presente en todo el proceso, desde el diseño hasta la aplicación de una tecnología. No podemos dejar la responsabilidad de decidir el uso adecuado de una tecnología solo al usuario final: la experiencia nos enseña que hablar de principios éticos a posteriori es prácticamente inútil.
Debemos recordar: palabras como dignidad, justicia, subsidiariedad y solidaridad -los principios básicos de la doctrina social de la Iglesia católica- no deben abandonarse nunca.
La ética debe acompañar todo el ciclo de diseño y producción de la tecnología, desde el momento en que se elige en qué proyectos invertir. Nunca debemos olvidar que detrás de una palabra como “perfilación” hay personas reales, no modelos matemáticos.
Pensemos en el gran debate ético y jurídico actual sobre el reconocimiento facial: detrás de cada dato hay un rostro, precioso, irrepetible y sagrado. No debemos olvidar nunca que la recogida y el uso de datos sensibles en el ámbito de la sanidad implica conocer las historias irrepetibles de personas únicas marcadas por el sufrimiento. Estos son sólo dos ejemplos - hay muchos más - pero sirven para recordarnos que nuestra responsabilidad ética es ineludible.
- ¿Cómo imagina usted la aplicación de la Rome Call en América Latina?
- ¿Cómo imagina usted la aplicación de la Rome Call en América Latina?
Todos sabemos que, desde el punto de vista geopolítico, existen macrorregiones, pero hoy en día, cuando se trata de tecnologías digitales e inteligencia artificial, tenemos que pensar en nuestro planeta de forma global, como una sola familia. El santo padre Francisco lo ha dicho muchas veces: la nuestra es una “casa común”, donde habita una “familia humana”, y sólo podemos aspirar a una tecnología centrada en el ser humano si todos la exigimos con fuerza.
Hablar de tecnología hoy en día significa aceptar que no hay fronteras en este campo: tener una visión global, actuar todos juntos, es la única manera de conseguir un resultado que se aplique a todos los seres humanos, especialmente a los más débiles y vulnerables.
Nuestro llamamiento no se dirige sólo al mundo occidental o a los países más ricos; tampoco se dirige sólo a los católicos. Nuestro llamamiento expresa una exigencia transversal: la de respetar los derechos del individuo.
Pensemos en lo que pide la Rome Call a través de sus seis “principios éticos para la inteligencia artificial”:
1) transparencia, porque los sistemas de IA deben ser comprensibles para todos;
2) inclusión, porque estos sistemas no deben discriminar a nadie porque todo ser humano tiene la misma dignidad;
3) responsabilidad, porque siempre debe haber alguien que se responsabilice de lo que hace una máquina;
4) imparcialidad, porque los sistemas de IA no deben seguir ni crear prejuicios;
5) fiabilidad, porque la IA debe ser fiable;
6) seguridad y privacidad, porque estos sistemas deben ser seguros y respetar la privacidad de los usuarios.
Mi esperanza, mi deseo, es que América Latina pueda acoger este llamamiento con los brazos abiertos, y lo haga suyo: porque nunca antes ha sido tan importante sentirse parte de una misma familia humana.
No hay comentarios:
Publicar un comentario