(II) Cara y cruz de la Inteligencia Artificial

El jueves pasado tuvo lugar la segunda conferencia del ciclo Democracias bajo control, organizado  por la Fundación Ernest Lluch y la Obra Social “la Caixa”. Desde tecpol, estamos asistiendo y analizando todos los diálogos  para poder dar una imagen panorámica de todo lo que se discute y ofrecer fuentes adicionales para seguir profundizando con el debate, como hicimos con la primera conferencia con Ángel Gabilondo y Marina Garcés.

En esta ocasión, el diálogo giró en torno a la Inteligencia Artificial, robotización y la cuarta revolución industrial.  Lo protagonizaron dos voces autorizadas como Lorena Jaume-Palasí, Directora ejecutiva de AlgorithmWatch; y Ramon López de Mántaras, profesor de investigación i Director del Instituto de Investigación en Inteligencia Artificial del Consejo Superior de Investigaciones Científicas (CSIC).

El debate sobre la implementación de la Inteligencia Artificial (IA) y sus posibles efectos en los diferentes ámbitos de la sociedad no es nuevo. Hace años que nos planteamos hasta qué punto la disrupción de este paradigma puede alterar el mundo laboral, respetar nuestros derechos fundamentales o cambiar nuestra forma de relacionarnos. López de Mántaras abría el debate planteando la complejidad de la IA y se preguntaba hasta qué punto somos conscientes de su alcance. Más allá de debatir sus límites, en una primera instancia deberíamos ser capaces de comprender sus potenciales, que, según el profesor, son extraordinarios. Los miedos o reservas hacia la IA son racionales y además están fundamentados en riesgos comprobados. Aún así, hay ciertos aspectos que no debemos tener: Jaume-Palasí argumentó que la IA no puede sustituir según qué trabajos y por lo tanto no debemos pensar que esta tecnología de facto va a reemplazar a actuales trabajadores. La capacidad deductiva es una característica que la IA aún no ha podido emular.

Los límites de la Inteligencia Artificial también fueron mencionados por López de Mántaras, refiriéndose a los algoritmos: aunque sean sistemas inteligentes con mucho potencial, no dejan de basarse en sistemas probabilísticos con un margen determinado de error. Por ese motivo, no debemos confiar a ciegas con los resultados, sino que debemos tener capacidad de interpretarlos.

Los mismos algoritmos son los que generan sesgos. En AlgorithmWatch, organización liderada por Jaume-Palasí, se preocupan de controlar i fiscalizar estos posibles sesgos y en el debate, expuso un ejemplo muy significativo: Compas es un algoritmo que calcula la probabilidad de que alguien reincida en un crimen. Sus creadores, que intentaron encontrar fórmulas matemáticas para reproducir modelos de equidad, se dieron cuenta que no existía la fórmula perfecta.

Hay otras organizaciones relevantes que desde la sociedad civil apuestan por un uso ético de la IA, como por ejemplo AI Now Institute,  que reflexiona sobre las implicaciones sociales de la IA centrándose en 4 dominios clave: derechos y libertades,trabajo y automatización,sesgo e inclusión y seguridad e infraestructura crítica.

Siguiendo el argumento de Jaume- Palasí, López de Cántaras puso encima de la mesa la necesidad de encontrar una certificación para que los algoritmos no son discriminatorios, al mismo tiempo que no se utilice en contra de valores democráticos.

Durante el debate también se habló de la dificultad de poder analizar algoritmos y la necesidad de equipos transversales y multidisciplinares: Matemáticos, psicólogos, antropólogos, recursos humanos, éticos, abogados… entonces es cuando tenemos resultados buenos, ya que en ese contexto se generan preguntas que a priori no nos plantearíamos, si no fuera por los múltiples perfiles.

Para enfrentarnos a las disrupciones generadas por estas tecnologías, el individualismo occidental puede penalizar significativamente, como argumentó Jaume-Palasí.  Las estructuras colectivistas son, en muchas ocasiones, la solución a situaciones que necesitan bienes comunes y concienciación a nivel de privacidad o de derechos digitales, según Jaume Palasí.

El diálogo fue un buen reflejo del estado del debate alrededor de la Inteligencia Artificial: se presentaron la cara y la cruz de esta tecnología que demuestra como muchas disrupciones que nos brinda la transición digital tensan el espacio público con inquietudes e incertidumbre. 

Este nuevo contexto requiere de mucha transparencia, compromiso de los actores públicos y privados pero al mismo tiempo, fiscalización de entidades de la sociedad civil.

Agradecer a Nadia Rodríguez, ya que sus notas han hecho posible este artículo.