«Si la Inteligencia Artificial está en casi todos los campos de nuestra vida, las Matemáticas están en todos los campos de la Inteligencia Artificial”. Así lo aseguró Emilio Carrizosa, catedrático de Estadística e Investigación Operativa en la Universidad de Sevilla y presidente de la red española de matemática-industria math-in, en el coloquio ‘Matemáticas, Inteligencia Artificial y Ética’, organizado por la Real Sociedad Matemática Española (RSME) y la Fundación Ramón Areces».
Los expertos reunidos en este coloquio reivindicaron la capacidad de las matemáticas para ofrecer soluciones a los nuevos problemas que plantean estas tecnologías, como la optimización en el tratamiento de datos que alcanzan tamaños descomunales, y responder a los diversos desafíos éticos que presentan.
Los expertos también insistieron en que el inmenso potencial de la IA para cambiar nuestra vida, e incluso el mundo tal y como lo conocemos, requiere una especial llamada de atención para evitar su mal uso y los sesgos heredados de los datos. En palabras de la presidenta de la RSME, Victoria Otero Espinar, “las matemáticas están en el centro del éxito de la IA y pueden ayudar de forma decisiva a crear modelos más transparentes, justos y responsables”. “Por eso es importante y necesario que los profesionales que trabajan en el desarrollo de estos sistemas y sus aplicaciones tengan una buena formación matemática”, añadió.
“Las matemáticas son la base de los algoritmos de la Inteligencia Artificial (IA) y son también muy útiles para abordar algunos de los problemas éticos que nos plantea esta tecnología”, destacó por su parte Alicia Dickenstein, profesora Emérita de la Universidad de Buenos Aires y presidenta de la Academia Nacional de Ciencias Exactas, Físicas y Naturales de Argentina. Dickenstein considera que “es imprescindible contar con una buena educación, un debate social amplio y una regulación eficiente que permita atacar los múltiples desafíos de la IA”. La ponente también señaló la dificultad que implica realizar verdaderas transformaciones de la realidad que conocemos “con una IA que está siendo entrenada únicamente con los datos actuales”.
En el debate celebrado en la Fundación Ramón Areces se puso de manifiesto el papel determinante que juegan las Matemáticas a la hora de detectar eventuales sesgos y también en el diseño de algoritmos que mitiguen su efecto. “Los sesgos se pueden perpetuar o verse amplificados cuando, sin el debido tratamiento, son usados por la IA para predecir y, con estas predicciones, proponer decisiones que afectan a las personas y pueden vulnerar derechos fundamentales”, advirtió Emilio Carrizosa. Por ello, personas y administraciones demandan también cada vez más que las decisiones propuestas por la IA sean explicables. “No podemos pretender que el cliente a quien se deniega el crédito o el paciente a quien se diagnostica un riesgo alto de sufrir una enfermedad entiendan el algoritmo de IA que hay detrás del pronóstico, pero sí que la propia IA le indique cuáles son las variables más relevantes en la construcción de ese pronóstico, y que sugiera los cambios requeridos para mejorarlo”, concluyó.