La empresa española Veridas se ha convertido en una de las primeras, a nivel nacional, en realizar un ‘Diagnóstico sobre los principios éticos de la Inteligencia Artificial’ con el apoyo de PwC, firma pionera en este tipo de trabajos. Con este estudio persiguen analizar el cumplimiento formal de los principios éticos de los sistemas de inteligencia artificial de las compañías y el marco ético, jurídico y técnico sobre el que se desarrollan estos sistemas.
Seguir las pautas de la regulación española y europea
Como puntos de partida normativos se han considerado la Estrategia Nacional de Inteligencia Artificial (ENIA) de diciembre de 2020 y la propuesta de regulación sobre inteligencia artificial (AI Act) de la Comisión Europea de abril de 2021, la cual se presentó como «un proyecto de ley que pretende establecer una regulación sobre la IA, y a la que las empresas deberán comenzar a ajustarse en menos de dos años«.
Más recientemente, el 23 de febrero de 2022 se aprobó en el seno de la Unión Europea una propuesta de Directiva sobre la diligencia debida de las empresas en materia de sostenibilidad, cuyo objeto es fomentar un comportamiento empresarial sostenible y responsable a lo largo de las cadenas de suministro mundiales.
Dicha propuesta directiva busca imponer a las empresas una serie de obligaciones en relación con los derechos humanos y el impacto medioambiental, llegando a definir el pago de multas e indemnizaciones por parte de las empresas a las personas afectadas por las consecuencias de los impactos adversos.
Partiendo del marco ético, jurídico y técnico establecido en la Regulación vigente y estándares de mercado, se ha desarrollado un programa de trabajo que permite realizar un diagnóstico para determinar si las organizaciones cumplen formalmente con dichos principios éticos y que abarca principalmente las siguientes áreas:
- Privacidad y Gobierno de los datos.
- Seguridad y Protección: Fiabilidad, robustez y precisión.
- Responsabilidad y rendición de cuentas.
- Transparencia y explicabilidad.
- Principio de justicia.
- Foco en el ser humano: Control y vigilancia humana.
- Promoción de los valores y de los derechos humanos.
- Sostenibilidad ambiental.
Nunca en la historia ha sido tan prioritario asegurar
un uso responsable y ético de una tecnología
Tamer Davut, socio de PwC, indica que: «El impacto socioeconómico de la inteligencia artificial es evidente. Los continuos avances en materia de investigación y aplicación de esta tecnología han puesto de manifiesto que su adopción ha de ser prioritaria para la totalidad de las empresas si desean seguir siendo competitivas durante la próxima década».
Del mismo modo, Davut afirma que «la adopción de esta tecnología tiene un gran reto que las empresas han de saber gestionar; el alto impacto que las aplicaciones de IA tienen ya sobre nuestras vidas ponen en relevancia el hecho de que, nunca en la historia, ha sido tan prioritario asegurar un uso responsable y ético de una tecnología».
Veridas: abriendo camino en el sector de la Inteligencia Artificial
Veridas continúa su apuesta por situarse a la vanguardia de la transparencia, la auditoría y la confiabilidad de sus soluciones biométricas.
Leire Arbona, directora del departamento de Legal y Cumplimiento de Veridas, describe esta apuesta firme de la compañía con las siguientes palabras: «Desde la creación de Veridas teníamos claro que la confianza en este tipo de soluciones debe pasar siempre por la transparencia y cumplimiento, no solo de las normas jurídicas y técnicas sino también de los más altos valores éticos. Este trabajo de diagnóstico es una muestra más de la evolución de Veridas en este sentido y el compromiso en seguir mejorándolo continuamente».
Precisamente, estas tres vertientes, la legal, la técnica y la ética son los tres pilares fundamentales en cualquier IA «digna de confianza». Concretamente:
- Legalidad: el cumplimiento de las leyes y reglamentos aplicables.
- Ética: garantizar la adhesión a los principios y valores éticos.
- Robustez: tanto desde el punto de vista técnico como social, ya que, incluso con buenas intenciones, los sistemas de IA pueden causar daños involuntarios.
«Hemos aprendido mucho en este proceso, teniendo otra visión independiente de nuestras soluciones y procesos que sin duda nos han dejado con muchas ideas de cómo seguir mejorando». afirma Arbona.
En definitiva, este diagnóstico permite ayudar a Veridas situarse a la vanguardia en el cumplimiento de los principios éticos de los sistemas de Inteligencia Artificial.
