Veridas acaba de convertirse en una de las primeras empresas a nivel nacional en realizar un ‘Diagnóstico sobre los principios éticos de la Inteligencia Artificial’ con el apoyo de PwC, firma pionera en este tipo de trabajos. Dicho diagnóstico consiste en analizar el cumplimiento formal de los principios éticos de los sistemas de inteligencia artificial de las compañías y el marco ético, jurídico y técnico sobre el que se desarrollan estos sistemas.
La regulación española y europea como punto de partida
Como puntos de partida normativos se han considerado la Estrategia Nacional de Inteligencia Artificial (ENIA) de diciembre de 2020 y la propuesta de regulación sobre inteligencia artificial (AI Act) de la Comisión Europea de abril de 2021, la cual se presentó como “un proyecto de ley que pretende establecer una regulación sobre la IA, y a la que las empresas deberán comenzar a ajustarse en menos de dos años.”
Más recientemente, el 23 de febrero de 2022 se aprobó en el seno de la Unión Europea una propuesta de directiva sobre la diligencia debida de las empresas en materia de sostenibilidad, cuyo objeto es fomentar un comportamiento empresarial sostenible y responsable a lo largo de las cadenas de suministro mundiales.
Dicha propuesta Directiva busca imponer a las empresas una serie de obligaciones en relación con los derechos humanos y el impacto medioambiental, llegando a definir el pago de multas e indemnizaciones por parte de las empresas a las personas afectadas por las consecuencias de los impactos adversos.
Partiendo del marco ético, jurídico y técnico establecido en la Regulación vigente y estándares de mercado, se ha desarrollado un programa de trabajo que permite realizar un diagnóstico para determinar si las organizaciones cumplen formalmente con dichos principios éticos y que abarca principalmente las siguientes áreas:
- Privacidad y Gobierno de los datos.
- Seguridad y Protección: Fiabilidad, robustez y precisión.
- Responsabilidad y rendición de cuentas.
- Transparencia y explicabilidad.
- Principio de justicia.
- Foco en el ser humano: Control y vigilancia humana.
- Promoción de los valores y de los derechos humanos.
- Sostenibilidad ambiental.
Tamer Davut, socio de PwC, indica que: “El impacto socioeconómico de la inteligencia artificial es evidente. Los continuos avances en materia de investigación y aplicación de esta tecnología, en la que la máquina intenta replicar capacidades de los seres humanos como el razonamiento, el aprendizaje, la creatividad o la capacidad de planear; han puesto de manifiesto que su adopción ha de ser prioritaria para la totalidad de las empresas si desean seguir siendo competitivas durante la próxima década. No obstante, la adopción de esta tecnología tiene un gran reto que las empresas han de saber gestionar; el alto impacto que las aplicaciones de IA tienen ya sobre nuestras vidas ponen en relevancia el hecho de que, nunca en la historia, ha sido tan prioritario asegurar un uso responsable y ético de una tecnología.”
Veridas: abriendo camino en el sector de la Inteligencia Artificial
Veridas, continúa su apuesta por situarse a la vanguardia de la transparencia, la auditoría y la confiabilidad de sus soluciones biométricas.
Leire Arbona, directora del departamento de Legal y Cumplimiento de Veridas, describe esta apuesta firme de la compañía con las siguientes palabras: “Desde la creación de Veridas teníamos claro que la confianza en este tipo de soluciones debe pasar siempre por la transparencia y cumplimiento, no solo de las normas jurídicas y técnicas sino también de los más altos valores éticos. Este trabajo de diagnóstico es una muestra más de la evolución de Veridas en este sentido y el compromiso en seguir mejorándolo continuamente.”
A la constante evaluación de las soluciones en su vertiente técnica por parte de instituciones internacionales de gran prestigio como el National Institute of Standards and Technology (NIST) o en su vertiente legal para el cumplimiento de la regulación vigente en materia de protección de datos o de prevención de blanqueo de capitales, entre otras muchas, ahora se suma este diagnóstico de carácter ético.
Precisamente, estas tres vertientes, la legal, la técnica y la ética son los tres pilares fundamentales en cualquier IA “digna de confianza”. Concretamente:
- Legalidad: el cumplimiento de las leyes y reglamentos aplicables.
- Ética: garantizar la adhesión a los principios y valores éticos.
- Robustez: tanto desde el punto de vista técnico como social, ya que, incluso con buenas intenciones, los sistemas de IA pueden causar daños involuntarios.
En este encargo, se han estado no solo observando las normativas en materia ética de la Comisión Europea o el Gobierno de España, sino que también se ha puesto el foco en otras fuentes de información relevantes como la Propuesta de Gestión de Riesgo en IA publicado por el NIST o casos de uso publicados por medios especializados como Harvard Business Review o MIT Technology Review.
“Hemos aprendido mucho en este proceso, teniendo otra visión independiente de nuestras soluciones y procesos que sin duda nos han dejado con muchas ideas de cómo seguir mejorando.” afirmaba Arbona.
En definitiva, este diagnóstico permite ayudar a Veridas situarse a la vanguardia en el cumplimiento de los principios éticos de los sistemas de Inteligencia Artificial.
Un marco legal y regulatorio abierto a mejoras
A través del trabajo realizado en los últimos meses, se ha puesto sobre la mesa la evidencia de que aún existen aspectos por mejorar en la redacción de normas relacionadas con los temas medioambientales y éticos.
Por ejemplo, se ha constatado la necesidad de contar con una guía sobre cómo documentar y fiscalizar el cumplimiento de los sistemas de inteligencia artificial en cuanto a los principios éticos anteriormente mencionados.
Asimismo, hemos tomado conciencia de la importancia de documentar rigurosamente el análisis de riesgos de los sistemas de inteligencia artificial. En este sentido, se podría tomar como referencia las recomendaciones del NIST. No obstante, estaría bien contar con una guía similar propuesta por la Comisión Europea.
El campo de la inteligencia artificial es un ecosistema que está experimentando un crecimiento exponencial y, por tanto, su regulación debe ser atajada con prontitud. Con ello evitaremos la aparición de conductas inadecuadas e indeseadas por parte de personas o entidades que deseen hacer un mal uso de la constante evolución tecnológica que afrontamos.
