En los últimos años, y más en concreto en los últimos meses, hemos sido testigos de una revolución tecnológica que progresivamente ha transformado la forma en que interactuamos con el mundo que nos rodea. La irrupción de la inteligencia artificial nos ha generado decenas de temas que abordar y se ha consolidado como uno de los avances más significativos de nuestra era, abriendo un abanico de posibilidades inimaginables hasta hace poco tiempo. Esta tecnología ha permeado diversos ámbitos de nuestra sociedad, pero quizás uno de los campos donde ha dejado una huella más profunda es en el mundo de las marcas y la experiencia de cliente.
Aplicación a la robótica, cumbres globales, riesgos de su implementación para las empresas… La IA ha proporcionado a las marcas herramientas poderosas para mejorar y personalizar la experiencia que ofrecen a sus clientes. Gracias a algoritmos sofisticados y sistemas de aprendizaje automático, las empresas pueden recopilar y analizar grandes volúmenes de datos de los consumidores, lo que les permite comprender mejor sus necesidades, preferencias y comportamientos. Esta información valiosa se traduce en la capacidad de adaptar los productos, servicios y mensajes de las marcas de manera más precisa y eficiente.
Como afirmó el gurú tecnológico y cofundador de Microsoft, Bill Gates, «es el futuro». Tanto es así, que la CX no volverá a ser la misma tras su llegada. En la actualidad es común encontrarnos con chatbots y asistentes virtuales que nos atienden de manera rápida y efectiva, brindándonos respuestas a nuestras preguntas o soluciones a nuestros problemas en tiempo real.
La base del enfoque de SAP respecto a la ética en la IA
es su compromiso de defender y apoyar la Declaración
Universal de los Derechos Humanos
No obstante, también plantea interrogantes y reflexiones sobre el nuevo mundo que ha generado. ¿Hasta qué punto estamos dispuestos a dejar en manos de la tecnología decisiones importantes que afectan nuestra vida diaria?
Inteligencia artificial: Manual ético
En este contexto, SAP considera que la inteligencia artificial puede abrir posibilidades ilimitadas a empresas, gobiernos y a la sociedad en general, pero también puede generar desafíos económicos, políticos y sociales, dependiendo de cómo se utilice e implemente.
Por ello, la compañía ha lanzado un manual para el uso ético de la IA, con el propósito de guiar a sus empleados en la aplicación de su política de inteligencia artificial. Esta política, que rige el desarrollo, la implementación, el uso y la comercialización de los sistemas de IA en SAP establece unas reglas éticas claras que están alineadas con los principios rectores establecidos por SAP para la IA y los valores de la organización:
- SAP se guía por sus valores
- Diseña para las personas
- Hace posibles los negocios sin prejuicios
- Busca la transparencia y la integridad en todo lo que hace
- Cumple los estándares de calidad y seguridad
- Da prioridad a la protección de datos y la privacidad
- Se compromete a abordar los grandes retos sociales que plantea la inteligencia artificial
Además, esta política se basa en tres pilares que persiguen generar confianza en las soluciones de IA: la dirección y la supervisión humanas; el abordaje del sesgo y la discriminación; y la transparencia y la explicación del proceso para comprender las decisiones tomadas por el software. La base del enfoque de SAP respecto a la ética en la IA es su compromiso de defender y apoyar la Declaración Universal de los Derechos Humanos. Una parte esencial de ello es la prohibición de la discriminación y el acoso de seres humanos por factores personales, como la raza, el origen étnico, la religión, la edad y el sexo.
Dos capítulos: líneas rojas y proceso de desarrollo
El manual, el cual se puede disfrutar al completo a través de este enlace, consta de dos capítulos. El primero de ellos, denominado ‘Líneas rojas’, aclara qué casos de uso de la IA están prohibidos en SAP: aquellos que atenten contra la libertad individual de los usuarios – desglosada en la pérdida del anonimato, la discriminación y la vigilancia–; los derechos sociales –la IA nunca debe comprometer el debate humano ni ser empleada para la manipulación de los usuarios–; y los daños al medioambiente. Además, incluye la definición de casos de alto riesgo, es decir, aquéllos que no están prohibidos, pero necesitan aprobación para poder desarrollarse. En esos casos, es imprescindible consultar al Comité directivo de ética de la IA de SAP.
Es imprescindible que el uso de la inteligencia artificial
sea ético en todas y cada una de las fases del proceso
En el segundo, ‘AI Factory Process’, se ofrecen las directrices generales a seguir en cada paso del proceso de desarrollo, que consta de cinco etapas: la ideación, la validación, la realización, la creación del producto y las operaciones, en cada una de las cuales deben aplicarse los tres pilares para lograr una IA de confianza. Es imprescindible que el uso de la inteligencia artificial sea ético en todas y cada una de las fases del proceso, desde la identificación inicial de necesidades hasta la recepción del producto final por parte de los clientes, pasando por el diseño de las soluciones y su integración en los procesos de negocio existentes.
