Por qué las organizaciones deberían preocuparse por la IA responsable y la ética digital
La confianza es fundamental para las empresas, especialmente cuando se trata del uso responsable de la inteligencia artificial. Explore el caso de la IA responsable y la ética digital con IDC.
Confianza, ciudadanía corporativa y el carácter cambiante de la sostenibilidad corporativa
IDC define la confianza como una nivelación ascendente de la conversación de seguridad para incluir atributos como riesgo, cumplimiento, privacidad e incluso ética empresarial . Durante las últimas décadas, la complejidad del término «confianza» en un entorno empresarial ha aumentado continuamente. La digitalización ha contribuido a esta tendencia, por ejemplo, las preocupaciones sobre el uso de datos y los procesos de toma de decisiones en el contexto del uso de la inteligencia artificial (IA), pero también las expectativas más normativas que varias partes interesadas tienen hacia el comportamiento y la ciudadanía corporativa de una empresa. El número de interesados en sí mismo también ha crecido, expandiéndose mucho más allá de los accionistas.
En este contexto, la “sostenibilidad” se ha convertido en un estrato importante para la evaluación del desempeño corporativo a largo plazo en esta nueva economía de partes interesadas. Las empresas ya no se valoran simplemente por el cumplimiento de sus objetivos financieros (a corto plazo), sino también por su impacto en la sociedad y el medio ambiente.
Esta lente no es necesariamente nueva. La responsabilidad social corporativa (RSC), la ética empresarial y la filantropía se han enseñado en las escuelas de negocios de todo el mundo durante mucho tiempo. Varios escándalos corporativos, debates filosóficos sobre la desigualdad de ingresos y otros problemas sociales, y la atención pública por los impactos ecológicos negativos de las empresas se han recogido en los planes de estudio y han provocado respuestas corporativas (aunque en su mayoría se abordan en forma de declaraciones repetitivas).
Desde Friedman hasta Piketty, se ha pensado mucho en los roles de las corporaciones como entidades con fines de lucro, pero responsables. Pero muchos de los debates filosóficos se han centrado en el desempeño de las empresas de una manera bastante cualitativa, o han vinculado el impacto de las empresas con cuestiones macroeconómicas.
Mientras tanto, «digital» y «sostenible» se han convertido en imperativos empresariales. Los avances tecnológicos permiten un cambio sostenible, mientras que los cambios en las creencias sociales aumentan la demanda de nuevas tecnologías. Hoy en día, las empresas miran la sostenibilidad de diferentes maneras, comercial y no comercialmente:
- No comercial (y más tácticamente) a través de la responsabilidad social corporativa (RSE) impulsada normativamente y los esfuerzos filantrópicos («hacer el bien»)
- Comercialmente (y más estratégicamente) a través de enfoques ambientales, sociales y de gobernanza (ESG) basados en métricas que impulsan estrategias comerciales sostenibles («hacer el bien haciendo el bien»)
El uso sostenible de las tecnologías de la tercera plataforma, como la IA, se puede ver desde las dos perspectivas descritas anteriormente: una perspectiva de RSE y una perspectiva de ESG.
En el contexto de la IA, las iniciativas de «IA para el bien» abordan las soluciones de inteligencia artificial desde una perspectiva de «hacer el bien», que puede, si se lleva a cabo de manera eficaz, ayudar a las empresas a crear un propósito entre sus empleados. En última instancia, esto puede contribuir positivamente a la atracción, retención, compromiso y desempeño del talento . Estas iniciativas también pueden ayudar a mejorar el valor de la marca de las organizaciones frente a sus clientes. Sin embargo, a diferencia de los enfoques ESG, las iniciativas de RSE suelen centrarse en aspectos selectivos de las ventajas, con poco efecto sobre la gestión de riesgos o la búsqueda estratégica de oportunidades de diferenciación. La “IA responsable”, por otro lado, aborda el ángulo ESG, es decir, la gestión de riesgos y el fomento de la confianza.
El caso empresarial de la IA responsable: ¿por qué es importante?
Los productos y servicios que abordan la IA responsable y la ética digital ayudan a las organizaciones a reducir el sesgo de datos y algoritmos, aumentar la transparencia y la explicabilidad de sus procesos de toma de decisiones de IA, garantizar el cumplimiento legal, la alineación ética con sus valores y mejorar la gobernanza general de la IA. Las razones morales para invertir en tales soluciones son bastante sencillas: ¿qué organización, por ejemplo, querría que sus sistemas de inteligencia artificial discriminen a sus clientes o solicitantes de empleo o filtren datos confidenciales?
Un enfoque centrado en ESG puede ayudar a identificar varias áreas de riesgo que pueden dañar el desempeño operativo de una organización y constituir importantes riesgos financieros, legales y de reputación.
Los enfoques de IA responsable requieren una comprensión integral de los diversos riesgos asociados con el uso de la tecnología de IA. La investigación de IDC muestra que la mayoría de los usuarios finales todavía se encuentran en etapas relativamente tempranas de sus viajes de IA responsable, lo que destaca por su necesidad de soluciones de terceros en torno a temas como el desarrollo de estrategias y la generación de ideas.
¿En qué parte del ciclo de vida de los sistemas de IA ve la mayor necesidad de inversiones en soluciones de terceros en torno a la ética y la IA?
Adoptar un enfoque ASG garantiza que los responsables de la toma de decisiones evalúen el espectro completo de problemas no financieros que afectan a su negocio. «Sostenibilidad» se utiliza a menudo como sinónimo de «negocio verde» y el enfoque de las empresas en el cambio climático y la descarbonización. Si bien los problemas ambientales son una preocupación importante y un pilar importante de ESG, los problemas sociales y relacionados con la gobernanza son igualmente importantes de considerar y muy relevantes para crear una empresa confiable. El creciente nivel de estandarización y formalización de los informes y la divulgación de ESG hace que sea cada vez más riesgoso para las empresas limitar sus informes a temas que son particularmente «candentes» en este momento o en los que se desempeñan bien.
Aplicar una lente ESG
El enfoque en el impacto del valor empresarial ha hecho de ESG un tema estratégico para la mayoría de las empresas en todo el mundo, según una encuesta reciente de IDC (ver más abajo). ESG se ha convertido en un tema a nivel de CEO / CFO, lo que subraya su importancia para toda la organización y sus implicaciones para la gestión de riesgos y la diferenciación. Casi el 75% de las empresas ya se han integrado o están actualmente en proceso de integrar las consideraciones de ESG en su enfoque empresarial. La necesidad de una captura completa y estandarizada de datos ESG relevantes requiere que las empresas comprendan los estándares de información y divulgación (a menudo con la ayuda de un proveedor de servicios externo) y la evaluación comparativa del desempeño ESG utilizando calificaciones ESG.
Responsabilidad de la implementación de sostenibilidad / ESG y estado actual de la integración de ESG
Pero las empresas también están atendiendo a otras partes interesadas: los empleados expresan cada vez más las acciones corporativas y eligen a sus empleadores en función de su comportamiento como ciudadanos corporativos. Al centrarse en el caso comercial de ESG desde la perspectiva de los empleados, las organizaciones pueden reducir su costo de rotación, particularmente en el contexto de las generaciones más jóvenes, mediante mejores tasas de retención y promoción. A medida que más y más miembros de la Generación Z (personas nacidas entre 1996 y 2010) ingresan a la fuerza laboral, sus deseos, necesidades y expectativas cambiantes también influyen en las perspectivas de talento de las empresas.
¿Qué impacto considera que tienen las soluciones éticas de IA de su organización para preservar cada uno de los siguientes? [1 = No impactante; 5 = Muy impactante] | ¿Qué probabilidades hay de que trabaje con una empresa de consultoría empresarial durante los próximos 12 a 24 meses para obtener ayuda con respecto a sus productos / servicios dirigidos específicamente a miembros de la Generación Z *? |
Los clientes son otro grupo de partes interesadas importante a considerar, y sus expectativas y requisitos hacia una empresa de confianza pueden diferir de, digamos, los inversores. Si bien los inversores tienden a evaluar los problemas de ESG en función de la industria, siguiendo los estándares y marcos de ESG, los clientes se centran más en la reputación de la marca y confían en otros canales además de las calificaciones de ESG y los informes de sostenibilidad para tomar decisiones de compra.
El amplio espectro de temas de ESG y grupos de partes interesadas requiere que las empresas consideren los riesgos relacionados con ESG y las oportunidades comerciales en todas las funciones, manteniendo una estrecha interacción entre las partes interesadas internas como el CEO, CFO, CIO, etc.
ESG y el uso confiable de la tecnología: el caso de la IA responsable
El uso de inteligencia artificial (IA) proporciona un gran ejemplo de cómo ESG está conectado con los diversos aspectos que definen la confianza en el contexto del uso de tecnologías de la 3ª plataforma. Como muestra la investigación de IDC, los usuarios finales de la tecnología de inteligencia artificial están preocupados por el impacto de la inteligencia artificial en varias áreas de su negocio, por ejemplo, en términos de privacidad general de los datos, con respecto al efecto en la experiencia del cliente (incluida la privacidad de los datos, pero también una decisión justa). -procesos de realización de hipotecas y préstamos, etc.), la experiencia del empleado (decisiones de contratación no discriminatorias), la reputación general de la organización y el cumplimiento legal.
Estos temas están directamente vinculados a varios problemas ESG descritos por estándares de informes como SASB (por ejemplo, “privacidad del cliente”, “seguridad de los datos” y “diversidad e inclusión”) y son de interés para una variedad de partes interesadas. A través de una lente ESG, los responsables de la toma de decisiones pueden abordar esta combinación de cuestiones éticas, de reputación y de cumplimiento que constituyen la confianza en un entorno corporativo y garantizar que cada uno de estos temas se aborde de manera suficiente.
Los enfoques ESG no necesariamente abordan nuevos fenómenos, y la digitalización y las nuevas tecnologías exponen a las empresas a problemas que podrían haber prevalecido en otras formas. Pero una visión de ESG ayuda a las empresas a especificar, cuantificar y evaluar sus riesgos específicos de ESG, identificar oportunidades para la diferenciación estratégica y capitalizar este proceso convirtiendo los temas anteriormente «no financieros» en problemas comerciales financieramente importantes y la «confianza» en un factor de ingresos. Todo esto debería constituir un caso de negocio convincente para las soluciones de IA responsable y ética de datos que vaya más allá del mero propósito de «hacer el bien».
Traducción del artículo original de IDC
https://blogs.idc.com/2021/02/19/why-organizations-should-care-about-responsible-ai-digital-ethics/
Oct. 28, 2020