Claves para el éxito del «C-Suite» en la era de la IA en todas partes

Con empresas de todos los sectores y regiones subiéndose al tren de la IA, ésta (incluida la GenAI) ha ganado mucho impulso en los últimos años. Sin embargo, los CEO y CIO expresan poca confianza en la madurez de la comunidad de proveedores de tecnología para comprender los riesgos asociados con el uso de la IA.

La encuesta de directores ejecutivos de IDC 2024 muestra que poco menos de la mitad de los 354 directores ejecutivos (45 %) encuestados sienten que los proveedores de tecnología no comprenden completamente el potencial de riesgo negativo de la IA. Este sentimiento fue compartido por aproximadamente dos tercios de los CIO encuestados como parte de la reciente encuesta rápida de CIO de IDC, que se llevó a cabo en enero de 2024.

Perspectivas de la C-Suite: Elaborar estrategias de gestión de riesgos será clave para el éxito en la era de la IA en todas partes
El potencial de riesgo a la baja se define como la probabilidad de resultados negativos o consecuencias adversas asociadas con una decisión o inversión en particular. En términos de IA, esto se traduce en las siguientes categorías de riesgo clave:

Riesgos relacionados con la seguridad y los datos : las amenazas a la ciberseguridad y las violaciones de datos son riesgos asociados con la IA, especialmente en los casos en que los modelos tienen acceso a datos confidenciales de la empresa y a datos personales de los clientes.
Impacto ambiental y social : si bien el alto consumo de energía de los sistemas de IA puede dañar potencialmente el medio ambiente a través del aumento de las emisiones de carbono, la automatización a gran escala de los procesos comerciales puede reducir la necesidad de intervención humana en algunas funciones e industrias, lo que resulta en una mayor tasa de desempleo.
Gobernanza : contar con un marco de gobernanza de la IA fundamental para regular el uso de la IA es esencial, ya que la falta de comprensión y transparencia sobre cómo se desarrollan los algoritmos de IA y cómo evolucionan los modelos con el tiempo puede generar preocupaciones sobre el sesgo y la explotación de los datos. También ha habido casos de alucinaciones, que han suscitado dudas sobre la credibilidad y la responsabilidad de la IA en la toma de decisiones empresariales. De manera similar, los casos de ataques de reidentificación de datos personales anónimos han provocado conversaciones sobre el aspecto ético del uso de IA en datos sensibles y confidenciales.
Con la adopción generalizada de la IA en múltiples funciones comerciales y casos de uso, la necesidad de identificar riesgos e idear estrategias y programas efectivos para abordarlos se ha convertido en un requisito comercial crítico. De hecho, los directores ejecutivos encuestados en 2024 citaron la mejora de la postura de gestión de riesgos de la organización como la segunda mayor prioridad de este año.

En ausencia de una estrategia integral de mitigación de riesgos, las organizaciones tendrán dificultades para aprovechar los verdaderos beneficios de la IA y aprovecharla con confianza para fundamentar sus decisiones comerciales. En tal escenario, los proveedores de tecnología pueden desempeñar un papel fundamental para apoyar y guiar sus esfuerzos. Pero primero, necesitarán ganar credibilidad como expertos y asesores confiables en IA centrándose en los siguientes factores críticos:

Transparencia : al generar transparencia sobre cómo se entrenan los modelos de IA y proporcionar información sobre el procesamiento y almacenamiento de datos, los proveedores pueden aumentar la confianza en sus soluciones. Reducir la opacidad de las operaciones del sistema de IA también ayudará a abordar las preocupaciones sobre el sesgo y la discriminación de los datos.
Confianza : es necesario centrarse en la explicabilidad del proceso de toma de decisiones del modelo de IA para establecer confianza en el resultado del sistema y aumentar la confianza del cliente para aprovecharlo en la toma de decisiones comerciales.
Cumplimiento : otro aspecto crítico a considerar es el cumplimiento por parte del proveedor de tecnología de las normas vigentes de privacidad y seguridad de datos, así como de los mandatos ESG. Esto no solo abordará el requisito de cumplimiento normativo, sino que también reflejará el compromiso del proveedor de promover el bienestar social y el uso responsable de la IA.
La IA ha captado la atención de los directores ejecutivos y de toda la alta dirección de las empresas. La IA ofrece un gran potencial para fomentar la automatización y la innovación. Sin embargo, al estar en sus primeras etapas, también conlleva riesgos y desafíos que la industria aún está explorando.

Las organizaciones que deseen adoptar la IA obtendrán beneficios si colaboran con proveedores de tecnología y aprovechan su profundo conocimiento de la industria y su experiencia técnica para desmitificar los desafíos y abordarlos de manera efectiva. Los proveedores de tecnología deben comprometerse a generar confianza en los clientes mejorando la transparencia de sus sistemas y garantizando el cumplimiento de los estándares y mandatos regulatorios vigentes.

https://blogs.idc.com/2024/04/08/c-suite-keys-to-success-in-the-age-of-ai-everywhere/
8 DE ABRIL DE 2024