Supervisión Corporativa de la Inteligencia Artificial

Este elemento es una expansión del contenido de los cursos y guías de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs]

Inteligencia Artificial y Ética: Ámbitos de la Responsabilidad de Supervisión de la Junta Directiva

La situación sin precedentes en la que se encuentra el mundo entero debido a la pandemia de COVID-19 presenta desafíos fundamentales para las empresas de todos los tamaños y vencimientos. A medida que el pensamiento pasa de la respuesta a la crisis a la recuperación, es evidente que habrá una mayor necesidad de planificación de escenarios en un mundo rehecho por COVID-19. La Inteligencia Artificial (IA) estará probablemente a la vanguardia de la planificación de escenarios basada en datos, dada su capacidad de manejar grandes volúmenes y variedades de datos para adaptarse a la velocidad de un paisaje rápidamente cambiante.

Incluso antes de la pandemia, las áreas para las que las juntas directivas tienen responsabilidad de supervisión parecían expandirse diariamente.Entre las Líneas En los últimos años se ha observado un aumento de las peticiones de supervisión de las juntas en áreas como la cibernética, la cultura y la sostenibilidad, por nombrar sólo algunas áreas de interés. Y los desafíos planteados por la pandemia han aumentado aún más el número y la importancia de las responsabilidades de las juntas.

Otros Elementos

Además, se pedirá cada vez más a las juntas que aborden un área emergente de responsabilidad de supervisión en la intersección de la IA y la ética.

¿Qué es la IA y qué riesgos éticos presenta?

La inteligencia artificial puede definirse de varias maneras, pero tal vez la definición más sencilla sea la utilización de máquinas -es decir, computadoras- para ejecutar tareas que de otro modo requerirían inteligencia humana. La IA también se conoce con una variedad de nombres, como aprendizaje automático, aprendizaje profundo, procesamiento de lenguaje natural y visión de computador. Muchos de nosotros experimentamos la IA a diario, por ejemplo, cuando tenemos que enfrentarnos al sistema de respuesta automática de un proveedor de servicios para contactar con alguien u obtener información.

Como es típico de muchos aspectos de la tecnología, la IA ofrece numerosos beneficios, incluyendo velocidad, consistencia y reducción de los costes laborales. Y a medida que más y más empresas utilizan la IA, y que el uso de la IA se expande a nuevas áreas, las empresas pueden encontrar cada vez más importante utilizar la IA para evitar las desventajas competitivas de no utilizarla.

Sin embargo, la IA plantea tanto riesgos como beneficios. Algunos de esos riesgos no guardan relación con la ética, y van desde los menores, como el hecho de que el reconocimiento de voz no se adapte a los acentos, hasta los mayores, como la contaminación de un suministro de agua o el cierre de una red eléctrica. Entre los ejemplos del mundo real de la IA que se han echado a perder se encuentran los sistemas que discriminan a las personas por su raza, edad o género, y los sistemas de medios sociales que difunden desinformación de manera inadvertida.

Sin embargo, ahora que la IA se ha convertido en una capacidad de negocio necesaria, y no sólo en un “bien para tener”, las empresas ya no tienen la opción de evitar los riesgos únicos de la IA simplemente evitando la IA por completo.

Indicaciones

En cambio, deben aprender a identificar y gestionar los riesgos de la IA de manera eficaz. Para lograr el potencial de colaboración entre personas y máquinas, las organizaciones deben comunicar un plan para la IA que se adopte y se hable desde la sala de correo a la sala de juntas. Al contar con un marco ético, las organizaciones pueden crear un lenguaje común para articular la confianza y ayudar a garantizar la integridad de los datos entre todos sus interesados internos y externos.

Por supuesto, hay una serie de riesgos que son de naturaleza ética.[rtbs name=”etica”]Al igual que la inteligencia humana, un componente crítico de la inteligencia artificial es la información, o los datos; sin datos, las decisiones se tomarían y las medidas se adoptarían arbitrariamente y sin ninguna base lógica. Los siguientes son sólo algunos de los desafíos éticos y de gobernanza asociados con el uso de la inteligencia artificial:

• Múltiples definiciones de la IA y términos relacionados en toda la organización y su ecosistema.
• Enfoque limitado o alineación del propósito de la IA a la misión y valores de la compañía.
• La IA se despliega para objetivos estrechos sin considerar una apertura más amplia de cómo puede cambiar el negocio para mejor.
• El desarrollo de la IA ocurre de manera ad hoc con estándares o barandas limitadas.
• Los datos para el diseño y desarrollo de la IA se adquieren o utilizan sin ningún tipo de comprobación o prueba de sesgo o autenticidad.
• La IA se desarrolla con un enfoque único o primario en la mejora de la eficiencia.
• Los resultados de los sistemas de IA no se supervisan para comprobar que se ajustan a los objetivos previstos

Disponer de un marco y un lente comunes para aplicar la gobernanza y la gestión de los riesgos asociados con la IA de manera coherente en toda la empresa puede permitir una adopción más rápida y coherente de la IA.

¿Por qué el consejo de administración?

Las consideraciones éticas esbozadas anteriormente sugieren la necesidad de algún tipo de supervisión, pero ¿por qué la junta es la parte adecuada para proporcionarla?

Las razones parecen directas.Entre las Líneas En primer lugar, la estrategia y el riesgo están entre las áreas clave de la supervisión de la junta.Entre las Líneas En segundo lugar, la IA es cada vez más una herramienta crítica para avanzar y apoyar la estrategia, pero conlleva riesgos… Véase también:

• Riesgo Legal
• Riesgo País
• Aversión al Riesgo
• Riesgo Subjetivo
• Riesgo Percibido
• Riesgo Objetivo
• Riesgo Funcional
• Riesgo Comparativo
• Conductas de Riesgo
• Caracteres del Riesgo
• Riesgo Moral

Una Conclusión

Por lo tanto, la supervisión ética de la IA por parte de la junta es apropiada, incluso necesaria. La supervisión de la Junta de Inteligencia Artificial por parte de la empresa puede dar el tono adecuado y establecer los principios rectores de un marco ético para la adopción de la Inteligencia Artificial que pueda ser puesto en práctica por la empresa para lograr resultados responsables.

Supervisión de los riesgos éticos de la IA

Áreas de riesgo

Desde la perspectiva de la Junta, algunas de las principales áreas de riesgo ético incluyen:

La justicia: ¿El uso de la IA dará lugar a resultados discriminatorios? ¿Utilizan los sistemas de IA conjuntos de datos que contienen sesgos del mundo real y son susceptibles de aprender, amplificar y propagar ese sesgo a velocidad y escala digital?
Transparencia y explicabilidad: ¿Están los sistemas y algoritmos de IA abiertos a la inspección y son las decisiones resultantes totalmente explicables? ¿Cómo se comunica y se explica a las personas afectadas el uso de la IA que aprovecha los datos individuales antes, durante y después de las interacciones comerciales?
Responsabilidad y rendición de cuentas: ¿Quién es responsable de los resultados no deseados de la IA? ¿Cuenta la organización con un mecanismo estructurado para reconocer y admitir los resultados imprevistos, identificar quién es responsable del problema y quién se encarga de hacer las cosas bien?
Robustez y fiabilidad: ¿Qué medidas de fiabilidad y consistencia deben cumplir los sistemas de IA antes de su puesta en marcha? ¿Cuáles son los procesos para manejar las inconsistencias y los resultados no deseados?
Privacidad y confianza: ¿Los sistemas de IA retienen y/o generan confianza con los clientes, los empleados y otras partes interesadas externas? ¿Genera el sistema de IA percepciones y acciones para los individuos que no esperan, lo que conduce a preocupaciones y cuestiones de confianza y propiedad?
Seguridad y protección: ¿Ayudan los resultados de la IA a mantener o aumentar la seguridad, y han sido probados para detectar errores en entornos controlados? ¿Se han identificado y mitigado los riesgos para la vida humana y los sistemas sociales y económicos?
Como se ha sugerido anteriormente, los riesgos derivados de la IA pueden perjudicar a una amplia gama de empresas de diversas maneras.

Detalles

Las empresas centradas en el cliente pueden enfrentarse a la frustración o la alienación de los clientes si las experiencias de los clientes que incorporan la IA no funcionan como se esperaba, como por ejemplo, si experimentan interrupciones en las sesiones o respuestas sin sentido a preguntas únicas y/o sensibles de los clientes. Tales experiencias pueden resultar directamente en una pérdida de confianza de los clientes, lo que conduce a un daño de reputación. (Tal vez sea de interés más investigación sobre el concepto).

Más Información

Los organismos reguladores pueden descubrir que las empresas violan las leyes o simplemente adoptan prácticas depredadoras o de explotación cuando utilizan datos o enfoques algorítmicos que no incorporan comprobaciones éticas. Los proveedores pueden sufrir pérdidas de tiempo y deterioro de los productos si los sistemas de inventario “justo a tiempo” que utilizan la inteligencia artificial no funcionan como se esperaba. Y así sucesivamente.Entre las Líneas En otras palabras, los sistemas y procesos de IA defectuosos pueden tener un impacto negativo y grave en las empresas.

También cabe señalar que las áreas de riesgo descritas anteriormente pueden implicar una percepción tanto o más que la realidad. Incluso si un “sistema” de inteligencia artificial funciona bien, la percepción de que, por ejemplo, está generando resultados injustos o poco fiables puede ser tan perjudicial como los resultados reales injustos o poco fiables.

Una Conclusión

Por consiguiente, es importante que la junta aborde los riesgos éticos de la IA desde ambas perspectivas: 1) los principios y valores y 2) las normas de funcionamiento.

Gestión del riesgo

Si bien los riesgos éticos asociados a la IA pueden diferir de otros riesgos en algunos aspectos, tienen algunos elementos comunes que muchas juntas están acostumbradas a manejar. Estos elementos incluyen los siguientes:

• Determinar dónde y cómo se utiliza la IA en toda la organización.
• Evaluar si el uso de la IA es apropiado en las circunstancias y si la IA está produciendo los beneficios deseados, sin aumentar la exposición al riesgo de la organización.
• Evaluar los riesgos éticos y de otro tipo asociados con el uso de la IA por parte de la compañía y establecer, o supervisar el establecimiento de, “barandillas” adecuadas en relación con el uso de la IA.
• Familiarizarse con el liderazgo de cada parte de la organización que usa la IA, así como con los individuos con responsabilidad directa sobre la IA.
• Evaluar si el liderazgo y los recursos asignados a la IA son adecuados y, en caso contrario, si existen deficiencias.
• Trabajar con la administración para proporcionar los recursos necesarios y resolver las deficiencias.
• Considerando la contratación de asesores (véase qué es, su concepto jurídico; y también su definición como “assessors” en derecho anglo-sajón, en inglés) independientes para ayudar a la compañía y/o a la junta a definir y mantener un enfoque robusto de la ética de la IA y/o para complementar el conjunto de habilidades de la junta directiva.
• Revisar periódicamente los elementos mencionados para determinar si es necesario hacer “ajustes” o ajustes más sustanciales

Estas y otras medidas adoptadas para gestionar los riesgos éticos de la IA pueden, por lo general, emprenderse como parte de un proceso continuo e integrado de evaluación de riesgos llevado a cabo por la junta, más que en un proceso separado e independiente. Por ejemplo, podrían añadirse exámenes periódicos de la IA y los riesgos conexos a los temas que se abordan habitualmente en el proceso de gestión de riesgos de la empresa, y las personas encargadas de supervisar el uso de la IA podrían incluirse en los exámenes periódicos del talento.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

Otros asuntos relacionados con la supervisión de los riesgos éticos de la IA incluyen dónde reside la responsabilidad de dicha supervisión. (Tal vez sea de interés más investigación sobre el concepto). ¿Ejerce el consejo en pleno esta responsabilidad de supervisión o reside más adecuadamente en un comité del consejo y, en caso afirmativo, en qué comité? La respuesta puede diferir ampliamente entre las empresas, dependiendo de sus respectivas industrias, la forma en que utilizan la IA y la naturaleza de los conocimientos que poseen la junta y sus comités.

Una Conclusión

Por consiguiente, cada junta debe tomar estas decisiones basándose en las características individuales de la empresa, su modelo de negocio y sus miembros.

Además, es posible que las empresas tengan que considerar la composición de sus juntas o comités basándose en parte en la naturaleza y el alcance de su uso de la IA. Una empresa que hace un uso extensivo e impactante de la IA podría considerar la posibilidad de buscar un miembro del consejo que tenga algún grado de familiaridad con la IA y/o la ciencia de los datos. Como se ha señalado anteriormente, una alternativa potencial a tener conocimientos especializados de la junta en el área es la contratación de asesores (véase qué es, su concepto jurídico; y también su definición como “assessors” en derecho anglo-sajón, en inglés) o consultores para ayudar a la junta a supervisar la ética de la IA y/o complementar el conjunto de aptitudes existentes en la junta.

Preguntas para la junta directiva

Preguntas para que la junta directiva considere hacer:

📬Si este tipo de historias es justo lo que buscas, y quieres recibir actualizaciones y mucho contenido que no creemos encuentres en otro lugar, suscríbete a este substack. Es gratis, y puedes cancelar tu suscripción cuando quieras:

Qué piensas de este contenido? Estamos muy interesados en conocer tu opinión sobre este texto, para mejorar nuestras publicaciones. Por favor, comparte tus sugerencias en los comentarios. Revisaremos cada uno, y los tendremos en cuenta para ofrecer una mejor experiencia.

• ¿Cómo puede la IA impactar en nuestro negocio ahora y en el futuro? ¿Cuál es nuestra estrategia de IA?
• ¿Cuál es nuestro enfoque de la gobernanza de la IA? ¿Cómo estamos impulsando la confianza en el uso de la IA por parte de nuestra empresa?
• ¿Cuáles son nuestros principios y/o marco para desplegar y usar la IA de manera responsable? ¿Los hemos comunicado interna y externamente? ¿Cómo se están integrando en las iniciativas de la IA en toda la empresa?
• ¿Quién supervisa el uso de la IA? ¿Dispone esa persona o grupo de recursos adecuados y debidamente capacitados?
• ¿Qué barandillas hemos establecido para hacer frente a los retos asociados con la ética y la gobernanza de la IA?
• ¿Son apropiados nuestros usos de la IA? ¿Están logrando los resultados deseados? ¿Ha creado el uso de la IA riesgos imprevistos, incluidos los desafíos éticos?
• ¿Tenemos un conjunto adecuado de aptitudes en la junta o el equipo de gestión para supervisar adecuadamente el uso de la inteligencia artificial? ¿Necesitamos buscar candidatos a director con las habilidades pertinentes?
• ¿Cómo estamos colaborando con nuestro ecosistema de socios comerciales, proveedores, clientes, reguladores y otros componentes para alinearnos con los enfoques de una IA digna de confianza?

Datos verificados por: Chris

[rtbs name=”gobernanza-corporativa-internacional”] [rtbs name=”inteligencia-artificial”] [rtbs name=”riesgos”]

Recursos

[rtbs name=”informes-jurídicos-y-sectoriales”][rtbs name=”quieres-escribir-tu-libro”]

Notas y Referencias

Véase También

Inteligencia artificial, Supervisión de la Junta, Cumplimiento y ética, Ciberseguridad, Capital humano, Supervisión, Privacidad, Gestión de riesgos

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.