Todas las nuevas tecnologías conllevan riesgos cuando se introducen en la operatoria de una empresa. La inteligencia artificial (IA) no es una excepción y los directorios debe evaluar las implicancias por su uso no solo desde un punto de vista regulatorio, sino por la posibilidad de que la empresa reciba algún tipo de reclamo y/o sufra una pérdida financiera.
Aunque estos riesgos variarán de un sector a otro y dependerán de dónde se utilicen las herramientas, pueden existir distintas situaciones que impacten negativamente en la empresa. Por ejemplo, el uso de información confidencial de los clientes que sea subida a un chatbot de IA conlleva un riesgo en sí mismo en la medida que no haya un cabal conocimiento de donde termina esa información. Otro ejemplo es el uso de imágenes que podría conllevar una infracción de la propiedad intelectual. Mas allá de estas nuevas exposiciones, esta nueva tecnología también implica un aumento de la exposición al riesgo cibernético.
A ello se suma que al igual que la IA aún se encuentra en sus primeros días, también lo están la legislación y su regulación. Las organizaciones deben monitorear el panorama legal y regulatorio y asegurarse de que comprenden cómo evolucionan sus obligaciones de cumplimiento de manera similar. Un ejemplo es la Ley de la IA de la Unión Europea (UE).
Si bien muchas empresas son conscientes de los riesgos potenciales de la IA, no están evaluando adecuadamente una estrategia de gestión para mitigarlos.
Un riesgo emergente para directores
En última instancia, la responsabilidad de algunos de estos riesgos podría recaer en la alta dirección: no solo son responsables de gestionar la implementación de la IA, sino que también deben comprender las posibles contingencias que plantean la herramienta y tomar medidas para mitigar los posibles daños y perjuicios. Es más, una falta adecuada de una política de gobernanza en este tema, puede ser alegada contra los directores en forma de incumplimiento de sus obligaciones, afectar la reputación de una empresa y dar lugar a una demanda colectiva.
Principales contingencias
Responsabilidad legal: cuando la IA asume un papel más relevante en la toma de decisiones corporativas, incluyendo su uso no revelado o la divulgación insuficiente de los riesgos asociados.
Reclamos por negligencia: pueden incluir acusaciones de discriminación, sesgo, etc., como consecuencia de fallos en la IA.
Responsabilidad por productos defectuosos/incumplimiento contractual
Reclamos por tergiversación: si se utiliza IA para generar informes como el financiero.
Falta de cobertura de seguros: si una empresa sufre pérdidas debido a un fallo de la IA y no cuenta con una cobertura de seguro adecuada, podrían surgir reclamos y los directores ser considerados responsables por incumplimiento de sus deberes al no haber gestionado una cobertura de apropiada.
A pesar de sus desafíos, una organización debe establecer las mejores prácticas y mantener actualizados la gobernanza, los protocolos de cumplimiento y los marcos legales a medida que evoluciona la tecnología de IA. Las consideraciones a tener presente incluyen:
¿Cuál es el proceso de toma de decisiones para la adopción de nuevas tecnologías?
¿Cómo se hará el seguimiento del uso de la IA y las eficiencias de costos resultantes?
¿Existen medidas de ciberseguridad adecuadas para protegerse contra las vulnerabilidades relacionadas con la IA?
¿Existen procedimientos transparentes para responder a los problemas y errores de la herramienta?
¿Se ha capacitado adecuadamente al personal para usar y gestionar la IA y equipado con los recursos necesarios para hacerlo de manera efectiva?
¿Se ha adquirido una cobertura de seguro adecuada para protegerse contra las pérdidas relacionadas con la IA?
Estas son las preguntas claves que como mínimo un directorio debería responder. A medida que la IA continúa evolucionando, es esencial que las empresas y sus máximos niveles de dirección tengan una dimensión sólida de los riesgos asociados a esta tecnología. Si se toman las medidas adecuadas, se puede aprovechar su potencial y minimizar sus riesgos.
*Director de Placement con responsabilidad sobre caución, crédito y líneas financieras en Lockton Argentina
