LA INTELIGENCIA ARTIFICIAL EN EL GOBIERNO CORPORATIVO: EL DILEMA DE LA RESPONSABILIDAD Y EL DEBER FIDUCIARIO

Por: Camilo Enrique Cubillos Garzón^[1]

En materia del Derecho Societario, la incursión de la Inteligencia Artificial (IA) ha planteado un conflicto entre la eficiencia de la innovación y la solidez de la ética empresarial; hoy las empresas deben conciliar el ímpetu modernizador de la IA con el estropeado deber fiduciario de actuar con el profesionalismo de un buen hombre de negocios. El fondo del asunto reside en cómo integrar la celeridad y actualidad que provee la IA en el Gobierno Corporativo sin que se socaven los principios éticos y la integridad empresarial.

La Delegación Tecnológica y la Responsabilidad del Administrador

La IA ha generado la Toma de Decisiones Automatizada (TDA), un fenómeno que se soporta en grandes volúmenes de datos para establecer movimientos con celeridad y disminución de fallas humanas; empero, la implementación de sistemas algorítmicos en las decisiones estratégicas o en los sistemas de vigilancia conlleva ineludiblemente riesgos jurídicos, tales como fallas en las cifras, vulnerabilidad de la seguridad de la información o la potencial invalidez jurídica de actos sociales si no existe control humano.

El administrador empresarial, cuyo accionar se cimienta en la Diligencia, Lealtad y el interés de la sociedad, debe ejercer un control diligente; la introducción de la IA jamás desplazará la responsabilidad del hombre, por el contrario, exigirá mecanismos de supervisión y control que garanticen la trazabilidad de las decisiones societarias. 

Recordemos que la delegación de funciones no exime de la obligación de supervisión y la responsabilidad del administrador puede extenderse hasta por la culpa leve (Un sujeto, que pertenezca a una Junta Directiva, no se le exige que sea un contador pero por lo menos debe saber leer unos Estados Financieros). 

Ceder entonces la soberanía de las funciones al no entrar a inspeccionar o no llegar a ejercer un control, constituye que un gestor, perfectamente, se encuentra abdicando o declinando en sus funciones.  

Ética y la Caja Negra Algorítmica

La lucha entre lo ético y jurídico resulta fundamental ya que la TDA transfiere las efectos patrimoniales y personales a un sistema privado que carece de voluntad y discernimiento. 

Sin embargo, esta transferencia plantea ciertos misterios, como el problema de la caja negra (black box problem), donde la IA ofrece resultados sin que se comprenda cabalmente la lógica subyacente de su razonamiento. 

Otro inconveniente es el derivado de los sesgos algorítmicos, que se generan cuando la IA se constituye con datos parciales o segregacionistas, ocasionando prejuicios que llevan a la discriminación laboral o a condiciones crediticias inequitativas; tal fue el caso de Amazon, donde un sistema de contratación se tornó «machista» cuando por la falta de supervisión, se alimentó de datos históricos desacertados debido al tiempo y el grupo, al que se dirigía.

Frente a los riesgos, la Due Diligence se ve reforzada: el administrador debe actuar bajo las reglas de la prudencia, el cuidado y la lealtad, lo que implica no solo mantener una competencia digital mínima sino también garantizar la documentación íntegra del proceso de TDA y la evaluación periódica de sus impactos (Culpa in Eligendo y Culpa in Vigilando).

El Vacío Normativo

En Colombia, existe un vacío normativo para la IA en el ámbito societario, siendo necesario la autorregulación y la adopción de buenas prácticas.

Debe incluirse de cláusulas claras y normales de IA en los códigos de buen gobierno que orienten la TDA bajo principios rectores como la transparencia, la trazabilidad, la equidad, la sustentabilidad y el respeto a los derechos humanos. Es decir que el Gobierno Corporativo debe asumir un rol decisivo, incorporando el riesgo tecnológico en sus matrices de gestión empresarial (Enterprise Risk Management).

Finalmente, la formación y sensibilización del órgano directivo es fundamental; un administrador diligente debe comprender las capacidades, limitaciones y riesgos de la IA para que esta herramienta, lejos de debilitar el deber de diligencia, es obligatorio fortalecer el compliance y traducir en un factor de competitividad y legitimidad institucional. 

La IA es una herramienta y su valor jurídico, depende del marco ético y regulatorio que se le otorgue.