La encíclica Magnifica Humanitas, recientemente publicada, puede leerse como una reflexión católica sobre la inteligencia artificial. Pero, desde lo práctico, hay un punto: obliga a preguntar quién controla el poder tecnológico, con qué finalidad y bajo qué responsabilidad. Esa pregunta es hoy una pregunta de gobierno corporativo. La IA no es un instrumento operativo del área de tecnología y sí es un activo estratégico que puede influir en la toma de decisiones, clientes, trabajadores, proveedores, reputación, entre otros.
El punto de partida del documento es claro: la tecnología no es neutral. Toma el rostro de quien la diseña, la entrena, la financia, la compra y la utiliza. Por eso, en una empresa, la IA no puede quedar reducida a una conversación sobre eficiencia o reducción de costos. Debe llegar a la junta directiva. Cuando un algoritmo perfila consumidores, selecciona empleados, determina precios o clasifica riesgos, la compañía no está simplemente usando software. Está ejerciendo poder.
La encíclica propone un criterio exigente: la IA debe estar subordinada a la dignidad humana y al bien común. La pregunta relevante no es si la empresa debe usar IA, sino si puede explicar para qué la usa, con qué datos, bajo qué controles y quién responde por sus efectos. Es decir, la pregunta a hacer es: ¿quién la gobierna?. Adoptar IA sin inventario de usos, evaluación de impacto y revisión de sesgos equivale a trasladar decisiones humanas a una caja negra. Ese traslado no elimina la responsabilidad; la agrava.
La palabra clave para las juntas directivas es, entonces, “accountability”. Ya es suficientemente desesperante, antes de la IA, la clásica tiranía de “el sistema no me lo permite”. Es insufrible. Ahora la disculpa no puede ser “es lo que la IA dijo”. En gobierno corporativo siempre hay un responsable. Debe existir un responsable del modelo, del dato, del proceso, del proveedor, del control y de la reparación; un Chief AI Officer (“CAIO”). Si la IA interviene en decisiones sensibles, debe haber supervisión humana efectiva y posibilidad real de revisión. La opacidad del algoritmo es incompatible con una cultura seria de control.
Hay, además, un riesgo estratégico. Muchas empresas entregan datos, procesos críticos y conocimiento organizacional a proveedores tecnológicos sin medir dependencia, confidencialidad, ciberseguridad, continuidad operativa. La IA no sólo produce eficiencias; también puede crear nuevas una especie de “subordinación” empresarial.
La encíclica vincula IA y relaciones humanas. Ese es su aporte más profundo. La empresa no es – exclusivamente – un sistema de relaciones contractuales porque también supone intereses, riesgos y expectativas de muchos tipos. Las partes relacionadas dependen de vínculos de confianza (o, por lo menos, desde aquí parte todo). Aquí es determinante evaluar y analizar el riesgo de sesgos que puede tener, precisamente, la IA.
La agenda mínima de una junta debería incluir una política de IA con estos elementos: (i) inventario de usos; (ii) mapa de riesgos; (iii) supervisión humana; y (iv) auditoría al uso. Es más: no sobra incluir la obligación dentro de los estatutos que cuando una decisión se tome, o venga asistida por la IA, así deba decirse en el acta. De la misma forma, es importante dejar claro que la responsabilidad fiduciaria – la humana – no desaparece con el uso de la IA.
¿Y si un miembro de la junta directiva es un agente de IA diseñado para tal fin? Esa será otra discusión.
¿Quiere publicar su edicto en línea?
Contáctenos vía WhatsApp
