Los expertos piden la máxima flexibilidad para la regulación de la IA

La gobernanza de la inteligencia artificial en las corporaciones se ha convertido en un elemento clave a medida que estas tecnologías se integran en procesos críticos de negocio. Más allá de la eficiencia y la innovación, las empresas deben establecer marcos claros que regulen el desarrollo, uso y supervisión de sistemas de IA, garantizando que su implementación sea ética, transparente y alineada con los valores corporativos y las normativas vigentes. En este contexto, cobra especial relevancia el AI Act, el primer marco regulatorio integral sobre IA de la Unión Europea, que establece obligaciones específicas para proveedores y usuarios de sistemas de IA en función de su nivel de riesgo, reforzando aspectos como la transparencia, la supervisión humana, la gestión de riesgos y la protección de los derechos fundamentales.

Ahora bien, los expertos reclamaron flexibilidad en la normativa. «La IA es algo que evoluciona muy rápido, por lo que vamos a tener una necesidad de regulación que evolucione también muy rápidamente y habrá cosa que tendrán que ser más restrictivas que ahora y viceversa. De hecho, ya existen elementos de la regulación que todavía no se han implementado plenamente y que corren el riesgo de quedarse obsoletos«, comentó Francisco Borja Escalona, director de Data & IA de Carrefour, durante el Observatorio Gobernanza IA en la corporaciones, organizado por elEconomista.es.

En definitiva, «la regulación tiene que ser tan dinámica y flexible como la propia tecnología», puntualizó Paolo Vozzela, chief Information Officer de Solarig. Y apuntó que «es una palanca para implantar un modelo de gobierno y para dejar de tener excusas. En el sector energético ya convivimos con otras regulaciones, como NIS2, que nos ayudan a abrir los ojos a la alta dirección. Es decir, nos permiten demostrar que esto no es una cuestión de unos pocos entusiastas de la tecnología, sino una necesidad empresarial».

En la mesa de debate también participaron Pilar Rebordinos, directora de los Sistemas de Información de Renault Group España; David Romano, AI Product Owner de MyInvestor; Sara Añoto, directora de Analítica de Negocio de Occident; Eugenio Egido, director de Servicios Financieros de Entelgy y Alfredo Zurdo, head of Digital Change de Entelgy.

En este contexto, la gobernanza de la IA implica definir responsabilidades, gestionar riesgos y asegurar la calidad de los datos y los modelos. «Estamos acostumbrados a trabajar con reglas muy estrictas y eso nos permite ser más ágiles y atrevidos que otras organizaciones. Observamos estas herramientas con prudencia, buscando cómo aprovecharlas para mejorar el servicio al cliente y reducir costes«, alegó Romano.

Encarrilar la gobernanza

Además, Zurdo aprovechó la ocasión para concretar que «gobernar la IA no va de poner barreras, sino de poner carriles, que dan dirección, reducen fricción y permiten escalar sin perder control. Las empresas que ya están viendo impacto económico real con la IA no son las que más gastan en tecnología, sino las que tienen claridad sobre quién decide, quién supervisa y quién responde cuando un modelo se desvía o un proceso se tensa. Eso es gobernanza».

Siguiendo esta línea, también se incluye la creación de comités o estructuras internas que supervisen el impacto de la IA en áreas como la privacidad, la toma de decisiones automatizada y la equidad. En palabras de Rebordinos, «utilizar bien la IA no consiste en hacer muchas cosas con ella, sino en monitorizarla adecuadamente. Por ello, es fundamental priorizar: decidir qué elegir, dónde aplicarlo y asegurarse de que sea realmente útil. De lo contrario, se corre el riesgo de pasar el día haciendo pruebas sin retorno».

Del mismo modo, Egido destacó que «la IA ya no es una opción, ha llegado para quedarse, para transformar los modelos de negocio y generar impacto, y quien no vea esto tiene un problema».

Por otro lado, las organizaciones deben prepararse para cumplir con los requisitos establecidos por el AI Act, especialmente cuando empleen sistemas considerados de alto riesgo, incorporando mecanismos de control, documentación y auditoría que permitan demostrar el cumplimiento normativo. Ahora bien, «no se trata solo de desplegar la tecnología, sino de formar a todos los colectivos. Aquí hay compañías que están gobernando muy bien la IA, porque no lo hacen solo desde el ámbito tecnológico sino también poniendo a las personas en el centro. Están formando a sus empleados e implementando planes concretos de adopción», aseveró Egido. Ante este escenario, Añoto continuó explicando que «la IA es una herramienta para poner a las personas en el centro y convertir a los trabajadores en profesionales con capacidades ampliadas».

Además, la directiva de Occident puso el foco en la importancia de captar talento y ser atractivos como empresas para ellos. «Con el auge de la IA generativa, las capacidades disponibles se han multiplicado. Por ello, hoy resulta difícil presentarse al mercado laboral sin conocer estas herramientas, porque los perfiles jóvenes llegan con ellas completamente integradas y las solicitan».

En este sentido, los participantes también dieron relevancia al reskilling —o reciclaje profesional— pues, «siempre ha existido en tecnología, pero ahora debe ser mucho más continuo y frecuente. La velocidad del cambio es mayor. Además, afecta a perfiles que no estaban acostumbrados a que su entorno laboral evolucionara tan deprisa», afirmó Romano. Y Egido matizó que «el reskilling es una de las grandes prioridades, porque es una de las claves será desarrollar adecuadamente las capacidades de todos los profesionales«.

La rentabilidad

Otro de los temas que se debatieron durante la mesa redonda fue el papel del ROI —Retorno de la Inversión, por sus siglas—, ya que en los proyectos de IA no es tan sencillo, «pues existen costes ocultos que no sabemos medir bien», explicó Vozzela. Siguiendo esta línea, argumentó que «ahora mismo se necesita cierta fe en el retorno real de muchos de los proyectos de IA que estamos llevando a producción, pues no estamos buscando un retorno inmediato». Y agregó que «existe una expectativa de retorno, pero todavía no un ROI claramente definido que permita afirmar que una solución es mejor que otra». Asimismo, Escalona alegó que «todas las organizaciones tenemos más casos de uso de los que podemos abordar. Por eso seleccionamos aquellos que previsiblemente generarán un mayor ROI».

Ahora bien, Zurdo diferencia entre ROI y ROE —Retorno por empleado, por sus siglas—, que está vinculado a la productividad. «Si conseguimos ahorrar horas o permitir que los empleados realicen tareas que antes no podían hacer, estamos generando valor. Puede que todavía no sepamos medir perfectamente las mejoras en productividad, pero sabemos que las empresas siguen invirtiendo porque obtienen beneficios», aseguró.

Necesidad de invertir

Sin embargo, muchas empresas pueden ser reticentes en invertir porque no se sabe su beneficio de retorno o porque lo ven como un coste. Ante esto, el directivo de Carrefour expresó que «siempre hemos asumido gastos asociados a los empleados, como ordenadores o herramientas de trabajo. La IA forma parte de una nueva categoría de gasto que debemos asumir porque genera productividad. Es como plantearse si los empleados debiesen utilizar Internet para trabajar: ya no es una cuestión debatible. Lo importante es que utilicen las herramientas que la empresa les proporciona para garantizar la seguridad y el gobierno adecuado». Además, añadió que «No se trata solo de cuánto retorno genera, sino de cuándo, ya que el retorno debe producirse en plazos más cortos porque la tecnología se vuelve obsoleta rápidamente».

Por otro lado, es importante hablar de los tokens, que son pequeñas piezas de texto que la IA utiliza como bloques de construcción para leer, comprender y generar contenido. Así, en relación con esto, Egido apuntó que «hay que controlar el coste de los tokens porque puede dispararse sin que la organización sea plenamente consciente. Algunas empresas se han llevado sorpresas importantes cuando han recibido las facturas. Hay que ser proactivos, no reactivos». No obstante, Añoto no estaba del todo de acuerdo con este argumento y destacó que «hay que evitar limitar en exceso el uso de estos sistemas, porque un control demasiado rígido de los costes puede acabar frenando la innovación dentro de las organizaciones».

Por otro lado, también se puso de manifiesta el papel de la competencia no solo entre compañías, sino entre países es cada vez más fuerte. «Actualmente, los proveedores asiáticos están presionando precios porque ofrecen costes por token significativamente inferiores a los de los proveedores estadounidenses«, comentó Zurdo. Sin embargo, añadió que «la competencia evita situaciones de oligopolio y está demostrando que es posible desarrollar buena IA con costes razonables».

Para concluir, las empresas no solo buscan maximizar beneficios, sino también generar confianza entre clientes, empleados, reguladores y la sociedad en general.