La inteligencia artificial (IA) empresarial está evolucionando de sistemas diseñados principalmente para generar respuestas hacia tecnologías capaces de recomendar, coordinar decisiones y ejecutar acciones dentro de procesos de negocio.
Este avance abre una nueva discusión para las organizaciones conforme aumenta la autonomía de la IA. Esto porque la confiabilidad en la IA ya no puede depender únicamente del modelo, sino de todo el sistema que sostiene sus decisiones.
“La discusión está evolucionando porque las empresas están pasando de utilizar inteligencia artificial que responde preguntas a incorporar sistemas con capacidad de intervenir en decisiones y procesos. Eso exige preguntarnos no solamente qué tan bueno es un modelo, sino con qué datos trabaja», señaló Mario Ulloa, Country Lead de SAS para México.
Estos son datos gobernados, modelos especializados, explicabilidad, supervisión humana, gobernanza durante todo el ciclo de vida y agentes que operan bajo límites previamente establecidos.
“La ética no puede quedarse únicamente en una declaración de principios. Tiene que reflejarse en la forma en que una organización administra sus datos, entiende sus modelos, establece responsabilidades y controla lo que puede o no puede hacer un agente”, agregó Ulloa.
Calidad de los datos en el proceso
De acuerdo con Ulloa, la calidad de los datos constituye otra parte de esa ecuación. Esto porque un sistema puede contar con un modelo avanzado, pero si utiliza información cuya procedencia, calidad o transformación no puede verificarse, la confianza en sus decisiones también se debilita.
También está cambiando la discusión sobre qué modelos necesitan las empresas. Frente a una aproximación basada exclusivamente en grandes modelos generalistas, los anuncios de SAS ponen énfasis en modelos analíticos y agentes especializados en problemas e industrias concretas.
SAS Supply Chain Agent, por ejemplo, puede evaluar escenarios de demanda y abastecimiento y explicar cómo llega a sus conclusiones; mientras que los modelos de fraude financiero de la compañía se apoyan en patrones procedentes de millones de eventos del sector.
“Un modelo puede tener enormes capacidades generales, pero en sectores regulados o procesos críticos el contexto es determinante. Las organizaciones necesitan combinar capacidad analítica, conocimiento especializado, datos confiables y controles que permitan comprender y supervisar las recomendaciones antes de convertirlas en acciones”, indicó Ulloa.
En este sentido, la supervisión humana permanece, precisamente, como otro componente de esta arquitectura. Por ejemplo, los agentes anunciados para SAS Customer Intelligence 360 operan con guardrails y puntos de intervención humana, mientras que las nuevas capacidades de SAS Viya buscan conectar copilotos y agentes con analítica gobernada y conocimiento específico de industria.
