El mercado exige más matemáticas, no más copilotos

Durante los últimos años hemos convertido la inteligencia artificial en una conversación.

Le hacemos preguntas, le pasamos documentos y le pedimos que resuma, compare, redacte o proponga. La interfaz es sencilla y el resultado suele sorprender. Los copilotos han logrado algo importante: acercar capacidades complejas a personas que no necesitan saber cómo funcionan por dentro.

Son útiles. Yo también los uso.

Pero es fácil confundir lo fácil que resulta conversar con la solidez del sistema que hay detrás.

Un asistente puede explicar muy bien una situación mal definida. Puede ordenar datos incompletos, redactar una conclusión convincente o sugerir una respuesta razonable. Lo que no puede hacer por sí solo es arreglar la falta de un modelo.

Y ese es, para mí, uno de los límites actuales de muchas propuestas de inteligencia artificial: cada vez tenemos más interfaces capaces de hablar, pero seguimos necesitando sistemas capaces de medir, calcular y justificar.

Definir cuáles son las variables importantes. En qué unidades se expresan. Qué relación hay entre ellas. Qué restricciones deben respetarse. Cuándo un cambio es significativo y cuándo puede ser solo ruido. Qué datos faltan y cuánta incertidumbre puede admitir una conclusión.

Un copiloto puede ayudarnos a plantear estas preguntas, pero no debería esconder que todavía necesitan una respuesta concreta.

Pensemos en una organización que quiere anticipar una desviación presupuestaria. No basta con juntar informes y pedirle a una inteligencia artificial que valore la situación. Primero hay que decidir qué entendemos por desviación, con qué periodo la comparamos, qué partidas incluimos, qué margen aceptamos y qué condiciones justifican una alerta.

Lo mismo pasa en la industria, la energía, la logística o la gestión de recursos. También en un sistema personal que reúna información de dispositivos y sensores.

La conversación puede hacer que el resultado se entienda. El cálculo tiene que hacerlo consistente.

Cuando una herramienta participa en una decisión, necesitamos saber de dónde salen los datos, qué operación se hizo, qué regla se aplicó y qué versión del modelo estaba activa. También tenemos que distinguir claramente entre un cálculo, una interpretación y una recomendación.

Esta separación es clave.

El motor cuantitativo puede calcular una media móvil, comparar un valor con su referencia, detectar una tendencia, encontrar datos que faltan o comprobar si se superó un umbral definido de antemano.

Después, la inteligencia artificial puede traducir ese resultado a un lenguaje fácil de entender, relacionarlo con documentación relevante o ayudarnos a plantear nuevas preguntas.

Y la persona responsable debe poder revisar el proceso y decidir qué hacer.

• Las matemáticas calculan.
• Las reglas ponen límites.
• La inteligencia artificial explica y relaciona.
• La persona interpreta, decide y responde por la decisión.

Cuando mezclamos estas funciones, acabamos con sistemas difíciles de auditar. Cuando las separamos, la inteligencia artificial resulta más útil porque entendemos mejor hasta dónde llegan sus respuestas.

Hay problemas abiertos, cualitativos o ambiguos en los que el lenguaje, la experiencia y el criterio siguen siendo insustituibles. Una conversación puede ayudarnos a explorar una idea, entender un documento, comparar puntos de vista o descubrir una pregunta que todavía no nos habíamos hecho.

La escritura, la investigación y la reflexión no son ecuaciones.

Pero cuando una propuesta promete optimizar, predecir, priorizar, detectar o recomendar, conviene preguntar qué estructura hay detrás de esos verbos.

• ¿Qué se está optimizando?
• ¿A partir de qué variables?
• ¿Con qué función de coste?
• ¿Respecto a qué referencia?
• ¿Bajo qué restricciones?
• ¿Con qué margen de error?

Si no podemos responder, quizá todavía no tengamos un sistema inteligente. Tal vez solo tengamos una interfaz que habla muy bien.

Necesitan identificar qué decisiones se repiten, qué información las alimenta, qué criterios se usan de verdad y qué excepciones aparecen. Necesitan convertir el conocimiento disperso en reglas claras y separar lo que puede automatizarse de lo que requiere supervisión humana.

Este trabajo es menos llamativo que añadir una ventana de conversación, pero es mucho más importante.

Antes de aplicar inteligencia artificial a un proceso, convendría poder responder, como mínimo, a seis preguntas:

1. ¿Qué decisión queremos mejorar?
2. ¿Qué variables influyen en ella?
3. ¿Qué calidad y procedencia tienen los datos?
4. ¿Qué cálculos o reglas deben ser deterministas?
5. ¿Qué parte puede interpretar o explicar un modelo lingüístico?
6. ¿Quién valida el resultado y asume la responsabilidad final?

Estas preguntas no frenan la innovación. Evitan que innovar consista simplemente en envolver la incertidumbre con una respuesta bien escrita.

Dependerá de arquitecturas en las que distintas capacidades trabajen juntas: bases de datos fiables, motores de reglas, modelos estadísticos, fórmulas verificables, sistemas para recuperar documentos e interfaces conversacionales.

En esa arquitectura, el copiloto sigue teniendo un papel valioso. Puede ser la puerta de entrada al sistema: recibe una pregunta, busca información, pide un cálculo y explica el resultado.

Pero no sustituye las estructuras que garantizan que ese resultado sea consistente.

Esta diferencia también permite diseñar sistemas más seguros. Un modelo lingüístico no tiene que decidir por sí solo si hubo una desviación. Puede consultar el resultado de una regla validada. Tampoco tiene que inventarse una operación: puede usar una fórmula documentada. Y si faltan datos, el sistema puede decirlo claramente en lugar de rellenar el hueco con una suposición plausible.

La calidad no viene de confiar más en la inteligencia artificial, sino de darle una función más clara.

Cuando hablo de matemáticas no me refiero solo a ecuaciones complicadas.

Me refiero a proporciones, límites, probabilidades, series temporales, reglas de decisión y relaciones entre variables. A definir qué medimos y por qué. A reconocer la incertidumbre. A documentar un procedimiento para que otra persona pueda revisarlo.

En otras palabras, hablo de convertir el criterio en una estructura que se pueda comprobar.

Los copilotos han hecho que interactuar con la tecnología sea más natural. El siguiente paso es conseguir que los sistemas sean también más rigurosos, trazables y responsables.

No tenemos que renunciar a la conversación.

Tenemos que dejar de usarla como sustituto de la formalización.

La inteligencia artificial puede ser la interfaz. Puede ayudarnos a preguntar, entender y comunicar.

Pero cuando las decisiones importan, las matemáticas siguen siendo la infraestructura.