El problema de datos de la IA: por qué más información no produce mejores decisiones

La IA no necesita todo: necesita la evidencia correcta

La suposición intuitiva es que un modelo mejora cuando recibe más información. Puede ser cierto cuando la evidencia adicional es pertinente, representativa y confiable. No lo es cuando el material añadido introduce contradicciones, versiones obsoletas, abreviaturas sin explicar, metadatos ausentes o contenido copiado de un repositorio a otro.

Un asistente de IA no puede deducir con certeza las reglas no escritas de una organización. Tal vez no sepa que una política sustituyó a otra, que una hoja de cálculo es solamente una copia de trabajo, que el PDF firmado es el registro oficial o que una oficina regional utiliza una definición diferente para el mismo término. Una persona puede compensar esas deficiencias mediante su experiencia y relaciones. Una máquina recupera lo que su arquitectura, permisos, metadatos e instrucciones ponen a su alcance.

Por eso, las ventanas de contexto más grandes y las búsquedas más amplias no resuelven por sí solas el problema de la IA empresarial. Recuperar más fragmentos puede aumentar el ruido con la misma facilidad que aumenta el conocimiento. La calidad de la decisión depende de seleccionar evidencia, no solamente de acumularla.

Los defectos ocultos del patrimonio de información

Muchas organizaciones describen su desafío como un problema de datos, pero las deficiencias se extienden más allá de las bases de datos. Aparecen en unidades compartidas, plataformas de colaboración, correo electrónico, sistemas operativos, documentos escaneados, contratos, expedientes, políticas e informes. Estas fuentes se crearon para propósitos diferentes y suelen tener controles distintos.

Cuando la IA se conecta con este entorno, las debilidades históricas de información se convierten en riesgos para las decisiones.

• Versiones competidoras: varios documentos parecen oficiales, pero ninguna regla identifica cuál es el autorizado
• Contexto ausente: existe contenido sin la actividad, responsable, fecha, estado o relación necesarios para interpretarlo
• Definiciones incoherentes: los equipos usan el mismo término con significados distintos o términos diferentes para el mismo concepto
• Acceso fragmentado: la evidencia está distribuida entre sistemas con búsquedas, permisos y capacidades de exportación desiguales
• Procedencia desconocida: no puede demostrarse el origen, el historial de transformaciones o la fiabilidad de la información
• Retención excesiva: la información obsoleta y de poco valor permanece disponible después de terminar su propósito
• Permisos débiles: el contenido sensible no está disponible para quien lo necesita o se expone más allá de una necesidad justificada
• Calidad sin medición: nadie responde por la exactitud, integridad, vigencia o idoneidad de la información utilizada por la IA

La calidad de datos es necesaria, pero el contexto convierte la información en evidencia

La calidad de los datos estructurados importa. Los nombres, fechas, códigos, identificadores y reglas de negocio deben ser completos, coherentes y válidos. ISO 8000-61 trata la calidad de datos como un conjunto de procesos gestionados cuya capacidad puede evaluarse y mejorarse. Esa disciplina es esencial, pero las decisiones empresariales también dependen en gran medida de información no estructurada.

Un modelo puede necesitar interpretar una cláusula contractual, una excepción de política, un informe de inspección, una decisión directiva, una solicitud ciudadana, la aprobación de un proyecto o una nota de caso. No son simples datos. Son registros de actividades y su significado depende del contexto, la procedencia, las relaciones y los controles.

ISO 15489-1 relaciona los registros confiables con los metadatos, las responsabilidades, el contexto del negocio, los requisitos documentales y los controles de creación y captura. Por tanto, la gestión de registros e información cumple una función directa en la preparación para la IA: ayuda a identificar qué información constituye evidencia, quién es su responsable, cuál versión es la autorizada, cuánto tiempo conserva validez, quién puede utilizarla y qué debe ocurrir cuando finaliza su periodo de retención.

Una respuesta técnicamente correcta todavía puede apoyar una mala decisión

La calidad de la IA suele medirse al nivel del resultado: ¿la respuesta fue fluida?, ¿citó una fuente?, ¿completó la tarea? Son preguntas importantes, pero no demuestran que la evidencia subyacente fuera apropiada para la decisión.

Una respuesta puede resumir con precisión una política obsoleta. Puede recuperar fielmente un documento que el usuario no tenía derecho a consultar. Puede combinar dos registros válidos cuyos contextos sean incompatibles. Puede citar una fuente y omitir la decisión posterior que cambió su significado.

La pregunta más sólida no es únicamente si el modelo respondió correctamente. Es si la organización puede demostrar por qué se seleccionaron esas fuentes, si eran vigentes y estaban autorizadas, cómo se manejó la incertidumbre, quién revisó el resultado y qué registro de la decisión final se conservó.

Construya una cadena de evidencia para las decisiones asistidas por IA

Un proceso confiable de decisión asistida por IA debe preservar una cadena trazable desde la pregunta de negocio hasta la acción humana o automatizada. El Marco de Gestión de Riesgos de IA de NIST organiza el trabajo en cuatro funciones: Gobernar, Mapear, Medir y Gestionar. Su Perfil de IA Generativa también destaca el valor de la procedencia para comprender el origen y la historia del contenido.

Para un caso de uso empresarial, esa cadena debe hacer visibles los siguientes elementos:

• Propósito: la decisión o el proceso que el sistema de IA debe apoyar
• Fuentes autorizadas: repositorios, conjuntos de datos, registros y versiones aprobados para ese propósito
• Contexto y procedencia: responsabilidad, origen, fechas, estado, relaciones, transformaciones y limitaciones
• Reglas de acceso: permisos y condiciones de privacidad, seguridad, confidencialidad y ubicación geográfica
• Interacción con el modelo: recuperación, instrucción, versión del modelo, configuración y acciones relevantes de las herramientas
• Evaluación: evidencia de pruebas sobre pertinencia, fundamentación, exactitud, sesgo y omisiones importantes
• Responsabilidad: la persona o función autorizada para aceptar, rechazar o actuar sobre el resultado
• Registro de la decisión: el resultado final y evidencia suficiente para explicarlo o revisarlo posteriormente

Cómo es realmente la información preparada para la IA

Información preparada para la IA no significa simplemente información digitalizada, localizable o copiada a un lago de datos. Es información preparada para un uso definido y gobernada durante ese uso.

• Autorizada: las fuentes oficiales y las versiones aprobadas están claramente identificadas
• Pertinente: la información respalda una pregunta, proceso o decisión específica
• Suficientemente completa: se documentan las brechas importantes y las limitaciones conocidas
• Vigente: son visibles las fechas de entrada en vigor, el contenido sustituido y el estado de revisión
• Contextualizada: los metadatos preservan el significado, las relaciones operativas y la procedencia
• Consciente de los permisos: el acceso respeta la privacidad, la confidencialidad, la seguridad y las obligaciones jurídicas
• Coherente: las definiciones, clasificaciones e identificadores pueden conciliarse entre sistemas
• Trazable: la recuperación y el uso pueden auditarse hasta sus fuentes
• Retenida deliberadamente: la información permanece solamente durante el tiempo requerido y se elimina de manera defendible
• Medible: los umbrales de calidad y las excepciones se supervisan a lo largo del tiempo

Comience con una decisión, no con toda la organización

La preparación para la IA puede parecer inabarcable cuando el punto de partida son todos los documentos, conjuntos de datos y repositorios. Un enfoque más práctico comienza con un proceso de decisión valioso y delimitado, donde un mejor acceso a la información pueda generar un beneficio medible.

• Definir el resultado empresarial, el responsable de la decisión, la tolerancia al riesgo y la supervisión humana aceptable
• Trazar las fuentes que utiliza actualmente el personal experimentado, incluidas las soluciones informales
• Identificar los registros autorizados y eliminar o marcar claramente duplicados, borradores y versiones sustituidas
• Mejorar los metadatos mínimos, el vocabulario, los permisos, las reglas de retención y la procedencia necesarios para interpretar
• Probar la recuperación con preguntas realistas, casos extremos, evidencia contradictoria y límites de acceso
• Medir la utilidad para la decisión, no solamente la rapidez: pertinencia de las fuentes, omisiones, correcciones y esfuerzo del revisor
• Capturar la decisión resultante y su evidencia para mantener la rendición de cuentas

Por qué esto importa en América Latina

Las organizaciones que prestan servicios en México, Centroamérica, Sudamérica y otros mercados hispanohablantes suelen operar entre diferentes entornos jurídicos, vocabularios, prácticas de negocio y obligaciones de retención. La información puede existir en español e inglés, utilizar terminología propia de cada país o circular entre sistemas regionales y globales.

Esas diferencias no son casos marginales. Forman parte del contexto que un sistema de IA debe respetar. Una taxonomía compartida, responsabilidades claras, controles localizados de retención y privacidad, y registros confiables de las decisiones pueden reducir el riesgo de que un sistema técnicamente capaz aplique el significado, la política o la jurisdicción equivocados.

Una mejor gobernanza convierte la información en evidencia para decidir

La lección central es sencilla: el volumen de información y la calidad de las decisiones no son lo mismo. La IA no puede crear autoridad, contexto ni responsabilidad donde la organización nunca los estableció.

Antes de añadir otro repositorio, conector, modelo o agente, determine qué información merece confianza y qué controles deben acompañarla. Mejores metadatos, responsabilidades claras, retención defendible, acceso apropiado, procedencia y registros de las decisiones suelen crear más valor que limitarse a proporcionar más contenido al sistema.

El futuro de la IA empresarial no dependerá solamente de quién tenga más datos. Dependerá de quién pueda convertir información gobernada en evidencia confiable en el momento de tomar una decisión.

Antes de su próximo proyecto piloto de IA, evalúe un proceso de decisión de alto valor. The RIMpro puede ayudar a identificar las fuentes autorizadas, las brechas de gobernanza y los controles prácticos necesarios para preparar su información para una IA responsable.