Publiqué un paper académico: cómo gobernar el criterio de tu organización ante la IA

La semana pasada publiqué un paper académico. Tiene DOI, está en Zenodo, que es un repositorio abierto, y lo puedes leer gratis en español y en inglés. Es un preprint: propone un marco como hipótesis y deja declaradas las pruebas que tiene pendientes. La razón para hacerlo así es simple. La industria se está llenando la boca hablando de la importancia del contexto en la IA, y casi nadie se atreve a escribir reglas lo bastante precisas como para que alguien las ponga a prueba y demuestre que están mal.

Si me has leído este año, como escribí en Treinta años después, el contenido ya no manda en el Diseño, sabes que llevo meses dándole vueltas a una idea. Ahora que la IA produce casi cualquier texto, pantalla o presentación en minutos, producir dejó de ser la parte difícil. Lo que separa un buen resultado de uno genérico es la información con la que trabaja la máquina: quién es el usuario, qué decisión de negocio justifica el esfuerzo, qué se intentó antes y por qué no funcionó, y qué cuenta como “bien hecho” en tu empresa. A todo eso le llamo contexto.

El paper es mi intento de ordenarlo en serio. Si es la primera vez que me lees, te cuento tres cosas: por qué decidí llevar esta idea a un formato académico en lugar de lanzar otro post, qué propone el marco y hacia dónde creo que va nuestro oficio como Diseñadores.

El riesgo de dejar las reglas en el aire

Hasta hace unas semanas, las piezas de este marco vivían repartidas en artículos, en dos libros y en un curso. Había mucha profundidad estratégica y muy poco del cómo. Cuando alguien me preguntaba cómo aterrizarlo en su equipo, tenía que mandarle tres links y armar una llamada de una hora para explicarle cómo se conectaban.

El otro problema es que el tema se llenó de promesas vagas. La ingeniería de contexto resolvió una parte importante: qué información le llega al modelo y por dónde. Pero deja abierta la pregunta que a mí me importa: quién decide qué cuenta como el criterio de la organización y cuándo deja de valer. Nielsen Norman Group publicó en junio un artículo sobre context architecture que aplica los principios de la arquitectura de información a los sistemas de IA. No inventé el término, y el paper lo aclara. Lo que propongo es llevarlo del sistema a la organización, porque la decisión de negocio y el criterio también son contexto, y alguien tiene que gobernarlos.

Para que eso sirviera, tenía que estar definido con la precisión suficiente para que alguien en otra ciudad pudiera probarlo y demostrar que estoy equivocado. Un carrusel no aguanta ese nivel de escrutinio. Un documento abierto sí, y además permite que otros equipos construyan encima sin pedirme permiso.

Publicar así también te obliga a corregirte. En una versión intermedia, el marco tenía seis componentes, y el último era la salida: el prototipo o el documento que produce la IA. Al revisarlo apareció una falla lógica que da pena no haber visto antes: si la salida es el resultado del contexto, no puede ser al mismo tiempo parte del contexto. Es como incluir el pan horneado en la lista de ingredientes del pan. La quité. Si esto se hubiera quedado en opinión, el error seguiría ahí sin que nadie lo notara.

Por lo mismo, el paper dice con todas sus letras lo que todavía no sabe. Tiene una sección de evidencia que no encaja con el marco: en uno de los proyectos, el contexto estaba bien declarado y aun así el alcance se movió sin que nadie lo decidiera. Ninguna de sus seis hipótesis se ha probado todavía. Y como yo dirigí todos los casos, falta ver si otra persona puede aplicarlo sin mí.

El paquete de contexto

El problema que atiende seguro lo vives seguido. Un equipo usa el mismo modelo y obtiene resultados muy distintos, porque cada persona le explica el negocio a la máquina a su manera. Al cerrar la sesión, lo que costó aclarar en esa conversación (qué se descartó, qué se decidió) se pierde, y el ciclo vuelve a empezar.

La respuesta que propongo es un artefacto documentado, el paquete de contexto: la información que armas para una tarea o una decisión concreta. Tiene cinco componentes:

• Decisión: para qué se hace, qué está en juego y qué cuesta no hacerlo. Si al cambiarlo cambia el objetivo, va aquí.

• Criterio: las reglas con que la organización juzga si algo está bien, escritas como preguntas de sí o no. Aquí declaras también lo que la IA tiene prohibido afirmar.

• Memoria: lo que pasó, es decir, evidencia, decisiones previas y lo que se intentó y falló, cada cosa con su fecha y su fuente.

• Mundo: cómo son las cosas hoy. Incluye a los usuarios y su contexto de uso, el dominio y su vocabulario, y también el mundo interno de la organización: quién decide, qué teme y por dónde viajan las ideas.

• Estándar: ejemplos de trabajo aceptado y rechazado, cada uno con la razón de su calificación.

Lo que lleva esto más allá de una lista de requerimientos es la gobernanza. Cada elemento indica de dónde viene, quién lo autorizó y hasta cuándo vale.

Para armarlo hay un método de siete etapas con una compuerta antes de generar. Antes de la compuerta puedes explorar con la IA todo lo que quieras; lo que salga de ahí entra como material de trabajo, sin entregarse. Después de la compuerta se construye. En el primer proyecto donde lo apliqué, un prototipo para un cliente de retail, pasé cerca de dos días armando un documento de 93 láminas antes de escribir el primer prompt. Lo más difícil fue decidir qué tenía prohibido inventar la IA. Ese documento terminó siendo la base de trabajo del equipo.

La arquitectura de tus próximas decisiones

De este marco espero cambios muy puntuales.

Primero, que empieces a tratar tu research, tus flujos de usuario y tu sistema de Diseño como la infraestructura con la que tu organización trabaja con IA. Para eso hay que reescribirlos de forma que los pueda usar otra persona, o un modelo, fuera del equipo que los hizo.

Segundo, que la dirección asuma que autorizar el criterio es su responsabilidad. Si se delega completo a las áreas técnicas, lo que importa en la empresa lo termina decidiendo quien no tiene la autoridad para decidirlo.

Tercero, que alguien que no sea yo lo pruebe. Cada hipótesis del paper dice qué la refutaría, y hay un experimento diseñado que todavía nadie ha corrido.

Lo que dejé fuera del paper es lo que creo que viene para nuestra carrera, porque es una conjetura y no algo que pueda sostener ahí. Producir el artefacto final se acerca a un costo casi nulo. En ese escenario, lo escaso, y por lo tanto lo que se va a pagar, es la persona que sabe definir con qué criterio, con qué límites y para qué decisión trabaja una organización con sus personas y sus modelos. Creo que una parte grande de lo que hoy llamamos Diseño se va a mover hacia ahí. El oficio sigue siendo entender una situación y decidir qué hacer con ella; lo que cambia es el material. Y si los Diseñadores no ocupamos ese lugar, lo va a ocupar alguien más. O nadie, y el modelo va a rellenar el hueco con el promedio de lo que ya existe.

Te dejo una pregunta para tu próxima junta de seguimiento: ¿quién autorizó el criterio con el que tu equipo le pidió cosas a la IA esta semana, y hasta cuándo vale? Si la respuesta es un silencio incómodo, ahí tienes un hueco en tu proceso.

Lee el paper (español · inglés), úsalo en tu próximo proyecto y cuéntame en los comentarios qué partes crujieron con tu realidad. Esa evidencia va directo a la versión dos.