El Costo Oculto de la Inteligencia Artificial

A todos nos está tocando el mandato de moda: “Tenemos que meter Inteligencia Artificial en el flujo principal del producto”.

Rápidamente te sientas a revisar adónde quiere integrar esta tecnología. Te das cuenta de que los usuarios se están perdiendo en la configuración de sus cuentas porque la arquitectura de información es un desastre heredado de un rediseño apresurado de hace tres años. La respuesta que exige tu corporativo es meter un chatbot conversacional impulsado por modelos genéricos masivos para que el usuario pueda pedir, por texto libre, cambiar su correo electrónico.

Estás alquilando un camión de mudanzas de ocho toneladas para cruzar la ciudad a entregar una triste caja de zapatos. Es aparatoso, hace mucho ruido comercial y, sobre todo, cuesta una verdadera fortuna.

Y aquí es donde veo fallar a muchos talentos con cinco o diez años de experiencia. Mientras gran parte del teatro corporativo aplaude el lanzamiento de estas funciones “innovadoras” con comunicados entusiastas, alguien en finanzas empieza a recibir las asfixiantes facturas de cloud computing a fin de mes. La mayoría de los Diseñadores Mid-Senior deciden mirar hacia otro lado cuando se habla de costos de servidores, asumiendo que ese problema habita en la computadora del CTO. Si quieres dejar de ser un proveedor de pantallas y ocupar un asiento en la toma de decisiones estratégicas, tienes que entender cómo tus diseños impactan directamente el margen de ganancia operativa.

Durante la última década, la economía del software tradicional nos malcrió. El costo marginal de atender a un nuevo usuario en la nube tendía a cero, según documenta repetidamente Ben Thompson en Stratechery al explicar la viabilidad de los modelos SaaS modernos. Una pantalla estática bien hecha podía servirse a diez mil usuarios o a dos millones por unas fracciones de dólar.

Pero con la IA generativa, esa matemática se fractura. Cada vez que tu usuario le pide a ese flamante chatbot que busque una factura atrasada, un servidor remoto enciende GPUs y realiza un esfuerzo computacional altísimo. Cobran por token. Cobran por cada inferencia. Y los contadores en las oficinas de la matriz se están dando cuenta.

En su ya clásico memorándum estratégico del otoño de 2023 titulado AI’s $200B Question (cuya cifra actualizó meses después a 600 mil millones), David Cahn, socio de Sequoia Capital, señaló la colosal y terrorífica brecha entre los miles de millones de dólares que la industria gasta en infraestructura de IA y los magros ingresos reales que el software genera para pagar esa fiesta. Las empresas queman dólares asumiendo que la euforia tecnológica traerá rentabilidad automáticamente. En las filiales latinoamericanas de estas compañías, operar bajo esa fantasía es jugar a la ruleta rusa con el presupuesto general.

Los Diseñadores maduros tienen ahora una oportunidad espectacular: convertirse en la voz pragmática de la sala. Debes evaluar el costo computacional con la misma disciplina fría y matemática con la que un arquitecto moderno calcula el tonelaje de acero estructural de un edificio. Cuando tu centro de distribución necesita un simple techo de lámina galvanizada, evitas especificar titanio de grado aeroespacial solo porque está brillando en la portada de las revistas del gremio.

Madurez operativa frente al liderazgo inmaduro

Tu trabajo de Diseño estratégico actual exige diagnosticar el problema de fondo antes de prescribir tecnología carísima, como ya escribí en ¿Prompt Engineering? por qué tu IA es tan mediocre como tu estrategia. Incorporar IA para resolver un desastre de jerarquía visual solo automatiza la fricción y la multiplica por cien en la factura de la API.

En nuestra realidad regional, donde un competidor local de mid-market puede quitarte cuota de mercado simplemente porque maneja márgenes más sanos y cobra tarifas más bajas, quemar decenas de miles de dólares en operaciones redundantes impacta el flujo de caja. Curiosamente, ese mismo presupuesto de 5,000 USD mensuales en tokens que la empresa desperdicia intentando “platicar” con el usuario, suele ser la cifra exacta que usan para justificar un recorte de talento senior en tu departamento al final del bloque fiscal.

Defiende tu oficio con números reales y palpables. Vuelve a los fundamentos. Una arquitectura de información limpia resuelve el ochenta por ciento de los laberintos cognitivos por un espectacular costo marginal de cero. Un simple campo de texto bien guiado o un menú desplegable ordenado resulta infinitamente más barato y útil que procesar lenguaje natural ambiguo. Tu tarea crítica radica en determinar la coordenada precisa del viaje del usuario donde el esfuerzo algorítmico resulta financieramente justificable. Ese punto mágico existe, pero debes saber aislarlo del resto del ruido.

Protégete protegiendo la rentabilidad

La próxima vez que un Product Manager entusiasta en una junta intercontinental exponga un plan costoso para resumir el panel de notificaciones con algoritmos pesados, saca un cuaderno y dibuja un cálculo de servilleta frente a todos.

Pregunta abiertamente cuántos usuarios activos interactuarán diario con esa función. Multiplica el volumen por el costo base de inferencia estimado por el equipo técnico. Detén un segundo la presentación y dilo de frente: “Integrar esto nos costará, bajita la mano, 4,000 USD mensuales en llamadas a la API y el impacto en retención es estadísticamente incierto. Si simplemente diseño jerarquías de lectura y agrego filtros cronológicos sensatos, me toma dos días de desarrollo, el costo operativo continuo es cero y salvamos el margen de este tier de suscripción”.

Justo en el instante en que pronuncias esa frase con absoluta calma, pasaste oficialmente de ser un dibujante de cuadros digitales a comportarte como un arquitecto del negocio.

Renuncia a la idea de que la tecnología te dará un permiso mágico para saltarte el rigor metodológico. La verdadera rentabilidad ética para nuestra industria se encuentra en la máxima elegancia de la solución. Busca exprimir todo el impacto humano y comercial posible extrayendo la mínima cantidad de recursos operativos.

Felices trazos.