Los Verdaderos Problemas de Costo, Seguridad y Cultura Detrás de los Agentes de IA Empresariales

```html

En el reciente evento AI Impact de VentureBeat, donde la discusión se centró en lo que separa a las empresas que escalan la IA de agentes de aquellas que se estancan en modo piloto, Brian Gracely, director sénior de estrategia de portafolio en Red Hat, detalló lo que las empresas realmente encuentran una vez que los agentes llegan a producción. Profundizó en la disciplina de costos, los puntos ciegos de seguridad únicos de los sistemas autónomos y la fricción organizacional que determina si la adopción de agentes se extiende más allá de los primeros defensores.

Las empresas sobreestiman lo atrás que están en agentes de IA

Muchos líderes empresariales, especialmente aquellos que siguen las conferencias clave de la industria y los anuncios de IA, temen quedarse peligrosamente atrás de los competidores que implementan agentes a escala. Sin embargo, según Gracely, gran parte de esa ansiedad refleja una percepción errónea de la rapidez con la que las organizaciones aprenden una vez que comienzan a construir. Los equipos a menudo avanzan en la curva de aprendizaje mucho más rápido de lo que esperan. Sin embargo, ese progreso rápido crea un desafío diferente. A medida que aumenta el uso de agentes, los costos de IA también se disparan, convirtiendo la gestión de costos de una preocupación de ingeniería en una discusión recurrente en la sala de juntas. El uso de IA de agentes es órdenes de magnitud mayor que durante la era de los chatbots, lo que convierte los costos de IA en una preocupación creciente para las empresas. Al mismo tiempo, las organizaciones son cada vez más conscientes de su dependencia de un pequeño número de proveedores de modelos. Según Gracely, esa combinación está impulsando a muchas empresas a explorar alternativas que les brinden un mayor control sobre los costos y la infraestructura. "Los dos o tres principales proveedores ya le están diciendo al mercado que están perdiendo dinero, y están tratando de salir a bolsa para compensar esas brechas", explicó. "En algún momento, la dependencia de eso significa que o comprará a un nivel de costo muy alto, o encontrará alternativas para controlar lo que está haciendo".

Ajustar el tamaño de los modelos de IA es la palanca más rápida para reducir los costos de los agentes

El mayor problema de costos es que las empresas gastan de más al elegir por defecto el modelo más capaz disponible, independientemente de la complejidad de la tarea. "Si solo estoy tratando de resolver una reclamación de seguro, no necesito conocer la historia de la civilización occidental en mi modelo, no necesito saber los resultados de la Copa del Mundo de fútbol", dijo Gracely. El enrutamiento semántico es el mecanismo que muchas empresas utilizan para tomar esa decisión automáticamente, clasificando las solicitudes y enviando cada una a un modelo dimensionado para la tarea sin requerir que los usuarios elijan, mientras que las técnicas de infraestructura como el almacenamiento en caché de consultas repetitivas reducen la frecuencia con la que una solicitud necesita llegar al cómputo de GPU. Juntas, dijo, estas herramientas eliminan la suposición de que la eficiencia y la innovación tiran en direcciones opuestas. "Hay mucho que se puede hacer a nivel de infraestructura de GPU, y bastante que se puede hacer en términos de flexibilidad de modelos", explicó. "Esas brindan excelentes opciones en términos de las palancas que está tratando de mover, ya sea que necesite eficiencia o innovación. Esa no debería ser una elección binaria". La disciplina financiera necesaria para el gasto en tokens es similar a las prácticas de FinOps que tardaron años en madurar para tomar el control del gasto en cómputo en la nube. Esos marcos subyacentes se transferirán incluso cuando cambie el vocabulario, dijo Gracely, especialmente a medida que las organizaciones impulsan la educación interna sobre la selección de modelos para que los equipos dejen de elegir por defecto la opción más destacada para tareas que no la necesitan. "De la misma manera que primero tuvimos que enseñar a las personas de finanzas qué es una instancia EC2 y qué es un bucket S3, tendrá que empezar a explicarles los tokens", dijo. "No siempre necesitamos un Rolls-Royce. No siempre necesitamos caviar, porque estamos tratando de hacer cosas básicas".

La velocidad de los parches es ahora crítica a medida que las herramientas de IA encuentran vulnerabilidades más rápido

El descubrimiento de vulnerabilidades impulsado por IA está obligando a las empresas a repensar la rapidez con la que pueden identificar, validar e implementar parches. Los ciclos de gestión de parches establecidos desde hace mucho tiempo pueden ya no ser lo suficientemente rápidos en un entorno donde la IA puede descubrir —y los atacantes pueden explotar— nuevas vulnerabilidades mucho más rápido. "La mayoría de las empresas probablemente tendrán una ventana de entre siete y 14 días para mantenerse a la cabeza", dijo. "Hay grupos, incluido Red Hat, que crearán parches para esto, pero la ventana de embargo será corta". La IA también está cambiando lo que los defensores necesitan buscar. En lugar de simplemente descubrir fallos críticos aislados, las herramientas de seguridad de IA pueden identificar combinaciones de vulnerabilidades aparentemente menores que solo se vuelven peligrosas cuando se encadenan. A medida que la complejidad del software y el descubrimiento de vulnerabilidades se aceleran, Gracely argumentó que la capacidad de gestionar y actualizar software rápidamente se está convirtiendo en una capacidad estratégica en lugar de simplemente operativa.

Expertos en la materia y equipos de cumplimiento deciden si los agentes escalan

Al final, la adopción organizacional se reduce a la necesidad de una participación profunda y sostenida de los expertos en la materia cuyo conocimiento el agente pretende codificar, lo que hace que obtener su aprobación sea un requisito previo en lugar de una ocurrencia tardía. "Hay que pensar en los incentivos, en lo que haces por las personas que participan en este trabajo para que no se sientan amenazadas de que les quitará el trabajo, y en cómo incentivar a las personas a largo plazo para que cooperen con esa innovación", dijo.

``` ```html ```