Akamai introduce Agent Sandbox para ejecutar agentes aislados

• Akamai Inference y Akamai Agent Sandbox amplían la capacidad de Akamai Cloud de proporcionar, ejecutar y proteger aplicaciones y agentes de IA del núcleo al Edge

Con la incorporación del servicio de modelos gestionados y la ejecución aislada para agentes de IA en Akamai Cloud, Akamai (Nasdaq: AKAM) ha presentado hoy dos productos básicos para su entorno tecnológico de IA: Akamai Inference y Akamai Agent Sandbox. Con estas incorporaciones, las empresas pueden crear y ajustar modelos de peso abierto propios o alojados, basarlos en sus propios datos, ejecutar agentes dentro de los límites aplicados y proteger las aplicaciones, los agentes y la infraestructura correspondientes, todo ello en una sola plataforma de nube con una infraestructura optimizada para IA.

Estas capacidades marcan el último paso en la estrategia de IA de Akamai: ofrecer a las empresas la infraestructura y los servicios globales de confianza necesarios para proporcionar, ejecutar y proteger las aplicaciones y agentes de IA, cerca de los usuarios y los datos en los que se basan. Akamai Inference y Akamai Agent Sandbox añaden ahora servicios gestionados a esa infraestructura, una base que ya ha asegurado contratos multianuales para Akamai Cloud por un valor total de más de 14 000 millones de dólares. Esta tendencia pone de manifiesto cómo la capacidad de Akamai de aprovechar tanto las CPU como las GPU, junto con el almacenamiento en la nube, las redes y las funciones en el Edge de su tejido de redes globales interconectadas, se está convirtiendo rápidamente en la base de confianza para que los clientes creen, implementen y utilicen cargas de trabajo de IA a escala.

Las empresas que están llevando la IA a la producción necesitan mucho más que modelos. Necesitan infraestructura para la prestación de servicios, acceso a sus datos, enrutamiento y control, y, a medida que los agentes comienzan a escribir y ejecutar su propio código, un límite estricto en torno a dónde puede llegar ese código. La mayoría de los equipos reúnen esas piezas de proveedores independientes y protegen ellos mismos los puntos de interacción. Ahora Akamai Cloud ofrece un entorno de IA conectado, distribuido a lo largo de un conjunto de recursos informáticos que abarca desde clústeres densos de GPU y CPU en regiones centrales hasta más de 4350 ubicaciones en el Edge, y protegido por la misma cartera de soluciones de seguridad que protege a muchas de las empresas online más grandes del mundo.

"Hemos estado implementando una estrategia de infraestructura de IA basada en la idea de que la inferencia de IA representará la mayor parte del enfoque y la inversión empresarial. Nuestros

clientes nos han demostrado esa tesis y nos han llevado más allá", afirma Adam Karon, director de Operaciones y director general de Akamai Cloud. "Quieren crear, ejecutar y proteger la IA en la misma plataforma. Akamai Inference y Akamai Agent Sandbox añaden las capas de inferencia y ejecución que convierten nuestra infraestructura de IA en un entorno tecnológico de IA completo, y nuestra cartera de soluciones de seguridad protege cada una de sus capas. Akamai se encuentra en una posición única para ofrecer nuestra escalabilidad y distribución para abordar la inferencia de escala en tiempo real y las cargas de trabajo agénticas".

Acceder a los modelos sin utilizar el entorno tecnológico: Akamai Inference

Akamai Inference ofrece a las empresas acceso gestionado a modelos personalizados y de peso abierto a través de API compatibles con OpenAI, de modo que las aplicaciones existentes se pueden trasladar sin necesidad de reprogramar. Los clientes eligen implementaciones dedicadas, sin servidor, de inferencia de pago por uso o dedicadas. En el momento de su lanzamiento, el catálogo incluye 12 modelos de peso abierto que oscilan entre los 8000 millones y los 2,8 billones de parámetros, que incluyen NVIDIA™ Nemotron 3 Ultra, OpenAI™ gpt-oss-120b y Google™ Gemma 4, junto con modelos integrados para la generación de recuperación aumentada.

Akamai Cloud proporciona acceso a bases de datos gestionadas y almacenamiento de objetos, y se conecta sin problemas a plataformas de nube pública y privada, de modo que los modelos pueden utilizar datos empresariales. A continuación, Akamai Inference gestiona la orquestación, la ejecución del modelo y la autenticación. Las solicitudes se ejecutan en la red global de Akamai, lo que reduce la latencia y ayuda a garantizar una alta disponibilidad y un rendimiento uniforme, al tiempo que mantiene unos niveles de servicio predecibles.

Proporcione a los agentes un lugar donde ejecutarse: Akamai Agent Sandbox

Los agentes de IA están haciendo cada vez más trabajo real, desde realizar acciones en nombre de un usuario hasta escribir y ejecutar su propio código. Akamai Agent Sandbox ofrece a los desarrolladores un lugar seguro para realizar ambos. Los agentes se ejecutan en Akamai Functions, y el código que escriben se ejecuta en su propio entorno aislado, separado del tiempo de ejecución del agente. Suministrado como un componente de código abierto del marco Spin, Akamai Agent Sandbox utiliza el aislamiento de WebAssembly para establecer unos límites claros en los recursos informáticos, la memoria, las conexiones de salida y las capacidades del sistema. Los desarrolladores pueden implementar agentes con total confianza sobre dónde se ejecutan y adónde pueden llegar.

El aislamiento de los agentes converge en varios modelos, desde micromáquinas virtuales con capacidad de tomar instantáneas y crear bifurcaciones hasta contenedores aplicados por políticas y funciones aisladas de WebAssembly. Akamai permite a los desarrolladores elegir la arquitectura que mejor se adapte a su carga de trabajo, con una infraestructura de CPU dedicada y acelerada por NVIDIA, Kubernetes gestionado y Akamai Functions para la ejecución sin servidor en el Edge y en el núcleo. Akamai también tiene previsto añadir capacidades que controlen hasta dónde pueden llegar los agentes y qué puede llegar a ellos.

Cree y ajuste una flota de GPU más amplia: NVIDIA Blackwell Ultra hoy, Vera Rubin en el futuro

Akamai también ha ampliado su flota dedicada de GPU para incluir los clústeres de GPU NVIDIA Blackwell Ultra y está preparando su infraestructura para que sea compatible con la plataforma NVIDIA Vera Rubin el próximo año. La flota de GPU de Akamai abarca ahora las GPUNVIDIA RTX PRO™6000 Blackwell Server Edition® para inferencia de baja latencia y los clústeres de GPU NVIDIA Blackwell Ultra para empresas que desean crear, ajustar y autoalojar modelos en la infraestructura que controlan. Akamai también está preparando sus centros de datos para ser compatibles con la plataforma NVIDIA Vera Rubin en 2027.

Cada nodo Blackwell Ultra de ocho GPU cuenta con 288 GB de memoria HBM3e por GPU, un total de 2,3 TB, suficientes para almacenar modelos de clase fronteriza. La arquitectura Blackwell Ultra se centra en las cargas de trabajo que impulsan esa demanda de memoria: escalabilidad del tiempo de prueba, razonamiento basado en cadena de pensamiento y trabajos agénticos de contexto largo. Los clústeres de GPU proporcionan a las empresas control sobre las versiones de los modelos y los plazos de obsolescencia, y se ejecutan sin límites de frecuencia ni colas de multitenencia. Se conectan a los mismos servicios de datos, redes y seguridad que el resto de Akamai Cloud.

"Las empresas no deberían tener que elegir entre velocidad y control al llevar la IA a producción", afirma Jon Alexander, vicepresidente sénior de Tecnología de nube de Akamai. "Algunos equipos quieren lanzar una función de IA este trimestre en una plataforma gestionada. Otros necesitan GPU dedicadas para ejecutar modelos abiertos de clase fronteriza según sus propias condiciones. Todos los equipos que ejecutan agentes necesitan un límite en torno al código que escriben esos agentes. Akamai Cloud ahora los apoya a todos en una sola plataforma, con seguridad y resiliencia integradas".

Disponibilidad

Akamai Agent Sandbox (a través del SDK de Spin) y Akamai Inference están disponibles en versión beta. La versión beta de Akamai Inference incluye opciones de implementación sin servidor. Póngase en contacto con el departamento de ventas de Akamai para obtener información sobre la disponibilidad de clústeres de GPU NVIDIA B300.