Amazon Robotics utiliza Amazon SageMaker y AWS Inferentia para habilitar la inferencia de ML a escala

Amazon Robotics utiliza su software y maquinaria para automatizar el flujo de inventario en los centros logísticos de Amazon. El sistema de la empresa cuenta con tres componentes físicos principales: las estanterías móviles, los robots y las estaciones de trabajo de los empleados. Los robots trasladan las estanterías móviles a las estaciones, y los empleados guardan los productos (almacenamiento) o los toman (selección). “Nuestros flujos de trabajo de almacenamiento y selección actuales a veces pueden crear un cuello de botella para el posterior procesamiento”, afirma Eli Gallaudet, administrador de software sénior de Amazon Robotics. “En 2017, pusimos en marcha una iniciativa para descubrir cómo simplificar algunos de esos flujos de trabajo”.

Con el fin de reducir el tiempo de análisis de los contenedores, Amazon Robotics diseñó el Sistema de Detección de Intenciones, un sistema de visión artificial basado en el aprendizaje profundo que se forma con millones de videos de ejemplos de acciones de almacenamiento. La empresa quería formar el sistema para que identifique de forma automática dónde los asociados colocan los artículos del inventario. Amazon Robotics recurrió a AWS, ya que se necesitaba la computación en la nube para implementar los modelos de aprendizaje profundo en los centros logísticos de Amazon. El equipo implementó sus modelos en contenedores de Docker y los alojó mediante Amazon Elastic Container Service (Amazon ECS), un servicio de orquestación de contenedores completamente administrado.

Una vez que se recopilaron suficientes videos de ejemplos de acciones de almacenamiento, el equipo experimentó con la aplicación de arquitecturas de modelos en el gran conjunto de datos de video anotado. Tras varias iteraciones, el equipo pudo permitir que los modelos implementados automatizaran el proceso.

Aunque Amazon Robotics podía aprovechar la gran variedad de recursos de computación de AWS, la empresa aún tenía que ocuparse del alojamiento por su cuenta. Cuando AWS anunció el lanzamiento de Amazon SageMaker en AWS re:Invent 2017, Amazon Robotics lo adoptó rápidamente y así evitó tener que crear una costosa solución de alojamiento propia. Amazon Robotics fue la primera empresa en implementar Amazon SageMaker a gran escala e incluso hoy se considera una de las implementaciones más grandes desde enero de 2021.

Al principio, el equipo utilizaba principalmente Amazon SageMaker para alojar los modelos. Amazon Robotics adaptó el uso del servicio según las necesidades. En un principio, utilizaba una arquitectura híbrida y ejecutaba algunos algoritmos en las instalaciones y otros en la nube. “Diseñamos un conjunto básico de funcionalidades que nos permitieron ofrecer el Sistema de Detección de Intenciones”, afirma Tim Stallman, administrador de software sénior de Amazon Robotics. “Luego, a medida que surgían las funcionalidades de Amazon SageMaker estaban disponibles en línea, comenzamos a adoptarlas gradualmente”. Por ejemplo, el equipo adoptó Experimentos de Amazon SageMaker, una capacidad que le permitió organizar, dar seguimiento, comparar y evaluar experimentos y versiones de modelos de ML.

Amazon Robotics también utilizó el escalado automático de Amazon SageMaker. “Amazon SageMaker no solo administra los alojamientos que utilizamos para las inferencias”, afirma Gallaudet. “También agrega o elimina de forma automática los alojamientos según sea necesario para admitir la carga de trabajo”. Como no necesita obtener o administrar su propia flota de más de 500 GPU, la empresa ha ahorrado cerca de un 50 por ciento en sus costos de inferencia.

Amazon Robotics ha tenido un éxito considerable. La empresa ha utilizado Amazon SageMaker para reducir el tiempo que se dedica a la administración y para equilibrar la proporción de científicos e ingenieros de desarrollo de software. Amazon SageMaker también permitió que el sistema escale de forma horizontal durante su implementación en la red de logística de Amazon; el equipo confía en que este servicio puede controlar sus picos de demanda de inferencia.

Esta solución cuenta con el respaldo de Amazon Elastic Compute Cloud (Amazon EC2), que proporciona una capacidad de computación segura y de tamaño ajustable en la nube y permite a los usuarios migrar rápidamente los tipos de host a medida que se ponen a disposición tipos de hosts nuevos. El equipo de Amazon Robotics pudo reducir sus costos de inferencia en un 20 por ciento mediante la migración de instancias de P2 a instancias de G4 de Amazon EC2. Ahora, mediante el uso de AWS Inferentia, el equipo de Amazon Robotics puede reducir aún más sus costes de inferencia en un 35 por ciento con las instancias de G4 (una reducción de más del 50 por ciento de instancias de P2). Por su parte, Inferentia ha ofrecido un rendimiento 20 por ciento mayor, lo que les ha permitido escanear más paquetes por día sin necesitar recursos adicionales. “Nuestro sistema utilizará más de 1000 hosts de SageMaker en 2022 y AWS Inferentia nos ayudará a servir el tráfico cada vez mayor con un rendimiento superior sin la necesidad de volver a entrenar nuestros modelos de ML”, comentó Pei Wang, ingeniero de software de Amazon Robotics.

La solución con tecnología de Amazon SageMaker creció rápidamente después de su despliegue inicial. El equipo de Amazon Robotics comenzó a implementar la solución a pequeña escala en un centro de logística en Wisconsin y rápidamente se expandió a muchos otros. A medida que la solución crecía, Amazon SageMaker también lo hacía de forma rápida y sin problemas. “Esperamos casi duplicar nuestro volumen en 2022”, afirma Gallaudet.

El equipo ve muchas más oportunidades para experimentar en AWS, incluida la ejecución de sus modelos de periféricos mediante el Administrador de periféricos de Amazon SageMaker, que administra y supervisa de manera eficiente modelos de ML en flotas de dispositivos inteligentes. Amazon Robotics también espera crear modelos que puedan automatizar aún más el seguimiento de los paquetes y que ayuden a automatizar la evaluación de sus daños.

Gracias a la experimentación con tecnología de vanguardia, Amazon Robotics continúa aumentando la eficiencia en los centros de logística y mejorando la experiencia del cliente de Amazon. “Muchas de las técnicas que hemos aprendido y de las experiencias que hemos tenido con el Sistema de Detección de Intenciones nos han permitido directamente avanzar rápido con estos proyectos”, afirma Stallman.