MLCommons, una organización sin fines de lucro conocida por desarrollar pruebas de rendimiento de inteligencia artificial, ha anunciado la formación de un nuevo grupo de trabajo llamado MLPerf Client. El objetivo del grupo es crear métricas de rendimiento para computadoras de escritorio, laptops y estaciones de trabajo que ejecuten cargas de trabajo relacionadas con la IA. Las nuevas pruebas de IA para dispositivos cliente tienen como objetivo responder preguntas sobre qué laptops y computadoras pueden ejecutar varias aplicaciones y tareas utilizando algoritmos generativos de IA más rápido que otros productos.
A medida que la inteligencia artificial se mueve cada vez más desde la nube hacia dispositivos locales, estas preguntas se vuelven más importantes para los consumidores. Pueden marcar la diferencia entre generar una imagen en cuestión de segundos o esperar varios minutos.
MLCommons es conocido principalmente por desarrollar pruebas de rendimiento basadas en la nube, con la mayoría de las pruebas enfocadas en evaluar el rendimiento de procesadores como las unidades de procesamiento gráfico de Nvidia Corp. y soluciones competidoras de Intel Corp. Se ha convertido en un estándar de la industria para pruebas de rendimiento de centros de datos de IA. Ahora, la organización tiene como objetivo construir el mismo nivel de confianza para sistemas cliente para ayudar a empresas y consumidores en sus compras.
La organización cree que a medida que la importancia de la inteligencia artificial continúa creciendo, la capacidad de ejecutar estas tareas localmente se convertirá en un aspecto vital de la experiencia informática. Sin embargo, cada dispositivo es diferente, con cientos de circuitos integrados disponibles que varían en sus capacidades para acelerar el software de IA. Además, cada sistema operativo tiene sus propias aplicaciones basadas en IA, y los fabricantes de dispositivos y los desarrolladores de aplicaciones también agregan sus propias funciones de IA para mejorar la creatividad.
Para los consumidores, es prácticamente imposible saber qué tipo de computadora aprovechará mejor las capacidades de IA que necesitan. Por lo tanto, existe una clara necesidad de un criterio confiable que pueda medir el rendimiento y la eficiencia de la IA para cada sistema.
Según lo establecido por MLCommons, las nuevas pruebas serán «basadas en escenarios», centrándose en casos de uso del mundo real e incorporando comentarios de la comunidad.
La prueba inicial para dispositivos cliente se centra en un algoritmo de texto generativo, midiendo el rendimiento de laptops, computadoras de escritorio y estaciones de trabajo al ejecutar Llama 2 de Meta Platforms Inc. Vale la pena mencionar que Meta Platforms tiene estrechas colaboraciones con Microsoft Corp. y Qualcomm Inc. para optimizar Llama 2 para Windows y ciertos dispositivos móviles.
El grupo de trabajo MLPerf Client incluye empresas como Microsoft, Qualcomm, Advanced Micro Devices Inc., Arm Plc, ASUSTek Computing Inc., Dell Technologies Inc., Intel, Lenovo Group Ltd. y Nvidia.
David Kanter, director ejecutivo de MLCommons, cree que es hora de que MLPerf extienda su alcance a los sistemas cliente a medida que crece la importancia de la inteligencia artificial. «Los modelos de lenguaje grandes son un lugar natural y emocionante para que nuestro grupo de trabajo MLPerf Client comience», dijo. «Esperamos colaborar con nuestros miembros para ofrecer excelencia de MLPerf en sistemas cliente y crear nuevas oportunidades para la comunidad en general».
Jani Joki, director de pruebas de rendimiento en Nvidia, afirmó que las pruebas de referencia de MLPerf jugaron un papel crucial en el avance del rendimiento y la eficiencia del aprendizaje automático en los centros de datos. «Esperamos tener la oportunidad de contribuir a la creación de pruebas de rendimiento que desempeñen un papel similar en los sistemas cliente», agregó.
Vale la pena mencionar que Apple Inc. no aparece en la lista de participantes, lo que indica que es poco probable que sus dispositivos MacBook formen parte de las pruebas desarrolladas por MLCommons. Sin embargo, es posible que Apple se vea obligada a participar en el futuro, ya que la inteligencia artificial generativa parece estar aquí para quedarse. Considerando este escenario, la capacidad de ejecutar IA generativa en dispositivos probablemente será un criterio clave en las decisiones de compra de los consumidores.
Con Qualcomm y Arm involucrados en el grupo de trabajo, las nuevas pruebas de MLCommons para dispositivos cliente también podrían expandirse a teléfonos inteligentes y tabletas en el futuro.
Preguntas y respuestas clave sobre las pruebas de rendimiento de IA para dispositivos cliente:
1. ¿Qué es MLPerf Client?
MLPerf Client es un nuevo grupo de trabajo establecido por MLCommons, una organización sin fines de lucro. Su objetivo es crear métricas de rendimiento para computadoras de escritorio, laptops y estaciones de trabajo al ejecutar tareas relacionadas con la IA.
2. ¿Por qué son importantes las pruebas de IA para dispositivos cliente?
La migración de la inteligencia artificial desde la nube hacia dispositivos locales se está volviendo cada vez más popular. Las pruebas de IA para dispositivos cliente ayudan a determinar qué laptops y computadoras son capaces de ejecutar aplicaciones y tareas utilizando algoritmos de IA de manera más rápida.
3. ¿Por qué es conocido MLCommons?
MLCommons es conocido principalmente por desarrollar pruebas de rendimiento basadas en la nube para IA. Ha creado pruebas de rendimiento estandarizadas para centros de datos de IA que se han convertido en un estándar de la industria.
4. ¿Por qué hay una necesidad de criterios confiables para medir el rendimiento de IA?
Cada dispositivo tiene capacidades diferentes para acelerar el software de IA, y los sistemas operativos pueden tener sus propias aplicaciones de IA. Por lo tanto, es difícil para los consumidores evaluar qué dispositivo aprovechará mejor las capacidades de IA que necesitan.
5. ¿Cuáles son los planes del grupo de trabajo MLPerf Client?
El grupo de trabajo MLPerf Client comienza creando pruebas de rendimiento para un algoritmo de texto generativo. En el futuro, podría expandir sus pruebas a otras aplicaciones y dispositivos de IA, como teléfonos inteligentes y tabletas.
6. ¿Qué empresas forman parte del grupo de trabajo?
El grupo de trabajo MLPerf Client incluye empresas como Microsoft, Qualcomm, Advanced Micro Devices Inc., Arm Plc, ASUSTek Computing Inc., Dell Technologies Inc., Intel, Lenovo Group Ltd. y Nvidia.
7. ¿Por qué Apple no está en la lista de participantes?
No hay información sobre la ausencia de Apple Inc. en la lista de participantes del grupo de trabajo. Sin embargo, en el futuro, es posible que la compañía se vea obligada a participar en pruebas de IA para dispositivos cliente, ya que la inteligencia artificial generativa se vuelve más prevalente e influye en las decisiones de compra de los consumidores.
Para obtener más información, visite el sitio web de MLCommons: mlcommons.org
The source of the article is from the blog dk1250.com