MLCommons, en ideell organisation känd för att utveckla prestandatester för artificiell intelligens, har meddelat bildandet av en ny arbetsgrupp kallad MLPerf Client. Gruppens mål är att skapa prestandametriker för stationära datorer, bärbara datorer och arbetsstationer som kör AI-relaterade arbetsuppgifter. De nya AI-testerna för klientenheter syftar till att besvara frågor om vilka bärbara datorer och datorer som kan utföra olika applikationer och uppgifter med användning av generativa AI-algoritmer snabbare än andra produkter.
När artificiell intelligens flyttas alltmer från molnet till lokala enheter blir sådana frågor allt viktigare för konsumenter. Det kan göra skillnad mellan att skapa en bild på några sekunder eller att vänta flera minuter.
MLCommons är mest känt för att utveckla molnbaserade prestandatester, där majoriteten av dessa tester fokuserar på att bedöma prestandan hos processorer som Nvidia Corp.s grafikprocessorenheter och konkurrerande lösningar från Intel Corp. Det har blivit en branschstandard för prestandatester inom AI-datacenter. Nu siktar organisationen på att skapa samma nivå av förtroende för klientenheter för att hjälpa företag och konsumenter i deras köpval.
Organisationen anser att i takt med att artificiell intelligens fortsätter att växa i betydelse kommer förmågan att köra sådana uppgifter lokalt att bli en viktig aspekt av datorupplevelsen. Men varje enhet är annorlunda, med hundratals olika tillgängliga integrerade kretsar som varierar i sin förmåga att accelerera AI-programvara. Dessutom har varje operativsystem sina egna AI-baserade applikationer, och enhetstillverkare och applikationsutvecklare lägger också till sina egna AI-funktioner för att förbättra kreativiteten.
För konsumenter är det praktiskt taget omöjligt att veta vilken typ av dator som bäst kan dra nytta av de AI-funktioner de behöver. Därför finns det ett tydligt behov av en pålitlig kriterieregel som kan mäta prestanda och effektivitet hos AI för varje system.
Enligt MLCommons kommer de nya testerna att vara ”scenariobaserade” och fokusera på verkliga användningsfall samt inkorporera feedback från gemenskapen.
Det första testet för klientenheter fokuserar på en generativ textalgoritm och mäter prestandan hos bärbara datorer, stationära datorer och arbetsstationer när de kör Meta Platforms Inc.s Llama 2. Det är värt att notera att Meta Platforms har nära samarbete med Microsoft Corp. och Qualcomm Inc. för att optimera Llama 2 för Windows och vissa mobila enheter.
MLPerf Client-arbetsgruppen inkluderar företag som Microsoft, Qualcomm, Advanced Micro Devices Inc., Arm Plc, ASUSTek Computing Inc., Dell Technologies Inc., Intel, Lenovo Group Ltd och Nvidia.
David Kanter, verkställande direktör för MLCommons, anser att det är dags för MLPerf att utöka sin räckvidd till klientenheter i takt med att artificiell intelligens blir allt mer betydelsefull. ”Stora språkmodeller är en naturlig och spännande början för vår MLPerf Client-arbetsgrupp”, säger han. ”Vi ser fram emot att samarbeta med våra medlemmar för att leverera MLPerf-excellens på klientenheter och skapa nya möjligheter för den bredare gemenskapen.”
Jani Joki, chef för prestandatestning på Nvidia, påpekar att MLPerf-benchmarket spelade en avgörande roll för att förbättra prestandan och effektiviteten hos maskininlärning i datacenter. ”Vi ser fram emot möjligheten att bidra till skapandet av prestandatester som kan ha en liknande roll i klientenheter”, tillägger han.
Det är värt att notera att Apple Inc. inte listas som deltagare, vilket tyder på att deras MacBook-enheter troligen inte kommer att ingå i testerna som utvecklas av MLCommons. Emellertid kan Apple bli tvungen att delta i framtiden eftersom generativ artificiell intelligens verkar vara här för att stanna. Med tanke på detta scenario kommer förmågan att köra generativ AI på enheter troligen vara en viktig faktor vid konsumenternas köpbeslut.
Med Qualcomm och Arm involverade i arbetsgruppen kan MLCommons nya tester för klientenheter också utvidgas till smartphones och surfplattor i framtiden.
Vanliga frågor och svar om prestandatester för AI för klientenheter:
1. Vad är MLPerf Client?
MLPerf Client är en ny arbetsgrupp som etablerats av MLCommons, en ideell organisation. Dess syfte är att skapa prestandametriker för stationära datorer, bärbara datorer och arbetsstationer när de kör AI-relaterade uppgifter.
2. Varför är AI-tester för klientenheter viktiga?
Migrationen av artificiell intelligens från molnet till lokala enheter blir allt populärare. AI-tester för klientenheter hjälper till att avgöra vilka bärbara datorer och datorer som är kapabla att köra applikationer och uppgifter med användning av AI-algoritmer snabbare.
3. Varför är MLCommons välkänt?
MLCommons är främst känt för att utveckla molnbaserade prestandatester för AI. De har skapat standardiserade prestandatester för AI-datacenter som har blivit en branschstandard.
4. Varför behövs pålitlig kriterieregel för att mäta AI-prestanda?
Varje enhet har olika förmågor att accelerera AI-programvara, och operativsystem kan ha sina egna AI-applikationer. Det är därför svårt för konsumenter att bedöma vilken enhet som bäst kan utnyttja de AI-funktioner de behöver.
5. Vilka är planerna för MLPerf Client-arbetsgruppen?
MLPerf Client-arbetsgruppen börjar med att skapa prestandatester för en generativ textalgoritm. Det kan expandera sina tester till andra AI-applikationer och enheter som smartphones och surfplattor i framtiden.
6. Vilka företag ingår i arbetsgruppen?
MLPerf Client-arbetsgruppen inkluderar företag som Microsoft, Qualcomm, Advanced Micro Devices Inc., Arm Plc, ASUSTek Computing Inc., Dell Technologies Inc., Intel, Lenovo Group Ltd och Nvidia.
7. Varför finns inte Apple med som deltagare?
Det finns ingen information om varför Apple Inc. inte finns med på listan över deltagande företag i arbetsgruppen. I framtiden kan dock företaget bli tvunget att delta i AI-tester för klientenheter då generativ artificiell intelligens blir vanligare och påverkar konsumenternas köpbeslut.
För mer information, besök MLCommons webbplats: https://mlcommons.org/
The source of the article is from the blog windowsvistamagazine.es