Microsoft annoncerer AI-platform til Windows-udviklere: Maskinindlæring på kanten

I dag er Microsoft vært for en udviklerdag, og et af de højdepunkter, de udstiller, er en ny API kaldet WinML. Kunstig intelligens og maskinlæring er to af de største tendenser inden for databehandling i disse dage, men meget af den beregning sker i cloud-datacentre, hvor brugerdefinerede servere har specialiseret hardware til at forbedre ydeevnen og sænke energiforbruget. Men som med alt i databehandling er landskabet cyklisk, og vi ser endnu engang på at flytte noget af den beregning tilbage til kantenheder, som f.eks. Pc'er, tabletter og IoT.

WinML er et nyt sæt af API'er, som vil lade udviklere udnytte de komplette evner af enhver Windows 10 enheden til at bruge præ-uddannede maskine læring modeller, der tillader AI opgaver at blive aflastet fra skyen, af flere grunde.

Den første grund er præstation. På trods af den massive computerkraft, der er tilgængelig i skyen, lever vi stadig i en verden, hvor flytning af data til skyen kan være uoverkommelig hvad angår pris og hastighed. Latens for enhver netværksforbindelse er størrelsesorden langsommere end lokal hukommelsesadgang, og arbejde på massive datasæt kan være vanskeligt uden dyre, dedikerede, højbåndsbreddeforbindelser. Udførelse af beregningsopgaver lokalt kan betydeligt forbedre ydeevnen takket være den lavere ventetid og tilbyde resultater i realtid. Driftsomkostninger kan gemmes gennem reduktion i netværksbåndbredde, samt mindre cloud computing tid.

Gør for overholdelse og sikkerhedsproblemer, ville mange industrier ikke kunne udnytte maskinindlæring og AI til at behandle datasæt, så WinML giver dem en nem mulighed for at flytte det arbejde væk fra skyen, hvilket betyder, at det er meget lettere at sikre, at du overholder alle nødvendige regler.

Et eksempel fra en Microsoft-talsmand var det for et industrisystem, hvor der tages et billede af et produkt, og systemet skal afgøre, om det pågældende produkt er korrekt, eller hvis det har en defekt. Dette er en ideel arbejdsbyrde for AI værktøjer, såsom Microsofts Computer Vision API. Flytning af denne type computere til en industriel pc, som kan være offline, giver fremragende ydeevne uden løbende omkostninger eller kravet om en skyforbindelse.

Microsofts nye sæt AI API'er tilbyder flere vigtige fordele, som skal hjælpe udviklere med at integrere dem i deres produkter. Formentlig det vigtigste er, at API'en gør alt tungt løft for udvikleren, så udvikleren behøver ikke at bekymre sig om, hvilken hardware der er tilgængelig i enhver maskine, som deres app skal køre på. WinML-motoren vil udnytte hardwareen dynamisk og oprette kode for at få den maksimale ydelse tilgængelig fra den hardware, som enheden kører på. Motoren er bygget på Direct 3D, og ​​hvis systemet har en DX12-kompatibel GPU, vil DX12 beregne shaders dynamisk. Hvis du har en massiv GPU med masser af VRAM, vil arbejdsbyrden blive aflæst til GPU'en. Hvis en DX12 GPU ikke er tilgængelig, eller hvis ydeevnen er et problem på grund af integreret grafik, kan motoren også falde tilbage til en CPU-sti, men CPU-stien udnytter også alt silicium med støtte til ting som AVX512. Koden genereres i løbetid, så det vil altid optimere for den tilgængelige hardware, og motoren bliver også opdateret for at udnytte nyt silicium som Intels Movidius VPU. Måske endnu mere imponerende er, at ML-motoren endda vil arbejde på en ny SnapDragon 835-baseret pc eller endda IoT-enheder. Hvis du har masser af ydeevne tilgængelig, vil det udnytte det, men hvis systemet er en lav-strøm enhed, vil det stadig arbejde.

Et centralt punkt her er, at WinML API er beregnet til modeller, der allerede er uddannet. Uddannelsen i sig selv ville ske i forvejen, og de modeller og data, der blev leveret til motoren, for at udføre analysen og give sandsynligheder.

Den nye API vil udnytte industriens standard ONNX ML-modeller, og ONNX drives af Microsoft, Facebook og Amazon, med støtte fra alle vigtige hardware-afspillere som AMD, Intel og NVIDIA. ONNX modeller kan trænes ved hjælp af Azure Machine Learning Workbench, hvorefter modellen kan bringes i Visual Studio, som vil skabe en wrapper til motoren til at udnytte. Visual Studio Preview 15.7 understøtter dette, og tidligere versioner kan bruge MLG-værktøjet til manuelt at tilføje det til projekter, og ONNX-modeller kan eksporteres direkte fra Azure.

Microsoft var ærlig nok til at oplyse, at ideen til WinML virkelig kun fik trækkraft omkring maj i 2017, og arbejdet begyndte på det nye API i bare august sidste år, så i løbet af få måneder er de gået fra en ide til en nye ML toolkit, de bringer til udviklere. Denne tidslinje er temmelig imponerende, men svaret roste kapaciteterne indbygget i DX12, såvel som højkvalitetsdriverne, som gjorde det muligt for holdet at implementere dette til skalering på så kort tid.

AI og ML er to af de store søgeord i udviklings- og hardwareindustrien disse dage, og WinML og AI Platform for Windows-udviklere skal hjælpe med at bringe disse funktioner til endnu flere opgaver.

kilde: microsoft

Giv en kommentar

Dette websted bruger Akismet til at reducere spam. Lær, hvordan dine kommentardata behandles.