Amikor a felhő eldugult, a szélsősége kiszámításra kerül

Az Ausztrália Új-Dél-Wales (NSW) államának partvidéke mentén egy drónpark található meg, elősegítve a víz biztonságát. Idén elején a drónok segítették az életmentőket az állam távoli északi partján, hogy megmenthessenek két súlyos szörfözés közben küzdő tinédzsert.

A dronekat mesterséges intelligencia (AI) és gépi látás algoritmusok hajtják végre, amelyek folyamatosan elemzik a video-hírcsatornájukat és kiemelik a figyelmet igénylő elemeket: mondjuk cápák vagy kóbor úszók. Ez ugyanaz a technológia, amely lehetővé teszi a Google Fotóknak a képek rendezését, az otthoni biztonsági kamerát az idegenek felismerésére, valamint egy intelligens hűtőt, amely figyelmezteti Önt, ha romlandó romjai közel vannak a lejáratukhoz.

De noha ezeknek a szolgáltatásoknak és eszközöknek állandó kapcsolatba kell lépniük a felhővel az AI funkcióik ellátásához, az NSW drónok képe-észlelési feladataikat szilárd internetkapcsolat mellett vagy anélkül is elvégezhetik, köszönhetően a neurális számítási chipeknek, amelyek lehetővé teszik a mélyreható számítások helyben történő elvégzését..

Ezek a chipek a szélsőséges számítástechnikai innovációk növekvő trendjének részét képezik, amelyek lehetővé teszik szoftverrel működtetett készülékeinknek, hogy legalább néhány kritikus funkciót végrehajtsanak a felhőhöz való állandó kapcsolat nélkül. A számítástechnika növekedése elősegíti az új és a régi problémák megoldását, és előkészíti az utat az intelligens eszközök következő generációja számára.

A felhő megterhelése

Az elmúlt két évtizedben a felhő, jó okkal, az alkalmazások tárolásának defacto módjává vált.

"A felhőt olyan vonzóvá teszi az, hogy hajlandó levonni minden olyan tevékenység megkezdésének költségeit, amelyet elvégezni kíván" - mondta Rob High, az IBM Watson műszaki vezetője. "A felhő… lehetővé teszi az emberek számára, hogy ma… valódi problémákat oldjanak meg anélkül, hogy át kellene viselniük az infrastruktúra létrehozásának költségeit."

A mindenütt jelenlévő internetkapcsolat és a számtalan felhőalapú alkalmazás, szolgáltatás és fejlesztőplatform révén az alkalmazások létrehozásának és telepítésének akadályai jelentősen csökkentek. A felhőszolgáltatók, például az IBM, a Google és az Amazon hatalmas erőforrásai nemcsak a triviális üzleti alkalmazások fejlesztését ösztönözték, hanem egy komplex szoftver fejlesztésére is, amely hatalmas mennyiségű számítást és tárolást igényel - AI és gépi tanulási algoritmusok, valamint streaming és AR (kibővített valóság) alkalmazások.

De ezek az előrelépések szintén kihívást jelentettek: Az általunk használt alkalmazások többsége csak akkor működik, ha kapcsolódnak a felhőhöz. Ez magában foglalja a számítógépeken és telefonokon futó alkalmazások többségét, valamint a hűtőszekrényekben, termosztátokban, ajtózárakban, megfigyelő kamerákban, autókban, drónokban, időjárás-érzékelőkben stb. Lévő szoftvereket.

A tárgyak internete (IoT) megjelenésével egyre több eszköz szoftvert futtat és adatot generál, és ezeknek az adatoknak a tárolására és feldolgozására a felhőre mutató linkre van szükségük. Az adatok felhőhöz való eljuttatásához szükséges energia és sávszélesség óriási, és az adatok tárolásához szükséges hely kihívást jelent még a legerősebb felhő-behemotok erőforrásai számára is.

"Nagyon sok adatot gyűjtünk ezekben a rendszerekben, legyen az szélén, vagy IoT eszköz, vagy bármely más olyan hely, amelyben szinte eldöntheti, hogy nem törődik vele" - mondja High. De ha minden döntésnek a felhőben kell megtörténnie, akkor az összes adatot a hálózaton keresztül el kell küldeni a felhőkiszolgálókra, hogy súrolják és kiszűrjék.

Példaként a High neve a modern repülőgépekre, amelyek több száz érzékelőt tartalmaznak, amelyek a sugárhajtóműveket figyelik, és minden repülés során több száz gigabájt állapot- és teljesítményadatokat gyűjtenek. "Ezeknek az adatoknak mekkora része számít, ha egy aggregátumon keresztül kívánja elemezni? Valószínűleg csak ezek töredéke" - mondja High. "Miért nem szabad megszabadulni tőle a forrásnál, amikor nem szükséges másoknak, amit csinálsz?"

Az, amit High javasolt, a felhőn kívül, korábban csak lehetetlen volt, ám az alacsony energiaigényű, olcsó System-on-Chip (SoC) processzorok előrelépései a szélső eszközöknek nagyobb számítási teljesítményt adtak, és elengedték számukra a számítástechnikai terheket. ökoszisztémák, például valós idejű elemzések elvégzése vagy adatok szűrése.

"Olyan sok adat van a szélső környezetben, érdemes néhány felhőalapú számítási képességet beilleszteni a szélső eszköz számítási kapacitásába" - mondja High.

Adatvédelmi aggályok

Az élszámítás előnyei nem korlátozódnak a felhőalapú erőforrások felszabadítására.

Remi El-Ouazzane, az új technológiai csoport és a Movidius (Intel) vezérigazgatója újabb példájaként említi a kereskedelmi biztonsági kamerákat, amikor az élszámítás hatalmas különbségeket eredményezhet. Ezeket a fényképezőgépeket láthatja a lámpánál, a repülőtereken és az épületek bejáratánál, éjjel-nappal kiváló minőségű videofelvételt rögzítve és streamingként a hálózaton keresztül.

"Minél kevesebb adatot kell visszajuttatni egy szerverre vagy adatközpontba, annál több súrolást és finomítást végezhet el helyben, annál jobb tárolási és átadási szempontból lesz a tulajdonjog általános költsége" - mondja El-Ouazzane.

Ez azt jelenti, hogy a kamerák képesek képesek elemezni a saját video-hírcsatornájukat, meghatározni, hogy melyik képkockára vagy -hosszra kell figyelni, és csak ezeket az adatokat küldi el a szervernek.

Amikor ezeket a kamerákat telepíti otthonába, irodájába vagy bármilyen magánhelyre, a felhőhöz való kapcsolódás szintén potenciális biztonsági problémát jelenthet. A hackerek és a biztonsági kutatók képesek voltak veszélyeztetni a háztartási készülékek és a felhőkiszolgálók közötti kapcsolatot, hogy érzékeny videókat hordozhassanak. Az adatok helyi értelmezése kiküszöböli a videovezeték szükségességét otthona, magánélete és szolgáltatója között.

A Movidius, amelyet az Intel vásárolt 2016-ban, egyike a számos induló vállalkozásnak, amelyek számítógépes chipeket szakosodtak olyan AI feladatokra, mint a beszédfelismerés és a számítógépes látás. A cég Vision Processing Units (VPU) készül - olyan energiaellátású processzorok, amelyek neurális hálózatokat működtetnek, amelyek elemezik és „megértik” a digitális képek kontextusát anélkül, hogy vissza kellene küldeniük őket a felhőhöz.

A Movidius Myriad 2 egy folyamatosan működő látásprocesszor, amely energiával korlátozott környezetben készül.

"Amikor a kamera megérti a szemantikáját, amit lát, akkor az a képesség, hogy szabályokat szabjon arra vonatkozóan, hogy a kamera mit tehet vagy nem, nagyon könnyű feladat lesz" - mondja El-Ouazzane. "Nem kell ténylegesen elfognia a nappali szobáját a következő 12 órában, csak hogy tudd, hogy egy adott időpontban kutyája áthaladt a szőnyegen a kanapé előtt."

Más cégek a felhasználó magánéletének megőrzése érdekében megvizsgálják a speciális AI-meghajtású élszámítás alkalmazását. Például az Apple iPhone X tápellátását az A11 Bionic chip biztosítja, amely helyileg képes az AI feladatok elvégzésére, lehetővé téve az arc bonyolult felismerését anélkül, hogy a felhasználó böngészőjét a felhőbe kellene elküldenie.

A szélső fokú AI-feldolgozás előkészítheti a decentralizált mesterséges intelligencia útját, ahol a felhasználóknak kevesebb adatot kell megosztaniuk a nagyvállalatokkal az AI-alkalmazások használatához.

Csökkentése a késés

Egy másik probléma a nagy felhő-szolgáltatóknál az, hogy adatközpontjaik a nagyvárosokon kívül helyezkednek el, és százaik és ezreik mérföldeire helyezkednek el az alkalmazásokat használó emberektől és eszközökhöz.

Sok esetben a felhőbe és a felhőből való adatokból származó adatok okozta késés rossz teljesítményt, vagy ami még rosszabb, halálos eredményeket eredményezhet. Ez lehet drone, amely megpróbálja elkerülni az ütközéseket vagy az egyenetlen talajon történő leszállást, vagy önálló vezetésű autó, amelynek célja annak eldöntése, hogy akadályba ütközik-e, vagy egy gyalogosba.

A Movidius mély ideghálózatok és a számítógépes látás könnyű megvalósítása lehetővé teszi chipeik alkalmazását olyan mobil él eszközökhez, mint a drónok, amelyeknél az energiafelhasználó hardverek, például a GPU-k nem megvalósíthatók. A drogok különösen érdekes tanulmányok, mivel alacsony késleltetési szintű hozzáférésre van szükségük az AI kiszámításához, és offline módban kell működniük.

A gesztusok felismerése mint olyan terület, ahol a szélszámítás hozzájárul a drón élményének javításához. "A cél az, hogy a drogokat sok ember számára elérhetővé tegyék, és a gesztus jó módszernek tűnik az emberek számára azok használatához. A késés akkor számít, amikor a drónokat valamilyen feladat elvégzésekor gesztusozzák" - mondja El-Ouazzane.

Az olyan induló vállalkozások számára, mint a Skylift Global, amely nehézsúlyú drón szolgáltatásokat nyújt a mentőknek és az első reagálóknak, az alacsony késleltetésű hozzáférés az AI-hez és az erőforrások kiszámításához pénzt és életet takaríthat meg. "Ez jelentősen csökkenti az adatok bevitelének költségeit, csökkenti a hálózati késleltetést, növeli a biztonságot, és elősegíti az adatok valósidejű döntésekké alakítását" - mondta Amir Emadi, a Skylift vezérigazgatója és alapítója.

Az első válaszadóknak történő ellátáshoz másodperces döntés szükséges. "Minél több idő telik el, például a tűzoltás során, annál drágább lesz a helyzet orvoslása. Mivel drónjaink képessé válnak arra, hogy valósidejű döntéseket hozzanak a szélén, még akkor is, ha elveszítik a kapcsolatukat, annál többet spórolhatunk meg. élet, pénz és idő ”- mondja Emadi.

A valós idejű számításra szoruló további területek a kibővített és virtuális valóság alkalmazások, valamint az autonóm járművek. "Ezek mind tapasztalati alapú számítási környezet. Az emberek körül fognak megtörténni" - mondja Zachary Smith, a New York-i székhelyű Packet vezérigazgatója, amelynek célja a fejlesztők számára a magasan elosztott hardver elérése.

Az AR vagy VR alkalmazás, amely nem tud lépést tartani a felhasználó mozgásával, szédülést okoz, vagy megakadályozza, hogy az élmény elmélyítő és valósággá váljon. A késés pedig még nagyobb problémát jelent, ha az önjáró autók, amelyek nagymértékben támaszkodnak a számítógépes látásra és a gépi tanulási algoritmusokra, válnak mainstreamé.

"A 30 milliszekundumos késleltetés nem számít a weblap betöltésében, de igazán fontos, hogy az autó 60 mph-on határozza meg, hogy balra vagy jobbra fordul-e, hogy elkerülje a kislány összeomlását" - mondja Smith.

Az él kihívásainak teljesítése

Annak ellenére, hogy a számítástechnikát közelebb kell hozni a szélhez, a speciális hardver behelyezése minden eszközbe nem feltétlenül a végső válasz, elismeri Smith. "Miért nem tette az összes számítógépet a kocsiba? Úgy gondolom, hogy ennek valójában annak a fejlõdésének a köze van, hogy milyen gyorsan tudja irányítani annak életciklusát" - mondja.

"Ha hardvert tesz a világba, akkor általában öt-tíz évig marad ott" - mondja Smith, miközben a tapasztalati alapú felhasználási esetek hat hónaponként 12-ig fejlődnek.

Még a nagyon nagy, bonyolult ellátási lánccal rendelkező vállalkozások is gyakran küzdenek a hardver frissítésével. 2015-ben a Fiat Chryslernek 1, 4 millió járművet kellett visszahívnia, hogy javítson egy öt évvel korábban feltárt biztonsági rést. Az óriás chipmaker, az Intel továbbra is egy olyan tervezési hibával foglalkozik, amely több millió millió eszközt tesz ki a hackerek számára.

A Movidius El-Ouazzane elismeri ezeket a kihívásokat. "Tudjuk, hogy minden évben változtatnunk kell egy termékskálát, mert minden évben több intelligenciát szerezünk a szélén, és felszólítunk ügyfeleinket, hogy frissítsenek" - mondja.

A folyamatos visszahívások elkerülése és az ügyfelek hosszú távú használatának lehetővé tétele érdekében a Movidius extra erőforrásokkal és kapacitással csomagolja a processzorokat. "Szükségünk van arra, hogy az elkövetkező néhány évben frissíteni tudjuk ezeket a termékeket" - mondja El-Ouazzane.

A Packet, a Smith társaság, más megközelítést alkalmaz: mikro adatközpontokat hoz létre, amelyeket telepíteni lehet a városokba, közelebb a felhasználókhoz. A társaság ezután nagyon alacsony késleltetésű számítási erőforrásokat biztosíthat a fejlesztőknek - olyan közel, ameddig elérhető a felhasználók számára anélkül, hogy a tényleges hardvert szélére helyezné.

"Meggyőződésünk, hogy szükség lesz egy infrastruktúra-szállítási mechanizmusra annak a hardvernek a felszerelésére, amelyhez a fejlesztők a világ minden városában hozzáférhetnek" - mondja Smith. A cég már 15 telephelyen működik, és azt tervezi, hogy végül több száz városba terjeszkedik.

A Packet törekvései azonban túlmutatnak a szóródási lehetőségek miniatűr verzióinak létrehozásán, amelyeket a Google és az Amazon kedvelői üzemeltetnek. Ahogy Smith elmagyarázza, a speciális hardverek telepítése és frissítése nem lehetséges a nyilvános felhőben. A Packet üzleti modelljében a gyártók és a fejlesztők speciális hardvert telepítenek a vállalat szélső adatközpontjaiba, ahol gyorsan frissíthetik és frissíthetik azt, amikor erre szükség van, miközben ügyelnek arra is, hogy felhasználóik rendkívül gyorsan hozzáférjenek a számítási erőforrásokhoz.

A Hatch, a Packet egyik ügyfele, a Rovio-tól származik, amely az Angry Birds létrehozta a mobil szerencsejáték-társaságot. A társaság az Android rendszert az élvonalbeli kiszolgálókon futtatja, hogy alacsony késleltetésű többjátékos játékkal kapcsolatos streaming szolgáltatásokat nyújtson az alacsony szintű Android készülékekkel rendelkező felhasználók számára.

"Meglehetősen speciális ARM-kiszolgálókra van szükség a világ ezen összes piacán" - mondja Smith. "Szervezőink testreszabott konfigurációit kínálják kiszolgálóink ​​számára, és nyolc globális piacra tesszük Európában, és hamarosan 20 vagy 25 piac lesz. Az Amazonnak érzi magát nekik, de testreszabott hardvert futtatnak minden európai piacon..”

Elméletileg Hatch ugyanezt teheti a nyilvános felhőben, de a költségek miatt ez nem hatékony üzleti vállalkozás. "A különbség az a, hogy 100 felhasználót CPU-nként viszont 100 000-et tesznek CPU-ra" - mondja Smith.

Smith szerint ez a modell vonzó lesz a fejlesztői generáció számára, amely a következő szoftverinnovációkat mozgatja. "Arra összpontosítunk, hogy hogyan összeköthetjük a szoftvergenerációt, a felhőben felnőtt emberekkel, speciális hardverprimitívekkel" - mondja Smith. "Olyan felhasználókról beszélünk, akik még azt sem tudják kinyitni a MacBook-ot, hogy belenézzenek, és ez az a személy, aki újításokat fog folytatni a hardver / szoftver veremben."

A felhők eloszlanak?

Ha az élkészülékek bonyolult számítási feladatok elvégzésére képesek, veszélyben van a felhő jövője?

"Számomra a szélsőséges számítás a felhőalapú számítások következő természetes és logikus progressziója" - mondja az IBM Watson vezetője.

Valójában 2016-ban az IBM olyan eszközkészletet hozott létre, amely lehetővé teszi a fejlesztőknek a feladatok zökkenőmentes elosztását a szél és a felhő között, különösen az IoT ökoszisztémáiban, ahol a szélső eszközök már sok adatot gyűjtöttek közvetlen környezetükről. És 2016 végén az Amazon Web Services, egy másik jelentős felhőfejlesztő platform, bejelentette a Greengrass-ot, egy olyan szolgáltatást, amely lehetővé teszi az IoT fejlesztőinek, hogy felhőalkalmazásaik egyes részeit futtassák szélső eszközökön.

Ez nem jelenti azt, hogy a felhő eltűnik. "Csak egy csomó dolgot lehet jobban elvégezni a felhőben, még akkor is, ha még mindig sok munka zajlik a szélén." - mondja High. Ez magában foglalja a többféle forrásból származó adatok összesítését és nagyszabású elemzést hatalmas adatkészletekkel.

"Ha modelleket kell készítenünk az AI algoritmusokban, amelyeket ezekben a szegélyeszközökben használunk, akkor ezeknek a modelleknek a létrehozása és kiképzése továbbra is nagyon hatalmas számításigényes probléma, és gyakran számítási kapacitást igényel, amely messze meghaladja az ezeken a szélső eszközökön elérhető lehetőségeket." mondja.

El-Ouzzane egyetért. "Az AI modellek helyi képessége rendkívül korlátozott" - mondja. "Mély tanulási szempontból az edzésnek csak egy helyét kell ülnie, és a felhőben van, ahol elegendő számítási erőforrást és elegendő tárhelyet kap a nagy adatkészletek kezeléséhez."

Az El-Ouazzane olyan esetekben is alkalmaz olyan eseteket, amikor a szélső eszközöket misszió- és időkritikus feladatokkal látják el, míg a felhő gondoskodik a fejlettebb következtetésekről, amelyek nem függnek a késleltetéstől. "A felhő és a szél közötti folytonosság világában élünk."

"Nagyon szimbiotikus és szinergetikus kapcsolat van a szélsőséges számítástechnika és a felhőalapú számítástechnika között" - mondja High.