Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
A CANN optimalizációs képességeinek áttekintése
- Hogyan kezeli a CANN az inferencia teljesítményt
- Optimalizálási célok peremhálózati és beágyazott AI rendszerekhez
- Az AI mag kihasználtságának és memóriafoglalásának megértése
A Graph Engine használata elemzéshez
- Bevezetés a Graph Engine-be és a végrehajtási folyamatba
- Operátor gráfok és futási metrikák vizualizálása
- Számítási gráfok módosítása optimalizálás céljából
Profilozó eszközök és teljesítménymetrikák
- A CANN Profiling Tool (profiler) használata munkaterhelés elemzéséhez
- Kernel végrehajtási idő és szűk keresztmetszetek elemzése
- Memória hozzáférés profilozás és tiling stratégiák
Egyéni operátor fejlesztése a TIK segítségével
- A TIK és az operátor programozási modell áttekintése
- Egyéni operátor implementálása a TIK DSL segítségével
- Operátor teljesítmény tesztelése és benchmarkolása
Fejlett operátor optimalizálás a TVM segítségével
- Bevezetés a TVM integrációjába a CANN-nel
- Automatikus hangolási stratégiák számítási gráfokhoz
- Mikor és hogyan váltsunk a TVM és a TIK között
Memória optimalizálási technikák
- Memória elrendezés és puffer elhelyezés kezelése
- Technikák a chipen belüli memóriafogyasztás csökkentésére
- Aszinkron végrehajtás és újrafelhasználás legjobb gyakorlatai
Valós üzembe helyezés és esettanulmányok
- Esettanulmány: teljesítményhangolás okos városi kamera folyamathoz
- Esettanulmány: önvezető járművek inferencia verem optimalizálása
- Irányelvek iteratív profilozáshoz és folyamatos fejlesztéshez
Összefoglalás és következő lépések
Követelmények
- Mélyreható ismeret a mélytanulási modell architektúrákról és a képzési munkafolyamatokról
- Tapasztalat modell telepítésben a CANN, TensorFlow vagy PyTorch használatával
- Ismeret a Linux CLI, shell szkriptelés és Python programozás terén
Közönség
- AI teljesítménymérnökök
- Inferencia optimalizációs szakértők
- Fejlesztők, akik peremhálózati AI-val vagy valós idejű rendszerekkel dolgoznak
14 Órák