Kurzusleírás

A CANN optimalizációs képességeinek áttekintése

  • Hogyan kezeli a CANN az inferencia teljesítményt
  • Optimalizálási célok peremhálózati és beágyazott AI rendszerekhez
  • Az AI mag kihasználtságának és memóriafoglalásának megértése

A Graph Engine használata elemzéshez

  • Bevezetés a Graph Engine-be és a végrehajtási folyamatba
  • Operátor gráfok és futási metrikák vizualizálása
  • Számítási gráfok módosítása optimalizálás céljából

Profilozó eszközök és teljesítménymetrikák

  • A CANN Profiling Tool (profiler) használata munkaterhelés elemzéséhez
  • Kernel végrehajtási idő és szűk keresztmetszetek elemzése
  • Memória hozzáférés profilozás és tiling stratégiák

Egyéni operátor fejlesztése a TIK segítségével

  • A TIK és az operátor programozási modell áttekintése
  • Egyéni operátor implementálása a TIK DSL segítségével
  • Operátor teljesítmény tesztelése és benchmarkolása

Fejlett operátor optimalizálás a TVM segítségével

  • Bevezetés a TVM integrációjába a CANN-nel
  • Automatikus hangolási stratégiák számítási gráfokhoz
  • Mikor és hogyan váltsunk a TVM és a TIK között

Memória optimalizálási technikák

  • Memória elrendezés és puffer elhelyezés kezelése
  • Technikák a chipen belüli memóriafogyasztás csökkentésére
  • Aszinkron végrehajtás és újrafelhasználás legjobb gyakorlatai

Valós üzembe helyezés és esettanulmányok

  • Esettanulmány: teljesítményhangolás okos városi kamera folyamathoz
  • Esettanulmány: önvezető járművek inferencia verem optimalizálása
  • Irányelvek iteratív profilozáshoz és folyamatos fejlesztéshez

Összefoglalás és következő lépések

Követelmények

  • Mélyreható ismeret a mélytanulási modell architektúrákról és a képzési munkafolyamatokról
  • Tapasztalat modell telepítésben a CANN, TensorFlow vagy PyTorch használatával
  • Ismeret a Linux CLI, shell szkriptelés és Python programozás terén

Közönség

  • AI teljesítménymérnökök
  • Inferencia optimalizációs szakértők
  • Fejlesztők, akik peremhálózati AI-val vagy valós idejű rendszerekkel dolgoznak
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák