Kurzusleírás

Bevezetés az Egyedi Operátor Fejlesztésbe

  • Miért érdemes egyedi operátorokat építeni? Használati esetek és korlátozások
  • A CANN futási környezet szerkezete és operátor integrációs pontjai
  • A TBE, TIK és TVM áttekintése a Huawei AI ökoszisztémában

A TIK Használata Alacsony Szintű Operátor Programozásban

  • A TIK programozási modell és támogatott API-k megértése
  • Memóriakezelés és csempézési stratégia a TIK-ben
  • Egyedi operátor létrehozása, fordítása és regisztrálása a CANN-nel

Egyedi Operátorok Tesztelése és Ellenőrzése

  • Egységtesztelés és integrációs tesztelés a gráfban
  • Kernel-szintű teljesítményproblémák hibakeresése
  • Operátor végrehajtás és puffer viselkedés vizualizálása

TVM Alapú Ütemezés és Optimalizálás

  • A TVM áttekintése, mint tenzor operátorok fordítója
  • Egyedi operátor ütemezésének írása a TVM-ben
  • TVM finomhangolás, teljesítménytesztelés és kódgenerálás Ascend-hez

Integráció Keretrendszerekkel és Modellekkel

  • Egyedi operátorok regisztrálása MindSpore és ONNX számára
  • Modell integritás és visszaesési viselkedés ellenőrzése
  • Többoperátoros gráfok támogatása vegyes pontossággal

Esettanulmányok és Speciális Optimalizációk

  • Esettanulmány: hatékony konvolúció kis bemeneti alakzatokhoz
  • Esettanulmány: memóriaérzékeny figyelmi operátor optimalizálása
  • Ajánlott eljárások egyedi operátorok üzembe helyezésében eszközök között

Összefoglalás és Következő Lépések

Követelmények

  • Mély ismeretek az AI modellek belső működéséről és operátorszintű számításokról
  • Tapasztalat Python és Linux fejlesztői környezetekben
  • Ismeret a neurális hálózatok fordítóiról vagy gráfszintű optimalizálóiról

Célközönség

  • AI eszközláncokon dolgozó fordítómérnökök
  • Alacsony szintű AI optimalizációra fókuszáló rendszerfejlesztők
  • Egyedi operátorokat építő vagy új AI munkaterheléseket célzó fejlesztők
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák