Egyedi AI-operátorok fejlesztése CANN TIK és TVM segítségével Képzés

Bevezetés az egyedi operátorfejlesztésbe

• Miért építsünk egyedi operátorokat? Felhasználási esetek és korlátok
• A CANN futtatókörnyezet felépítése és az operátorintegrációs pontok
• A TBE, a TIK és a TVM áttekintése a Huawei AI-ökoszisztémában

A TIK használata alacsony szintű operátorprogramozáshoz

• A TIK programozási modell és a támogatott API-k megértése
• Memóriakezelés és csempézési stratégia a TIK-ben
• Egyedi operátor létrehozása, fordítása és regisztrálása a CANN-nal

Egyedi operátorok tesztelése és validálása

• Operátorok egység- és integrációs tesztelése a gráfban
• Kernel szintű teljesítményproblémák hibakeresése
• Az operátor-végrehajtás és a pufferviselkedés vizualizálása

TVM-alapú ütemezés és optimalizálás

• A TVM áttekintése mint tenzoroperátorok fordítója
• Ütemezés írása egy egyedi operátorhoz a TVM-ben
• TVM-hangolás, teljesítménymérés és kódgenerálás Ascendhez

Integráció keretrendszerekkel és modellekkel

• Egyedi operátorok regisztrálása a MindSpore-hoz és az ONNX-hoz
• A modell integritásának és a tartalék viselkedésnek az ellenőrzése
• Többoperátoros gráfok támogatása vegyes pontossággal

Esettanulmányok és speciális optimalizálások

• Esettanulmány: nagy hatékonyságú konvolúció kis bemeneti alakzatokhoz
• Esettanulmány: memóriatudatos figyelem operátor optimalizálása
• Bevált gyakorlatok az egyedi operátorok eszközök közötti telepítésében

Összefoglalás és következő lépések