Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
Teljesítményfogalmak és mérőszámok
- Késleltetés, átviteli sebesség, energiafogyasztás, erőforrás-kihasználtság
- Rendszer- és modellszintű szűk keresztmetszetek
- Profilozás következtetéshez és betanításhoz
Profilozás Huawei Ascend platformon
- A CANN Profiler és a MindInsight használata
- Kernel- és operátordiagnosztika
- Offload-mintázatok és memórialeképezés
Profilozás Biren GPU-n
- A Biren SDK teljesítményfigyelő funkciói
- Kernel-fúzió, memóriaigazítás és végrehajtási sorok
- Teljesítmény- és hőmérséklet-tudatos profilozás
Profilozás Cambricon MLU-n
- BANGPy és Neuware teljesítményeszközök
- Kernel-szintű láthatóság és naplóértelmezés
- MLU-profilozó integrációja telepítési keretrendszerekkel
Gráf- és modellszintű optimalizálás
- Gráfmetszési és kvantálási stratégiák
- Operátorfúzió és számítási gráf átszervezése
- Bemeneti méret szabványosítása és kötegméret-hangolás
Memória- és kerneloptimalizálás
- Memóriaelrendezés és újrafelhasználás optimalizálása
- Hatékony puffervezelés a különböző lapkakészleteken
- Kernel-szintű hangolási technikák platformonként
Többplatformos legjobb gyakorlatok
- Teljesítmény-hordozhatóság: absztrakciós stratégiák
- Közös hangolási folyamatok kialakítása többchipes környezetekhez
- Példa: objektumészlelési modell hangolása Ascend, Biren és MLU platformokon
Összefoglalás és következő lépések
Követelmények
- Tapasztalat AI-modell betanítási vagy telepítési folyamatokkal
- A GPU/MLU számítási alapelvek és a modelloptimalizálás ismerete
- Alapvető jártasság a teljesítményprofilozási eszközökben és mérőszámokban
Célközönség
- Teljesítménymérnökök
- Gépi tanulási infrastruktúra-csapatok
- AI-rendszerarchitekták
21 Órák
