Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs Képzés
Parameter-Efficient Fine-Tuning (PEFT) is a collection of techniques that enable efficient adaptation of large language models (LLMs) by modifying only a small subset of parameters.
This instructor-led, live training (online or onsite) is aimed at intermediate-level data scientists and AI engineers who wish to fine-tune large language models more affordably and efficiently using methods like LoRA, Adapter Tuning, and Prefix Tuning.
By the end of this training, participants will be able to:
- Understand the theory behind parameter-efficient fine-tuning approaches.
- Implement LoRA, Adapter Tuning, and Prefix Tuning using Hugging Face PEFT.
- Compare performance and cost trade-offs of PEFT methods vs. full fine-tuning.
- Deploy and scale fine-tuned LLMs with reduced compute and storage requirements.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Kurzusleírás
Introduction to Parameter-Efficient Fine-Tuning (PEFT)
- Motivation and limitations of full fine-tuning
- Overview of PEFT: goals and benefits
- Applications and use cases in industry
LoRA (Low-Rank Adaptation)
- Concept and intuition behind LoRA
- Implementing LoRA using Hugging Face and PyTorch
- Hands-on: Fine-tuning a model with LoRA
Adapter Tuning
- How adapter modules work
- Integration with transformer-based models
- Hands-on: Applying Adapter Tuning to a transformer model
Prefix Tuning
- Using soft prompts for fine-tuning
- Strengths and limitations compared to LoRA and adapters
- Hands-on: Prefix Tuning on an LLM task
Evaluating and Comparing PEFT Methods
- Metrics for evaluating performance and efficiency
- Trade-offs in training speed, memory usage, and accuracy
- Benchmarking experiments and result interpretation
Deploying Fine-Tuned Models
- Saving and loading fine-tuned models
- Deployment considerations for PEFT-based models
- Integrating into applications and pipelines
Best Practices and Extensions
- Combining PEFT with quantization and distillation
- Use in low-resource and multilingual settings
- Future directions and active research areas
Summary and Next Steps
Követelmények
- An understanding of machine learning fundamentals
- Experience working with large language models (LLMs)
- Familiarity with Python and PyTorch
Audience
- Data scientists
- AI engineers
A nyílt képzésekhez 5+ résztvevő szükséges.
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs Képzés - Booking
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs Képzés - Enquiry
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Érdeklődjön a vezetői tanácsadásról!
Érdeklődjön a vezetői tanácsadásról!
Közelgő kurzusok
Rokon tanfolyam
Advanced Techniques in Transfer Learning
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű gépi tanulási szakembereket céloz meg, akik szeretnék elsajátítani a legmodernebb transzfertanulási technikákat, és alkalmazni kívánják azokat a valós világ összetett problémáira.
A képzés végére a résztvevők képesek lesznek:
- A transzfertanulás fejlett fogalmainak és módszereinek megértése.
- Alkalmazzon tartomány-specifikus adaptációs technikákat előre betanított modellekhez.
- Alkalmazza a folyamatos tanulást a fejlődő feladatok és adatkészletek kezeléséhez.
- Sajátítsa el a többfeladatos finomhangolást, hogy javítsa a modell teljesítményét a feladatok között.
AI Automation with n8n and LangChain
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) azon fejlesztőknek és informatikai szakembereknek szól, akik minden képzettségi szinten szeretnének automatizálni feladatokat és folyamatokat mesterséges intelligencia segítségével anélkül, hogy kiterjedt kódokat írnának.
A képzés végére a résztvevők képesek lesznek:
- Komplex munkafolyamatok tervezése és megvalósítása az n8n vizuális programozási felületével.
- Integrálja az AI-képességeket a munkafolyamatokba a LangChain segítségével.
- Készítsen egyedi chatbotokat és virtuális asszisztenseket a különféle felhasználási esetekhez.
- Végezzen fejlett adatelemzést és -feldolgozást AI-ügynökök segítségével.
Automating Workflows with LangChain and APIs
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű üzleti elemzőknek és automatizálási mérnököknek szól, akik szeretnék megérteni, hogyan kell használni a LangChain-t és az API-kat az ismétlődő feladatok és munkafolyamatok automatizálására.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg az API-integráció alapjait a LangChain segítségével.
- Automatizálja az ismétlődő munkafolyamatokat a LangChain és Python segítségével.
- Használja a LangChain-t különböző API-k összekapcsolására a hatékony üzleti folyamatok érdekében.
- Egyéni munkafolyamatok létrehozása és automatizálása API-k és LangChain automatizálási képességei segítségével.
Building Conversational Agents with LangChain
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű szakembereknek szól, akik szeretnék elmélyíteni a beszélgetőpartnerek megértését, és alkalmazni szeretnék a LangChain-t a valós felhasználási esetekre.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapjait és alkalmazását a párbeszédes ágensek felépítésében.
- Beszélgetési ügynökök fejlesztése és üzembe helyezése a LangChain használatával.
- Integrálja a párbeszédes ügynököket API-kkal és külső szolgáltatásokkal.
- Alkalmazzon Natural Language Processing (NLP) technikákat a beszélgetőpartnerek teljesítményének javítására.
Building Private AI Workflows with Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik biztonságos és hatékony AI-vezérelt munkafolyamatokat szeretnének megvalósítani a Ollama segítségével.
A képzés végére a résztvevők képesek lesznek:
- Telepítse és konfigurálja a Ollama-öt privát AI-feldolgozáshoz.
- Integrálja az AI-modelleket a biztonságos vállalati munkafolyamatokba.
- Optimalizálja az AI teljesítményét, miközben megőrzi az adatvédelmet.
- Automatizálja az üzleti folyamatokat a helyszíni AI-képességekkel.
- Biztosítsa a vállalati biztonsági és irányítási irányelveknek való megfelelést.
Deploying Fine-Tuned Models in Production
21 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnének megbízhatóan és hatékonyan bevezetni a finomhangolt modelleket.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a finomhangolt modellek gyártásba történő bevezetésének kihívásait.
- Tárolja és telepítse a modelleket olyan eszközökkel, mint a Docker és Kubernetes.
- A telepített modellek megfigyelésének és naplózásának megvalósítása.
- Optimalizálja a modelleket a késleltetés és a méretezhetőség érdekében a valós forgatókönyvekben.
Deploying and Optimizing LLMs with Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) azoknak a középszintű szakembereknek szól, akik a Ollama segítségével szeretnének LLM-eket telepíteni, optimalizálni és integrálni.
A képzés végére a résztvevők képesek lesznek:
- LLM-ek beállítása és üzembe helyezése a Ollama használatával.
- Optimalizálja az AI modelleket a teljesítmény és a hatékonyság érdekében.
- Használja ki a GPU gyorsulást a jobb következtetési sebesség érdekében.
- Integrálja a Ollama-et munkafolyamatokba és alkalmazásokba.
- Az AI-modell teljesítményének nyomon követése és karbantartása az idő múlásával.
Ethical Considerations in AI Development with LangChain
21 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű AI-kutatóknak és politikai döntéshozóknak szól, akik szeretnék feltárni a mesterségesintelligencia-fejlesztés etikai vonatkozásait, és megtanulják, hogyan kell alkalmazni az etikai irányelveket az AI-megoldások készítése során a [ 0].
A képzés végére a résztvevők képesek lesznek:
- Határozza meg a mesterséges intelligencia fejlesztésének kulcsfontosságú etikai kérdéseit a LangChain segítségével.
- Ismerje meg az AI hatását a társadalomra és a döntéshozatali folyamatokra.
- Stratégiák kidolgozása tisztességes és átlátható mesterségesintelligencia-rendszerek létrehozására.
- Alkalmazzon etikus mesterséges intelligencia irányelveket LangChain-alapú projektekben.
Enhancing User Experience with LangChain in Web Apps
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű webfejlesztőknek és UX-tervezőknek szól, akik a LangChain segítségével intuitív és felhasználóbarát webalkalmazásokat szeretnének létrehozni.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapfogalmait és szerepét a webes felhasználói élmény javításában.
- A LangChain alkalmazása a webalkalmazásokban dinamikus és érzékeny felületek létrehozásához.
- Integrálja az API-kat a webalkalmazásokba az interaktivitás és a felhasználói elköteleződés javítása érdekében.
- Optimalizálja a felhasználói élményt a LangChain speciális testreszabási funkcióival.
- Elemezze a felhasználói viselkedési adatokat a webalkalmazások teljesítményének és élményének finomhangolásához.
Fine-Tuning and Customizing AI Models on Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnék finomhangolni és testreszabni az AI modelleket Ollama-on a fokozott teljesítmény és a tartományspecifikus alkalmazások érdekében.
A képzés végére a résztvevők képesek lesznek:
- Hozzon létre egy hatékony környezetet az AI modellek finomhangolásához a Ollama oldalon.
- Készítsen adatkészleteket a felügyelt finomhangoláshoz és megerősítő tanuláshoz.
- Optimalizálja az AI-modelleket a teljesítmény, a pontosság és a hatékonyság érdekében.
- Telepítsen testreszabott modelleket éles környezetben.
- Értékelje a modell fejlesztéseit és biztosítsa a robusztusságot.
LangChain: Building AI-Powered Applications
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű fejlesztőknek és szoftvermérnököknek szól, akik mesterséges intelligencia-alapú alkalmazásokat szeretnének építeni a LangChain keretrendszer segítségével.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain és összetevői alapjait.
- Integrálja a LangChaint olyan nagy nyelvi modellekkel (LLM), mint a GPT-4.
- Moduláris AI-alkalmazások létrehozása a LangChain segítségével.
- A LangChain alkalmazások gyakori problémáinak elhárítása.
Integrating LangChain with Cloud Services
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű adatmérnököknek és DevOps szakembereknek szól, akik ki szeretnék használni a LangChain képességeit a különféle felhőszolgáltatásokkal való integrálásával.
A képzés végére a résztvevők képesek lesznek:
- Integrálja a LangChain olyan fő felhőplatformokat, mint az AWS, Azure és Google Cloud.
- Használjon felhőalapú API-kat és szolgáltatásokat a LangChain-alapú alkalmazások fejlesztéséhez.
- A valós idejű interakcióhoz méretezheti és telepítheti a beszélgetőpartnereket a felhőbe.
- A figyelési és biztonsági bevált gyakorlatok megvalósítása felhőkörnyezetekben.
LangChain for Data Analysis and Visualization
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű adatszakértőknek szól, akik szeretnék használni a LangChain-t adatelemzési és vizualizációs képességeik fejlesztésére.
A képzés végére a résztvevők képesek lesznek:
- Automatizálja az adatok visszakeresését és tisztítását a LangChain segítségével.
- Végezzen fejlett adatelemzést az Python és LangChain használatával.
- Hozzon létre vizualizációkat a Matplotlib és más LangChain-ba integrált Python könyvtárak segítségével.
- Használja LangChain a természetes nyelvi betekintést az adatelemzésből.
LangChain Fundamentals
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő és középszintű fejlesztőknek és szoftvermérnököknek szól, akik szeretnék megtanulni a LangChain alapvető koncepcióit és architektúráját, és gyakorlati készségeket szeretnének szerezni az AI-építéshez. meghajtású alkalmazások.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapelveit.
- Állítsa be és konfigurálja a LangChain környezetet.
- Ismerje meg az architektúrát és azt, hogy a LangChain hogyan kommunikál a nagy nyelvi modellekkel (LLM).
- Egyszerű alkalmazások fejlesztése a LangChain segítségével.
Getting Started with Ollama: Running Local AI Models
7 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű szakembereknek szól, akik szeretnének telepíteni, konfigurálni és használni Ollama-et AI modellek futtatásához helyi gépeiken.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a Ollama alapjait és képességeit.
- A Ollama beállítása a helyi AI modellek futtatásához.
- LLM-ek telepítése és interakciója a Ollama használatával.
- Optimalizálja a teljesítményt és az erőforrás-felhasználást az AI-munkaterhelésekhez.
- Fedezze fel a helyi mesterséges intelligencia bevezetésének eseteit a különböző iparágakban.