Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Képzés
Fine-tuning open-source LLMs is an emerging best practice for organizations that seek to customize AI capabilities in secure, cost-efficient, and private environments.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML practitioners and AI developers who wish to fine-tune and deploy open-weight models like LLaMA, Mistral, and Qwen for specific business or internal applications.
By the end of this training, participants will be able to:
- Understand the ecosystem and differences between open-source LLMs.
- Prepare datasets and fine-tuning configurations for models like LLaMA, Mistral, and Qwen.
- Execute fine-tuning pipelines using Hugging Face Transformers and PEFT.
- Evaluate, save, and deploy fine-tuned models in secure environments.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Kurzusleírás
Introduction to Open-Source LLMs
- What are open-weight models and why they're important
- Overview of LLaMA, Mistral, Qwen, and other community models
- Use cases for private, on-premise, or secure deployments
Environment Setup and Tools
- Installing and configuring Transformers, Datasets, and PEFT libraries
- Choosing appropriate hardware for fine-tuning
- Loading pre-trained models from Hugging Face or other repositories
Data Preparation and Preprocessing
- Dataset formats (instruction tuning, chat data, text-only)
- Tokenization and sequence management
- Creating custom datasets and data loaders
Fine-Tuning Techniques
- Standard full fine-tuning vs. parameter-efficient methods
- Applying LoRA and QLoRA for efficient fine-tuning
- Using Trainer API for quick experimentation
Model Evaluation and Optimization
- Assessing fine-tuned models with generation and accuracy metrics
- Managing overfitting, generalization, and validation sets
- Performance tuning tips and logging
Deployment and Private Use
- Saving and loading models for inference
- Deploying fine-tuned models in secure enterprise environments
- On-premise vs. cloud deployment strategies
Case Studies and Use Cases
- Examples of enterprise use of LLaMA, Mistral, and Qwen
- Handling multilingual and domain-specific fine-tuning
- Discussion: Trade-offs between open and closed models
Summary and Next Steps
Követelmények
- An understanding of large language models (LLMs) and their architecture
- Experience with Python and PyTorch
- Basic familiarity with the Hugging Face ecosystem
Audience
- ML practitioners
- AI developers
A nyílt képzésekhez 5+ résztvevő szükséges.
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Képzés - Booking
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Képzés - Enquiry
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) - Érdeklődjön a vezetői tanácsadásról!
Érdeklődjön a vezetői tanácsadásról!
Közelgő kurzusok
Rokon tanfolyam
Advanced Techniques in Transfer Learning
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű gépi tanulási szakembereket céloz meg, akik szeretnék elsajátítani a legmodernebb transzfertanulási technikákat, és alkalmazni kívánják azokat a valós világ összetett problémáira.
A képzés végére a résztvevők képesek lesznek:
- A transzfertanulás fejlett fogalmainak és módszereinek megértése.
- Alkalmazzon tartomány-specifikus adaptációs technikákat előre betanított modellekhez.
- Alkalmazza a folyamatos tanulást a fejlődő feladatok és adatkészletek kezeléséhez.
- Sajátítsa el a többfeladatos finomhangolást, hogy javítsa a modell teljesítményét a feladatok között.
AI Automation with n8n and LangChain
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) azon fejlesztőknek és informatikai szakembereknek szól, akik minden képzettségi szinten szeretnének automatizálni feladatokat és folyamatokat mesterséges intelligencia segítségével anélkül, hogy kiterjedt kódokat írnának.
A képzés végére a résztvevők képesek lesznek:
- Komplex munkafolyamatok tervezése és megvalósítása az n8n vizuális programozási felületével.
- Integrálja az AI-képességeket a munkafolyamatokba a LangChain segítségével.
- Készítsen egyedi chatbotokat és virtuális asszisztenseket a különféle felhasználási esetekhez.
- Végezzen fejlett adatelemzést és -feldolgozást AI-ügynökök segítségével.
Automating Workflows with LangChain and APIs
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű üzleti elemzőknek és automatizálási mérnököknek szól, akik szeretnék megérteni, hogyan kell használni a LangChain-t és az API-kat az ismétlődő feladatok és munkafolyamatok automatizálására.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg az API-integráció alapjait a LangChain segítségével.
- Automatizálja az ismétlődő munkafolyamatokat a LangChain és Python segítségével.
- Használja a LangChain-t különböző API-k összekapcsolására a hatékony üzleti folyamatok érdekében.
- Egyéni munkafolyamatok létrehozása és automatizálása API-k és LangChain automatizálási képességei segítségével.
Building Conversational Agents with LangChain
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű szakembereknek szól, akik szeretnék elmélyíteni a beszélgetőpartnerek megértését, és alkalmazni szeretnék a LangChain-t a valós felhasználási esetekre.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapjait és alkalmazását a párbeszédes ágensek felépítésében.
- Beszélgetési ügynökök fejlesztése és üzembe helyezése a LangChain használatával.
- Integrálja a párbeszédes ügynököket API-kkal és külső szolgáltatásokkal.
- Alkalmazzon Natural Language Processing (NLP) technikákat a beszélgetőpartnerek teljesítményének javítására.
Building Private AI Workflows with Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik biztonságos és hatékony AI-vezérelt munkafolyamatokat szeretnének megvalósítani a Ollama segítségével.
A képzés végére a résztvevők képesek lesznek:
- Telepítse és konfigurálja a Ollama-öt privát AI-feldolgozáshoz.
- Integrálja az AI-modelleket a biztonságos vállalati munkafolyamatokba.
- Optimalizálja az AI teljesítményét, miközben megőrzi az adatvédelmet.
- Automatizálja az üzleti folyamatokat a helyszíni AI-képességekkel.
- Biztosítsa a vállalati biztonsági és irányítási irányelveknek való megfelelést.
Deploying Fine-Tuned Models in Production
21 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnének megbízhatóan és hatékonyan bevezetni a finomhangolt modelleket.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a finomhangolt modellek gyártásba történő bevezetésének kihívásait.
- Tárolja és telepítse a modelleket olyan eszközökkel, mint a Docker és Kubernetes.
- A telepített modellek megfigyelésének és naplózásának megvalósítása.
- Optimalizálja a modelleket a késleltetés és a méretezhetőség érdekében a valós forgatókönyvekben.
Deploying and Optimizing LLMs with Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) azoknak a középszintű szakembereknek szól, akik a Ollama segítségével szeretnének LLM-eket telepíteni, optimalizálni és integrálni.
A képzés végére a résztvevők képesek lesznek:
- LLM-ek beállítása és üzembe helyezése a Ollama használatával.
- Optimalizálja az AI modelleket a teljesítmény és a hatékonyság érdekében.
- Használja ki a GPU gyorsulást a jobb következtetési sebesség érdekében.
- Integrálja a Ollama-et munkafolyamatokba és alkalmazásokba.
- Az AI-modell teljesítményének nyomon követése és karbantartása az idő múlásával.
Ethical Considerations in AI Development with LangChain
21 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű AI-kutatóknak és politikai döntéshozóknak szól, akik szeretnék feltárni a mesterségesintelligencia-fejlesztés etikai vonatkozásait, és megtanulják, hogyan kell alkalmazni az etikai irányelveket az AI-megoldások készítése során a [ 0].
A képzés végére a résztvevők képesek lesznek:
- Határozza meg a mesterséges intelligencia fejlesztésének kulcsfontosságú etikai kérdéseit a LangChain segítségével.
- Ismerje meg az AI hatását a társadalomra és a döntéshozatali folyamatokra.
- Stratégiák kidolgozása tisztességes és átlátható mesterségesintelligencia-rendszerek létrehozására.
- Alkalmazzon etikus mesterséges intelligencia irányelveket LangChain-alapú projektekben.
Enhancing User Experience with LangChain in Web Apps
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű webfejlesztőknek és UX-tervezőknek szól, akik a LangChain segítségével intuitív és felhasználóbarát webalkalmazásokat szeretnének létrehozni.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapfogalmait és szerepét a webes felhasználói élmény javításában.
- A LangChain alkalmazása a webalkalmazásokban dinamikus és érzékeny felületek létrehozásához.
- Integrálja az API-kat a webalkalmazásokba az interaktivitás és a felhasználói elköteleződés javítása érdekében.
- Optimalizálja a felhasználói élményt a LangChain speciális testreszabási funkcióival.
- Elemezze a felhasználói viselkedési adatokat a webalkalmazások teljesítményének és élményének finomhangolásához.
Fine-Tuning and Customizing AI Models on Ollama
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnék finomhangolni és testreszabni az AI modelleket Ollama-on a fokozott teljesítmény és a tartományspecifikus alkalmazások érdekében.
A képzés végére a résztvevők képesek lesznek:
- Hozzon létre egy hatékony környezetet az AI modellek finomhangolásához a Ollama oldalon.
- Készítsen adatkészleteket a felügyelt finomhangoláshoz és megerősítő tanuláshoz.
- Optimalizálja az AI-modelleket a teljesítmény, a pontosság és a hatékonyság érdekében.
- Telepítsen testreszabott modelleket éles környezetben.
- Értékelje a modell fejlesztéseit és biztosítsa a robusztusságot.
LangChain: Building AI-Powered Applications
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű fejlesztőknek és szoftvermérnököknek szól, akik mesterséges intelligencia-alapú alkalmazásokat szeretnének építeni a LangChain keretrendszer segítségével.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain és összetevői alapjait.
- Integrálja a LangChaint olyan nagy nyelvi modellekkel (LLM), mint a GPT-4.
- Moduláris AI-alkalmazások létrehozása a LangChain segítségével.
- A LangChain alkalmazások gyakori problémáinak elhárítása.
Integrating LangChain with Cloud Services
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) haladó szintű adatmérnököknek és DevOps szakembereknek szól, akik ki szeretnék használni a LangChain képességeit a különféle felhőszolgáltatásokkal való integrálásával.
A képzés végére a résztvevők képesek lesznek:
- Integrálja a LangChain olyan fő felhőplatformokat, mint az AWS, Azure és Google Cloud.
- Használjon felhőalapú API-kat és szolgáltatásokat a LangChain-alapú alkalmazások fejlesztéséhez.
- A valós idejű interakcióhoz méretezheti és telepítheti a beszélgetőpartnereket a felhőbe.
- A figyelési és biztonsági bevált gyakorlatok megvalósítása felhőkörnyezetekben.
LangChain for Data Analysis and Visualization
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) középszintű adatszakértőknek szól, akik szeretnék használni a LangChain-t adatelemzési és vizualizációs képességeik fejlesztésére.
A képzés végére a résztvevők képesek lesznek:
- Automatizálja az adatok visszakeresését és tisztítását a LangChain segítségével.
- Végezzen fejlett adatelemzést az Python és LangChain használatával.
- Hozzon létre vizualizációkat a Matplotlib és más LangChain-ba integrált Python könyvtárak segítségével.
- Használja LangChain a természetes nyelvi betekintést az adatelemzésből.
LangChain Fundamentals
14 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő és középszintű fejlesztőknek és szoftvermérnököknek szól, akik szeretnék megtanulni a LangChain alapvető koncepcióit és architektúráját, és gyakorlati készségeket szeretnének szerezni az AI-építéshez. meghajtású alkalmazások.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a LangChain alapelveit.
- Állítsa be és konfigurálja a LangChain környezetet.
- Ismerje meg az architektúrát és azt, hogy a LangChain hogyan kommunikál a nagy nyelvi modellekkel (LLM).
- Egyszerű alkalmazások fejlesztése a LangChain segítségével.
Getting Started with Ollama: Running Local AI Models
7 ÓrákEz az oktató által vezetett, élő képzés a Magyarország-ban (online vagy helyszíni) kezdő szintű szakembereknek szól, akik szeretnének telepíteni, konfigurálni és használni Ollama-et AI modellek futtatásához helyi gépeiken.
A képzés végére a résztvevők képesek lesznek:
- Ismerje meg a Ollama alapjait és képességeit.
- A Ollama beállítása a helyi AI modellek futtatásához.
- LLM-ek telepítése és interakciója a Ollama használatával.
- Optimalizálja a teljesítményt és az erőforrás-felhasználást az AI-munkaterhelésekhez.
- Fedezze fel a helyi mesterséges intelligencia bevezetésének eseteit a különböző iparágakban.