LLM-integration & RAG
Vil du bygge dine egne løsninger oven på sprogmodeller? Vores kurser dækker LLM API'er fra Python, RAG på egne data, LangChain og lokale modeller.
Vil du bygge dine egne løsninger oven på sprogmodeller? Vores kurser dækker LLM API'er fra Python, RAG på egne data, LangChain og lokale modeller.
LLM-integration & RAG Kurser
Generativ AI og LLM – Grundlæggende anvendelser
Generativ AI og LLM – Python udvikler
Lokal udførelse af Large Language Models (LLM)
Develop natural language solutions in Azure
Develop generative AI apps in Azure
Integration af LLM API’er med Python
Develop AI-enabled database solutions
Kort om LLM-integration & RAG
LLM-integration handler om at bygge sprogmodellerne ind i egen software i stedet for blot at bruge dem gennem en chat: kalde modellerne via API'er fra OpenAI, Azure eller Hugging Face, give dem adgang til egne data, koble værktøjer på og pakke det hele ind i en løsning, andre kan bruge. Retrieval-augmented generation (RAG) er den centrale teknik, fordi den lader modellen svare ud fra virksomhedens egne dokumenter og systemer i stedet for kun sit træningsgrundlag. Området henvender sig til udviklere og dataspecialister, arbejdssproget er typisk Python, og det kræver ingen træning af egne modeller. Vil du blot bruge færdige assistenter som ChatGPT og Copilot, hører det under Generativ AI & prompt engineering; vil du forstå og træne modellerne selv, under Machine Learning & Deep Learning; bruger du AI som hjælp til selve kodearbejdet, er det AI-assisteret udvikling.
Fra chat til egne løsninger med LLM API'er
Den egentlige værdi for udviklere opstår, når modellerne integreres direkte i egne systemer via API'er fra OpenAI, Azure eller Hugging Face. Du lærer at kalde LLM API'er fra Python, arbejde med structured output og function calling, håndtere fejl, omkostninger og rate limits, og bygge løsninger som chatbots, skriveassistenter og automatiserede arbejdsgange. Du får også blik for de designvalg, der adskiller en demo fra en robust løsning: promptskabeloner, systematisk evaluering af svar og beskyttelse mod prompt injection.
RAG: modellen svarer ud fra jeres egne data
En sprogmodel kender kun det, den er trænet på, og intet om jeres interne dokumenter, systemer eller seneste tal. RAG løser det: dokumenter deles op og gøres søgbare med embeddings i en vektordatabase eller med vector search direkte i SQL Server, Azure SQL og Microsoft Fabric; de mest relevante uddrag findes frem for hvert spørgsmål og gives til modellen som kontekst; svaret bliver forankret i egen viden og kan pege tilbage på kilderne. Du lærer hele kæden, fra chunking og embeddings over søgning til det prompt, der samler det, og de valg der afgør kvaliteten: hvor store bidder, hvilken embedding-model, hvor mange kilder.
Orkestrering med LangChain, function calling og prompt flows
Rigtige løsninger er sjældent ét enkelt kald. Frameworks som LangChain lader dig bygge workflows, hvor flere trin, modeller og datakilder kædes sammen; function calling og structured output lader modellen kalde jeres egne funktioner og returnere data i et fast format; og i Azure AI Foundry samler prompt flows de samme mønstre i en administreret platform med indbyggede sprog- og taletjenester (Azure AI Language og Speech). Du lærer at vælge mellem at skrive orkestreringen selv og at bruge et framework eller en platform, og hvor grænsen går til egentlige AI-agenter, der selv planlægger deres handlinger.
Evaluering, sikkerhed og ansvarlig AI
Forskellen på en demo og en løsning i drift er evaluering. Du lærer at måle svarkvalitet systematisk i stedet for på mavefornemmelse, at teste for hallucinationer og for prompt injection, hvor ondsindet input forsøger at kapre modellen, at holde hemmeligheder og persondata ude af prompts og logs, og at holde styr på omkostninger og rate limits. Ansvarlig AI er en del af det samme håndværk: filtre for skadeligt indhold, sporbarhed i svarene og klare grænser for, hvad løsningen må bruges til.
Lokale modeller og datasikkerhed
Nogle opgaver kræver, at data ikke forlader virksomheden. Open source-modeller fra Hugging Face kan køres lokalt eller i eget miljø med værktøjer som LM Studio, så følsomme data aldrig sendes til en ekstern tjeneste. Du får praktisk erfaring med at hente, køre og vurdere lokale modeller, med at vælge model efter den hardware du har, og et grundlag for at vælge mellem skybaserede og lokale løsninger ud fra krav til datasikkerhed, kvalitet og omkostninger.
Gratis kursusrådgivning
Det ligger os meget på sinde, at du finder det kursus, der skaber mest værdi for dig og din arbejdsplads. Brug et par minutter på at ringe eller skrive til vores rådgivere, der sidder klar med teknisk sparring - gratis og uforpligtende.
