
Lokal udførelse af Large Language Models (LLM)
Beskrivelse
Cloud-løsninger er ikke altid den rette vej, når man arbejder med AI og store sprogmodeller. Der kan være krav om datasuverænitet, sikkerhed, performance eller blot ønsket om at eksperimentere uden internetadgang.
Dette kursus lærer dig at implementere og bruge Large Language Models lokalt ved hjælp af LM-Studio – et værktøj, der gør det muligt at køre LLM’er direkte på din egen maskine.
Vi starter med en introduktion til LM-Studio, herunder installation, opsætning og grundlæggende brug. Derefter gennemgår vi hardwarekrav og begrænsninger – fra GPU-krav til RAM-forbrug – og hvordan man optimerer ydeevnen på forskellige maskiner.
Du bliver introduceret til modeller fra Hugging Face, lærer at finde de rigtige modeller til dine behov, og integrere dem i LM-Studio. Gennem hands-on øvelser lærer du at bruge LLM’er til praktiske formål som dataanalyse, billedgenkendelse, sikkerhedsvurderinger og programmeringshjælp.
Kurset kombinerer teori med praksis, så du går herfra med både forståelse og konkrete værktøjer til at udnytte LLM’er lokalt – uanset om målet er udvikling, sikkerhed, analyse eller intern videndeling.
Efter kurset kan du:
- Installere og konfigurere LM-Studio til lokal kørsel af LLM’er
- Vurdere hardwarekrav og optimere performance
- Hente og implementere modeller fra Hugging Face
- Anvende LLM’er lokalt til dataanalyse, billedanalyse, sikkerhedsvurdering og programmeringshjælp
- Arbejde effektivt med AI uden cloud-afhængighed
Moduloversigt
- Modul 1Introduktion til LM-Studio
- Hvad er LM-Studio, og hvornår giver det mening at bruge det
- Installation og grundopsætning
- Modul 2Hardwarekrav og begrænsninger
- GPU, RAM og lagringskrav
- Optimering af performance for forskellige hardwareprofiler
- Modul 3Modelkilder og formater
- Overblik over modeller fra Hugging Face og andre repositories
- Model-formater til lokal brug
- GGUF (llama.cpp)
- GGML
- Safetensors
- ONNX
- MLX (Apple Silicon-optimeret)
- Download og integration i LM-Studio
- Valg af modelstørrelse og format i forhold til hardware og anvendelse
- Modul 4Praktiske øvelser
- Dataanalyse: sortering og strukturering af data
- Billedanalyse: identificering og kategorisering
- Sikkerhedsanalyse: identifikation af risici
- Programmeringshjælp: kodegenerering og scripts
Er du i tvivl?
Det ligger os meget på sinde, at du finder det kursusforløb, der skaber størst værdi for dig og din arbejdsplads. Tag fat i vores kursusrådgivere, de sidder klar til at hjælpe dig!
