Lokal udførelse af Large Language Models (LLM)

Cloud-løsninger er ikke altid den rette vej, når man arbejder med AI og store sprogmodeller. Der kan være krav om datasuverænitet, sikkerhed, performance eller blot ønsket om at eksperimentere uden internetadgang.

Dette kursus lærer dig at implementere og bruge Large Language Models lokalt ved hjælp af LM-Studio – et værktøj, der gør det muligt at køre LLM’er direkte på din egen maskine.

Vi starter med en introduktion til LM-Studio, herunder installation, opsætning og grundlæggende brug. Derefter gennemgår vi hardwarekrav og begrænsninger – fra GPU-krav til RAM-forbrug – og hvordan man optimerer ydeevnen på forskellige maskiner.

Du bliver introduceret til modeller fra Hugging Face, lærer at finde de rigtige modeller til dine behov, og integrere dem i LM-Studio. Gennem hands-on øvelser lærer du at bruge LLM’er til praktiske formål som dataanalyse, billedgenkendelse, sikkerhedsvurderinger og programmeringshjælp.

Kurset kombinerer teori med praksis, så du går herfra med både forståelse og konkrete værktøjer til at udnytte LLM’er lokalt – uanset om målet er udvikling, sikkerhed, analyse eller intern videndeling.

Efter kurset kan du:

• Installere og konfigurere LM-Studio til lokal kørsel af LLM’er
• Vurdere hardwarekrav og optimere performance
• Hente og implementere modeller fra Hugging Face
• Anvende LLM’er lokalt til dataanalyse, billedanalyse, sikkerhedsvurdering og programmeringshjælp
• Arbejde effektivt med AI uden cloud-afhængighed