Large Language Models – Interactive HPC

Fra teori til hands-on læring

I et hvidt undervisningslokale i Nobelparken står Mina foran 15 studerende. På skærmen bag hende står Python-koden i rette, symmetriske linjer, mens hun forklarer, hvilke kodebiblioteker de studerende skal tilgå.

I undervisningen bruger hun Coder Python-applikationen i UCloud, fordi kurset bygger på Python-programmering. Men valget af platform handler ikke kun om software – det handler om at give de studerende mulighed for at omsætte teori til praksis.

Tidligere foregik NLP-undervisningen, ifølge Mina, ofte på et mere teoretisk niveau, fordi der manglede adgang til både modeller og computerkraft til at afprøve teorierne i praksis. Især når det gjaldt de store sprogmodeller. Med UCloud kan de studerende nu arbejde direkte med sprogmodeller (LLMs) og bruge kraftfulde GPU’er og CPU’er. Det betyder, at de selv kan teste teorierne og eksperimentere hands-on med de værktøjer, de lærer om.

”Vi underviser stadig i teorien, men nu kan vi også få de studerende til at bruge værktøjerne i praksis. De kan kode selv og få indsigt i, hvordan en stor sprogmodel fungerer ved at arbejde direkte med den gennem UCloud,” forklarer hun.

Et standardiseret setup, der demokratiserer klasseværelset

En anden fordel ved at bruge UCloud i NLP-undervisningen er, at platformen sikrer lige adgang for alle studerende, uanset hvilken computer de har.

”Der er en form for demokratisering af klasseværelset, fordi man ikke behøver den nyeste computer. Man kan bruge en fem år gammel maskine til at køre meget tunge opgaver, som de nyeste værktøjer inden for Natural Language Processing kræver,” forklarer hun.

Det standardiserede setup gør samtidig undervisningen mere flydende. Alle studerende arbejder med samme standardkonfiguration i UCloud, så problemer, der opstår, er ens for alle. Det skaber et fællesskab omkring løsningerne, fordi udfordringerne kan adresseres i fællesskab, frem for at enkelte studerende må håndtere dem alene. Som Mina udtaler:

”I stedet for at stoppe op i undervisningen for at løse individuelle problemer, bliver problemerne kollektive og en mulighed for læring for alle. Hvis vi har en softwareudfordring, for eksempel en Python-biblioteksversion, der er forældet eller ikke kompatibel, påvirker det alle, og vi kan løse det sammen.”

En forberedelse til arbejdslivet

For Mina hjælper brugen af UCloud også med at forberede de studerende på den virkelighed, der venter dem, når de er færdige. Mange af de studerende, der går videre til IT-stillinger, vil, ifølge hende, sandsynligvis bruge cloud computing-platforme og ikke kode på deres lokale computere. På den måde bliver undervisningen en direkte forberedelse på fremtidige arbejdsopgaver og giver de studerende erfaring med de teknologier, de kommer til at møde i praksis.

Råd til andre undervisere

Mina har brugt UCloud siden sin bachelor og oplever, at platformen gør undervisningen både smidigere og mere engagerende.

”Jeg anbefaler at andre undervisere gør brug af platformen. Man skal bare gå i gang, men spørg gerne kolleger til råds om, hvordan de bruger det. Få lidt inspiration, for UCloud er et fantastisk værktøj. Det kan rigtig mange ting, men som med andre systemer kan det være lidt overvældende i starten, så det er en god idé at få lidt råd med på vejen, før du går i gang.”

Af Jasper Riis-Hansen and Line Ejby Sørensen, Center for Humanities Computing (CHC), Aarhus Universitet

DeiC Interactive HPC – UCloud spiller en central rolle i projektet Danish Foundation Models (DFM), som er en del af regeringens strategiske satsning for kunstig intelligens.

Danish Foundation Models (DFM) støttes af Digitaliseringsministeriet som led i regeringens strategiske indsats for kunstig intelligens, der skal sikre, at vi i Danmark har adgang til avancerede og specialtilpassede sprogmodeller, der kan anvendes i en række sektorer, herunder sundhed, offentlig forvaltning, uddannelse og det private erhvervsliv.

Et fælles digitalt miljø

DFM-projektet forener danske universiteter, forskningsinstitutioner og erhvervspartnere i en fælles indsats for at sætte nye standarder for etisk ansvarlige og inkluderende AI-sprogteknologier.

Projektet er et samarbejde mellem Aarhus Universitet, Københavns Universitet, Syddansk Universitet og Alexandra Instituttet. DeiC Interactive HPC – UCloud spiller en helt central rolle i projektet ved at bidrage med høj datasikkerhed, skalerbar regnekraft og ikke mindst en lettilgængelig, sikker og national cloud-platform til samarbejde mellem projektets partnere.

” UCloud danner basis for et vigtigt skridt i forskningsdigitaliseringen, fordi platformen både giver nem adgang til regnekraft, som gør skalerbar dataanalyse og modellering enklere, og den udgør et sikkert miljø til håndtering af følsomme data. Platformen gør det også nemt at samarbejde på tværs af institutioner og giver os mulighed for at styre dataadgang efter behov. Det er særligt relevant for DFM-projektet, hvor der er mange partnere, der deltager på forskellige niveauer af projektet.”
Postdoc Kenneth Enevoldsen

Datasikkerhed og regnekraft

Fordi AI-modeller ofte trænes på følsomme data, er det afgørende, at databehandlingen overholder både GDPR og danske sikkerhedsstandarder. UCloud er ISO27001-certificeret og udviklet specifikt til at leve op til både danske og EU-krav for sikker databehandling.

“I DFM-projektet håndterer vi meget store mængder af data fra forskelligartede kilder – inklusive følsomme data, som modellerne skal trænes på, og det stiller store krav til datasikkerheden. Derfor er UCloud et vigtigt værktøj i projektet – netop på grund af den høje datasikkerhed og adgangen til skalerbar regnekraft.”
Postdoc Kenneth Enevoldsen

Selvom DFM også anvender nogle af de europæiske supercomputere som LUMI i Finland og Leonardo i Italien, er projektets daglige drift stærkt afhængig af UCloud. Udover at være et trinbræt til højtydende beregninger, fungerer UCloud også som en sikker og brugervenlig platform med et bredt udvalg af lettilgængelige applikationer, der er afgørende for den daglige forskning, samarbejde, databehandling og innovation på tværs af projektets brede faglige spændvidde.

Kritisk infrastruktur for dansk AI-udvikling

DFM’s ledende forskere, Kristoffer Nielbo og Peter Schneider-Kamp, fremhæver, at DeiC Interactive HPC – UClouds robuste digitale forskningsmiljø udgør kritisk infrastruktur for forskningen. Det effektiviserer arbejdsgange, styrker samarbejdet og fremskynder udviklingen af både sprog- og AI-teknologier.

“Uden UCloud ville DFM-projektet selv være nødt til at etablere denne type digital infrastruktur fra bunden med store tidsmæssige og økonomiske omkostninger til følge. Platformens rolle i DFM-projektet viser tydeligt, hvordan robuste og samarbejdsorienterede digitale forskningsmiljøer er fundamentale for Danmarks AI-strategier.”

FAKTA: Danish Foundation Models (DFM)

Danish Foundation Models (DFM) er et samarbejdsprojekt mellem Aarhus Universitet, Københavns Universitet, Syddansk Universitet og Alexandra Instituttet.

Projektet er støttet af Digitaliseringsministeriet med en bevilling på 30,7 millioner kroner og har til formål at udvikle avancerede sprogmodeller med åben adgang og gennemsigtige udviklingsprocesser.

Sprogmodellerne er særligt tilpasset dansk og andre skandinaviske sprog og kulturer og skal kunne anvendes i en bred vifte af sektorer, herunder sundhed, offentlig forvaltning, uddannelse og det private erhvervsliv.

DFM skal etablere en ny standard for etisk ansvarlig, inkluderende og gennemsigtig AI-sprogteknologi til gavn for både det danske samfund og forskningsverdenen.

Læs mere: Danish Foundation Models, Ministry of Digital Affairs press release