In this video we will guide you through the complete pipeline of fine-tuning large language models (LLMs) for specialised tasks such as medical question-answering using NeMo Framework and Triton Inference Server.
Prepare and preprocess open-source datasets for fine-tuning.
Apply Parameter-Efficient Fine-Tuning (PEFT) using LoRA with NVIDIA NeMo Framework.
Deploy optimised LLMs using NVIDIATriton Inference Server and TensorRT-LLM.
Generate a synthetic Q&A dataset using Label Studio connected to a live inference backend.
Fine-tune and evaluate your customised LLM for domain-specific applications.
All workflows will be executed inside a UCloud project environment with access to GPU resources.
Target audience: Machine learning practitioners, researchers, and engineers interested in LLM customisation, domain adaptation, or scalable model deployment.
In this video we will go through the process of developing a course on UCloud, using UCloud Courses – a tool for hosting and managing university courses on UCloud. Wnt to know more about this new feature, check out our webinar recording introducing UCloud Courses.
Introduction
00:00 – Outline of the workshop agenda 03:10 – Introduction to the UCloud Courses concept 04:23 – Advantages of using UCloud Courses 05:56 – Outline of the steps involved in developing a UCloud Course 09:54 – Requesting and planning a UCloud Course 10:20 – Example of the planning and structuring of an existing UCloud Course
Developing a UCloud Course step by step
Setting up the environment 15:53 – Preliminary remarks 17:15 – Showing the existing UCloud Course that will be re-developed in the workshop 18:02 – Showing the UCloud-Courses GitHub repository 18:40 – Software requirements and -recommendations 20:22 – Short introduction to Git and GitHub 24:27 – Cloning the repository 25:15 – Creating a working branch 26:12 – What should go in the UCloud-Courses repository and what shouldn’t 27:24 – Installing the required dependencies
Creating a new UCloud Course and modifying the templates 28:00 – Creating a UCloud Course using a prepared script 30:31 – Walk-through of the different auto-generated files/folders in the course folder 33:35 – Short introduction to Docker 38:15 – Modifying the Dockerfile 42:32 – What should go in the UCloud-Courses repository and what shouldn’t 45:28 – Building the Docker image locally using a prepared script 47:54 – Modifying the starting script 01:00:50 – What can, shouldn’t, and mustn’t be changed while the course is running
Building and testing the course locally 01:05:00 – Re-building the Docker image locally using a prepared script 01:05:25 – Running a Docker container locally using a prepared script 01:10:58 – Opening the JupyterLab interface on localhost
Finalising the course app 01:12:48 – Opening a pull request and requesting code review 01:19:44 – Testing the course app on UCloud before it’s deployed
Closing remarks
01:25:44 – Reusing/updating an existing UCloud course 01:28:19 – The financial model in brief 01:29:38 – Useful links and resources
AlphaFold 3, den nye AI-model udviklet af Google DeepMind og Isomorphic Labs, kan forudsige strukturerne af komplekser dannet af forskellige biomolekyler, herunder protein-DNA-, protein-RNA- og protein-ligand-interaktioner.
AlphaFold 3-implementeringen på Interactive HPC – UCloud er optimeret til brug med GPU’er og inkluderer de nødvendige genetiske (sekvens-) databaser for proteiner og RNA til at køre analysen.
Ud over Batch Mode findes der yderligere versioner af app’en – Lab Mode og Visualization Mode – som henholdsvis gør det muligt at bruge softwaren i et JupyterLab-miljø og at visualisere proteinstrukturer opnået med AlphaFold 3.
AlphaFold 3 er implementeret på Interactive HPC – UCloud for at understøtte specifikke typer arbejde, f.eks. præcis strukturforudsigelse og modellering, og er klar til brug for alle brugere af Interactive HPC – UCloud.
Posten som bestyrelsesforperson for DeiC er aktuelt ubesat, og det medfører forsinkelser i beslutningsprocesser og påvirker kommende HPC kald.
John Renner Hansen, er fratrådt som forperson for DeiCs bestyrelse. Dette medfører bl.a., at DeiCs bestyrelse for nuværende ikke kan ikke kan tage beslutninger af økonomisk karakter, hvilket påvirker en række igangværende og kommende HPC-aktiviteter.
Det forventes, at Danske Universiteters Rektorkollegium udpeger en ny forperson i begyndelsen af august 2025.
Færre ressourcer i kommende HPC-kald
Næste kald for national HPC-regnetid åbner den 15. juli 2025 og dækker regnetidsperioden 1. januar til 31. december 2026.
DeiCs kontrakter med DeiC Interactive HPC udløber 31. december 2025, og arbejdet med nye aftaler er i gang. Men da bestyrelsen for nuværende ikke er beslutningsdygtig, kan det ikke garanteres, at de nye aftaler er på plads, inden kaldet åbner.
Derfor vil det kommende kald som udgangspunkt udelukkende omfatte national regnetid på LUMI.
For yderligere information, kontakt dit lokale Front Office.
ONLYOFFICE er en browserbaseret office suite til oprettelse og redigering af tekstdokumenter, regneark og præsentationer. Den er fuldt kompatibel med Microsoft Office-formater og har en brugerflade, der gør det nemt at skifte fra traditionelle desktopprogrammer.
ONLYOFFICE er udviklet til dokumentarbejde direkte i UCloud og giver mulighed for at:
Oprette og redigere dokumenter gemt i UCloud
Arbejde med tekstdokumenter, præsentationer og regneark
Uploade og downloade filer uden at forlade platformen
Bevare fuld kompatibilitet med Microsoft Office-filtyper
Appen tilbyder kernefunktionalitet via et lettilgængeligt, browserbaseret interface. Der kræves ingen installation af yderligere software.
ONLYOFFICE er tilgængelig for alle UCloud-brugere og er særligt relevant til:
Redigering eller forberedelse af akademiske dokumenter
I denne video introducerer vi den nye UCloud Courses-app – et værktøj til at hoste og administrere universitetskurser i UCloud.
Dr. Federica Lo Verso guider dig igennem appens koncept og baggrund. Du får en praktisk demonstration af, hvordan du tilgår og bruger værktøjet, udforsker dets integration med GitHub, og hører direkte fra Dr. Himanshu Khandelia, som deler sine erfaringer med at bruge UCloud Courses i virkelige undervisningssituationer.
Vi guider dig også gennem ansøgningsprocessen, viser dig de tekniske og økonomiske krav og giver dig en forsmag på et kommende praktisk kursus.
Tidskoder:
00:00 – Introduktion ved Dr. Federica Lo Verso 01:23 – Baggrund: Lanceringen af den nye UCloud Courses-app 04:12 – Gennemgang: Hvor du finder Courses-appen, og hvordan du bruger den 07:00 – Opsummering af demonstrationen af UCloud Courses-appen 07:56 – Gennemgang: Sådan fungerer GitHub-repositoriet 10:07 – Fordele ved at bruge Courses på UCloud 11:12 – Introduktion til brugsscenarie: Dr. Himanshu Khandelia 11:58 – Dr. Khandelia deler sine erfaringer med at bruge UCloud Courses 14:00 – Live-demo: Dr. Khandelia viser sin brug af Courses og GitHub-integration 23:00 – Sådan ansøger du: Ansøgningsprocessen for UCloud Courses 24:21 – Påkrævede ressourcer til at køre et UCloud-kursus 25:28 – Sådan genbruger og opdaterer du eksisterende UCloud Courses 26:20 – Økonomisk model: Omkostninger og tilgængelig støtte 27:12 – Outro og teaser til det kommende praktiske kursus
Indico er en robust open source-platform til eventplanlægning, arkivering og samarbejde – ideel til håndtering af konferencer, workshops og videnskabelige møder.
Nøglefunktioner inkluderer:
Eventstyring: Indico gør det muligt at organisere en bred vifte af arrangementer, lige fra små seminarer til store konferencer. Det understøtter hele arrangementets livscyklus, inklusive tilmelding samt indsendelse af abstracts og endelige artikler.Hierarkisk beskyttelse: Indico anvender et hierarkisk beskyttelsessystem, der muliggør forskellige roller og adgangsniveauer inden for arrangementerne.
Integration med samarbejdsværktøjer: Indico integrerer problemfrit med værktøjer som Zoom og øger produktiviteten i webbaserede møder.
Dokumenthåndtering: Indico gør det nemt at uploade og tilgå præsentationer, artikler og andre dokumenter.
Indico er nu implementeret på UCloud og klar til brug for alle UCloud-brugere.
Udvikling af din egen UCloud-kursusapp med en nyudviklet skabelonbaseret tilgang
Deltag i en praktisk workshop, hvor vi guider dig gennem alle trin i udviklingen af en UCloud-kursusapp ved hjælp af vores nyudviklede skabelonbaserede tilgang. Konceptet går ud på at have en dedikeret app på UCloud til dit universitetskursus, som studerende kan bruge f.eks. i øvelses-/labsessioner og/eller derhjemme. En introduktion til tilgangen findes i denne webinaroptagelse.
I denne workshop lærer du at:
Oversætte din kursusstruktur til en struktur, der er kompatibel med en UCloud-kursusapp.
Opsætte kursusudviklingsmiljøet, hvilket indebærer at klone GitHub-repositoriet og køre et kursus-setup-script.
Tilpasse de medfølgende skabeloner for at bygge en UCloud-kursusapp, der inkluderer alle nødvendige komponenter – softwareafhængigheder, scripts, datasæt og mere.
Teste kurset på din egen computer under udviklingen for at sikre, at alt fungerer korrekt. Vi ser også, hvordan den færdige kursusapp ser ud, når den er lagt på UCloud.
Git/GitHub og Docker er essentielle værktøjer i udviklingen af UCloud-kursusapps. I workshoppen giver vi korte introduktioner til begge værktøjer, primært rettet mod deltagere uden forudgående erfaring. Deltagerne kan med fordel gennemgå introduktionsmateriale til Git og Docker på forhånd, men det er ikke et krav.
Dato: 11. juni 2025
Tidspunkt: 12:30–14:30 (CET)
Sted: Online, via Zoom (link følger)
Målgruppe: Forskere og undervisere fra alle afdelinger på alle danske universiteter
Brugere af DeiC Interactive HPC – UCloud kan nu få adgang til Apache Kafka, en højtydende event-streaming platform designet til at håndtere realtidsdata i stor skala.
Kafka-implementeringer på UCloud understøtter multi-node konfigurationer, hvilket muliggør produktionsklar distribueret logging, stream-behandling, dataintegration og publish/subscribe messaging systemer.
Studerende og forskere kan bruge Apache Kafka til at indsamle, behandle og analysere store mængder realtidsdata – for eksempel streamingdata fra laboratoriets sensorer, sociale medier eller webklikstrømme. Det er især nyttigt til at bygge datapipelines i projekter, der involverer maskinlæring, IoT eller realtidsanalyse, og muliggør reproducerbare og skalerbare forskningsarbejdsgange.
For flere detaljer om Apache Kafka-applikationen, besøg UCloud docs for den fulde dokumentation.
Med den voksende efterspørgsel på transskriptions-/AI-tjenester på DeiC Interactive HPC – UCloud, er Speech Analyzer blevet tilføjet til platformen.
Speech Analyzer er en specialiseret applikation, der er bygget oven på Label Studio og optimeret til dialoganalyse. Den gør det muligt for brugerne at mærke, redigere og annotere taletransskriptioner, som er genereret af den integrerede Transcriber-engine. Derudover kan man dele opgaver med samarbejdspartnere.
