Kategori: Interactive HPC

Kategorier
Interactive HPC Supercomputing UCloud

UCloud 2025.4.0 Release

Command palette, integrated editor & terminal, hurtigere file search og en enklere Syncthing UI.
I dag udgiver vi UCloud 2025.4.0! Denne opdatering introducerer en tastaturstyret command palette, en indbygget teksteditor, en integreret terminal, en fuldstændigt fornyet file search samt en forenklet Syncthing-oplevelse.

Selvom disse nye værktøjer er de mest synlige ændringer for brugerne, er de også en del af en bredere, langsigtet indsats for at forfine UClouds fundament.

“Softwareudviklingen på UCloud startede tilbage i 2017. Siden da har vi foretaget mange arkitektoniske og designmæssige ændringer. Denne udvikling har uundgåeligt ført til en ophobning af inkonsistenser og ineffektivitet. Med vores nu langt klarere forståelse af målet end i 2017 er ambitionen at forenkle den interne kodestruktur og fjerne gammel legacy code for at sikre stabilitet, ydeevne og hurtigere udvikling af servicen.”

Dan Sebastian Thrane, Senior Software Architect for Research Infrastructure

Med den kontekst in mente får du her et nærmere kig på, hvad der er nyt i UCloud 2025.4.0.

Navigation og genveje

Vi har tilføjet en hurtig måde at bevæge sig rundt i UCloud uden at forlade tastaturet.

  • Keyboard-first workflow: Brug det til at få adgang til genveje til almindelige handlinger, hoppe til dine favoritapplikationer eller hurtigt skifte projekt.
  • Command palette: Åbn palette med Ctrl+P på Windows/Linux eller Cmd+P på macOS.

Filer og søgning

Det er nu meget hurtigere og mere pålideligt at finde ting – og du kan redigere tekstfiler direkte i UCloud uden at skulle starte et job.

  • Fornyet file search: File search er blevet fuldstændigt genopbygget og er nu markant hurtigere. Dette kræver, at dine filer er indekseret. Indeksering kan tage op til 24 timer efter, at filen er oprettet.
  • Edit-in-place: Dobbeltklik på en tekstfil i file browser for at åbne den i den nye integrerede editor.
  • Syntax highlighting: Editor’en understøtter grundlæggende syntax highlighting.
  • Tabs & file tree: Arbejd på tværs af flere faner, og brug sidebar til hurtigt at navigere i dit projekts file tree.

Integreret terminal

En letvægts-terminal er nu tilgængelig på tværs af Kubernetes-baserede serviceudbydere.

  • Auto-shutdown: Sessioner lukker automatisk ned, når de er inaktive. (Bruges ikke til langvarige eller baggrundsopgaver.)
  • Tilgængelighed: Den integrerede terminal er nu tilgængelig på SDU/K8s-udbyderen. Den fungerer på samme måde som terminalen, der blev udgivet sidste år til SDU/Hippo-udbyderen. Du kan åbne en terminal i enhver mappe via knappen “Open terminal”.
  • Til små opgaver: Ideel til hurtige redigeringer og kørsel af almindelige værktøjer.
  • Ressourcebegrænsninger: Terminalen har begrænsede CPU- og hukommelsesressourcer og er ikke beregnet til at køre jobs.

Jobs og Syncthing

Nye real-time målinger er blevet tilføjet til jobs, og Syncthing er gjort nemmere at forstå og bruge.

  • Forenklet interface: En renere og mere brugervenlig Syncthing UI til håndtering af synkronisering.
  • Real-time job metrics: Du kan nu overvåge real-time målinger af CPU-, hukommelses- og GPU-forbrug direkte fra job view.

Forbedret dataoverførsel

Integrationsmodulet har fået en stor opgradering af upload-protokollen.

  • Denne protokol bruges både af slutbrugere og mellem tjenesteudbydere.
  • Dataoverførsel mellem SDU- og AAU-udbyderen er nu meget nemmere og hurtigere.
  • Upload-protokollen er intelligent og forsøger at undgå at sende filer, der allerede findes. Den udnytter også flere TCP-strømme og tråde for at maksimere ydeevnen.

Som altid kan du besøge UClouds dokumentation på https://docs.cloud.sdu.dk for mere information.

Kategorier
Interactive HPC Vejledning Webinarer og vejledninger - video

Webinaroptagelse: Transcribing and editing audio transcriptions with Transcriber and Speech Analyzer apps

In this video we will guide you through the complete pipeline of transcribing audio files from speech to text and editing and classifying transcription segments.

In this session, you’ll learn how to:

  • Use Transcriber for transcribing audio/video files. Transcriber is based on Open AI’s Whisper language model. The app can transcribe speech audio to text in various formats and uses the WhisperX package to perform speaker recognition.
  • Navigate the new, simple, drag and drop Transcriber user interface to make it easier for you to use AI to transcribe audio files.
  • Edit and classify the transcriptions with Speech Analyzer. Speech Analyzer is an application built on top of Label Studio, specifically optimized for dialogue analysis. It enables you to label, edit, and annotate transcriptions generated using Transcriber.
  • Perform a comprehensive dialogue analysis on UCloud involving transcribing audio files using Transcriber, followed by transcription analysis with Speech Analyzer.

All workflows will be executed inside a UCloud project environment with access to GPU resources.

Target audience: Researchers across all Departments, particularly Digital Humanities and Social Science, Students, AI interested.

Kategorier
Interactive HPC Supercomputing UCloud Vejledning Webinarer og vejledninger - video Workshop

Webinaroptagelse: Fine-Tuning and Deploying  Large Language Models

In this video we will guide you through the complete pipeline of fine-tuning large language models (LLMs) for specialised tasks such as medical question-answering using NeMo Framework and Triton Inference Server.

  • Prepare and preprocess open-source datasets for fine-tuning.
  • Apply Parameter-Efficient Fine-Tuning (PEFT) using LoRA with NVIDIA NeMo Framework.
  • Deploy optimised LLMs using NVIDIA Triton Inference Server and TensorRT-LLM.
  • Generate a synthetic Q&A dataset using Label Studio connected to a live inference backend.
  • Fine-tune and evaluate your customised LLM for domain-specific applications.

All workflows will be executed inside a UCloud project environment with access to GPU resources.

Target audience: Machine learning practitioners, researchers, and engineers interested in LLM customisation, domain adaptation, or scalable model deployment.

Technical Level: Intermediate to Advanced.

Notebooks: https://github.com/emolinaro/ucloud-workshop-28-05-2025

Kategorier
Applikation Interactive HPC Supercomputing Undervisning Vejledning Webinarer og vejledninger - video

Webinaroptagelse: UCloud courses hands-on

In this video we will go through the process of developing a course on UCloud, using UCloud Courses – a tool for hosting and managing university courses on UCloud. Wnt to know more about this new feature, check out our webinar recording introducing UCloud Courses.

Introduction

00:00 – Outline of the workshop agenda
03:10 – Introduction to the UCloud Courses concept
04:23 – Advantages of using UCloud Courses
05:56 – Outline of the steps involved in developing a UCloud Course
09:54 – Requesting and planning a UCloud Course
10:20 – Example of the planning and structuring of an existing UCloud Course

Developing a UCloud Course step by step

Setting up the environment
15:53 – Preliminary remarks
17:15 – Showing the existing UCloud Course that will be re-developed in the workshop
18:02 – Showing the UCloud-Courses GitHub repository
18:40 – Software requirements and -recommendations
20:22 – Short introduction to Git and GitHub
24:27 – Cloning the repository
25:15 – Creating a working branch
26:12 – What should go in the UCloud-Courses repository and what shouldn’t
27:24 – Installing the required dependencies

Creating a new UCloud Course and modifying the templates
28:00 – Creating a UCloud Course using a prepared script
30:31 – Walk-through of the different auto-generated files/folders in the course folder
33:35 – Short introduction to Docker
38:15 – Modifying the Dockerfile
42:32 – What should go in the UCloud-Courses repository and what shouldn’t
45:28 – Building the Docker image locally using a prepared script
47:54 – Modifying the starting script
01:00:50 – What can, shouldn’t, and mustn’t be changed while the course is running

Building and testing the course locally
01:05:00 – Re-building the Docker image locally using a prepared script
01:05:25 – Running a Docker container locally using a prepared script
01:10:58 – Opening the JupyterLab interface on localhost

Finalising the course app
01:12:48 – Opening a pull request and requesting code review
01:19:44 – Testing the course app on UCloud before it’s deployed

Closing remarks

01:25:44 – Reusing/updating an existing UCloud course
01:28:19 – The financial model in brief
01:29:38 – Useful links and resources

UCloud-Courses GitHub repository:
https://github.com/SDU-eScience/UCloud-Courses

README in the UCloud-Courses GitHub repository:
https://github.com/SDU-eScience/UCloud-Courses/blob/main/README.md

Wiki page in the UCloud-Courses GitHub repository:
https://github.com/SDU-eScience/UCloud-Courses/wiki

The UCloud course app redeveloped in the workshop (UCloud login required):
https://cloud.sdu.dk/app/jobs/create?app=nlp-demo-course_147222U005

eScience Servicedesk (point of first contact):
https://support.escience.sdu.dk/

Kategorier
Applikation Interactive HPC

Ny app: AlphaFold 3 – et banebrydende værktøj til forudsigelse af proteinstruktur

AlphaFold 3, den nye AI-model udviklet af Google DeepMind og Isomorphic Labs, kan forudsige strukturerne af komplekser dannet af forskellige biomolekyler, herunder protein-DNA-, protein-RNA- og protein-ligand-interaktioner.

AlphaFold 3-implementeringen på Interactive HPC – UCloud er optimeret til brug med GPU’er og inkluderer de nødvendige genetiske (sekvens-) databaser for proteiner og RNA til at køre analysen.

Ud over Batch Mode findes der yderligere versioner af app’en – Lab Mode og Visualization Mode – som henholdsvis gør det muligt at bruge softwaren i et JupyterLab-miljø og at visualisere proteinstrukturer opnået med AlphaFold 3.

AlphaFold 3 er implementeret på Interactive HPC – UCloud for at understøtte specifikke typer arbejde, f.eks. præcis strukturforudsigelse og modellering, og er klar til brug for alle brugere af Interactive HPC – UCloud.

Du kan finde flere oplysninger i UCloud dokumentationen.

Kategorier
Interactive HPC Kald Supercomputing

Færre ressourcer i kommende nationalt HPC-kald

Posten som bestyrelsesforperson for DeiC er aktuelt ubesat, og det medfører forsinkelser i beslutningsprocesser og påvirker kommende HPC kald.

John Renner Hansen, er fratrådt som forperson for DeiCs bestyrelse.  Dette medfører bl.a., at DeiCs bestyrelse for nuværende ikke kan ikke kan tage beslutninger af økonomisk karakter, hvilket påvirker en række igangværende og kommende HPC-aktiviteter.

Det forventes, at Danske Universiteters Rektorkollegium udpeger en ny forperson i begyndelsen af august 2025.

Færre ressourcer i kommende HPC-kald

Næste kald for national HPC-regnetid åbner den 15. juli 2025 og dækker regnetidsperioden 1. januar til 31. december 2026. 

DeiCs kontrakter med DeiC Interactive HPC udløber 31. december 2025, og arbejdet med nye aftaler er i gang. Men da bestyrelsen for nuværende ikke er beslutningsdygtig, kan det ikke garanteres, at de nye aftaler er på plads, inden kaldet åbner.

Derfor vil det kommende kald som udgangspunkt udelukkende omfatte national regnetid på LUMI.

For yderligere information, kontakt dit lokale Front Office.

Dette er en redigeret version af nyheden udgivet af DeiC https://deic.dk/da/news/2025-6-20/forsinkede-kvantekald-og

Kategorier
Applikation Interactive HPC Supercomputing

Ny app: Apache Kafka 

Brugere af DeiC Interactive HPC – UCloud kan nu få adgang til Apache Kafka, en højtydende event-streaming platform designet til at håndtere realtidsdata i stor skala.

Kafka-implementeringer på UCloud understøtter multi-node konfigurationer, hvilket muliggør produktionsklar distribueret logging, stream-behandling, dataintegration og publish/subscribe messaging systemer.

Studerende og forskere kan bruge Apache Kafka til at indsamle, behandle og analysere store mængder realtidsdata – for eksempel streamingdata fra laboratoriets sensorer, sociale medier eller webklikstrømme. Det er især nyttigt til at bygge datapipelines i projekter, der involverer maskinlæring, IoT eller realtidsanalyse, og muliggør reproducerbare og skalerbare forskningsarbejdsgange.

For flere detaljer om Apache Kafka-applikationen, besøg UCloud docs for den fulde dokumentation. 

Kategorier
Interactive HPC Supercomputing UCloud Workshop

Workshops om AI applikationer

Join us for three new and free online workshops to explore how these tools can transform your work. Discover AI Applications on DeiC Interactive HPC – UCloud

Workshop 1:

Transcribing and editing audio transcriptions with Transcriber and Speech Analyzer apps

Date: 22 May 2025

Time: 13:00 – 15:00 (CET)

Location: Online, via Zoom (link TBA)

Join us for a hands-on workshop where we guide you through the complete pipeline of transcribing audio files from speech to text and editing and classifying transcription segments.

In this session, you’ll learn how to:

  • Use Transcriber for transcribing audio/video files. Transcriber is based on Open AI’s Whisper language model. The app can transcribe speech audio to text in various formats and uses the WhisperX package to perform speaker recognition.
  • Navigate the new, simple, drag and drop Transcriber user interface to make it easier for you to use AI to transcribe audio files.
  • Edit and classify the transcriptions with Speech Analyzer. Speech Analyzer is an application built on top of Label Studio, specifically optimized for dialogue analysis. It enables you to label, edit, and annotate transcriptions generated using Transcriber.
  • Perform a comprehensive dialogue analysis on UCloud involving transcribing audio files using Transcriber, followed by transcription analysis with Speech Analyzer.

All workflows will be executed inside a UCloud project environment with access to GPU resources.

Target audience: Researchers across all Departments, particularly Digital Humanities and Social Science, Students, AI interested.

Technical Level: Basic to Intermediate.

Sign up for this workshop

Workshop 2:

ChatUI and CVAT pipelines

Date: 27 May 2025

Time: 13:00 – 15:00 (CET)

Location: Online, via Zoom (link TBA)

Join us for a hands-on workshop where we guide you through two different AI based workflows, involving ChatUI and CVAT apps.

In this session, you’ll learn how to:

  • Use Chat UI as a flexible interface for hosting of various LLM models, and interact via a chat or API environment.
  • Use ChatUI for semantic search in a knowledge base.
  • Use CVAT as a powerful annotation tool, including image classification, object detection, semantic and instance segmentation, and video / 3D annotations.
  • Use advanced CVAT features including auto-annotation, algorithmic assistance, management and analytics.

All workflows will be executed inside a UCloud project environment with access to GPU resources.

Target audience: Researchers across all fields, particularly transport, robotics, digital humanities, social sciences, machine learning and students.

Technical Level: Basic to Intermediate.

Sign up for this workshop

Workshop 3:

Fine-Tuning and Deploying  Large Language Models with NeMo Framework and Triton Inference Server

Date: 28 May 2025

Time: 13:00 – 15:00 (CET)

Location: Online, via Zoom (link TBA)

Join us for a hands-on workshop where we guide you through the complete pipeline of fine-tuning large language models (LLMs) for specialized tasks such as medical question-answering!

In this session, you’ll learn how to:

  • Prepare and preprocess open-source datasets for fine-tuning.
  • Apply Parameter-Efficient Fine-Tuning (PEFT) using LoRA with NVIDIA NeMo Framework.
  • Deploy optimized LLMs using NVIDIA Triton Inference Server and TensorRT-LLM.
  • Generate a synthetic Q&A dataset using Label Studio connected to a live inference backend.
  • Fine-tune and evaluate your customized LLM for domain-specific applications.

All workflows will be executed inside a UCloud project environment with access to GPU resources.

Target audience: Machine learning practitioners, researchers, and engineers interested in LLM customization, domain adaptation, or scalable model deployment.

Technical Level: Intermediate to Advanced.

Sign up for this workshop

DeiC Interactive HPC provides researchers at Danish universities with access to a variety of AI applications on UCloud that enable them to accelerate their research through powerful and secure computational tools.

Through online workshops the DeiC Interactive HPC Consortium will introduce both new and experienced users to DeiC Interactive HPC/UCloud’s AI app portfolio.

The sessions are designed to equip researchers and students with the knowledge and skills needed to effectively harness DeiC Interactive HPC/UCloud’s AI tools for their research.

Feel free to share with colleagues and peers who might benefit. See you there!

Kategorier
Interactive HPC Supercomputing UCloud

DeiC Interactive HPC har nu 15.000 brugere

DeiC Interactive HPC-konsortiet er glade for at kunne meddele, at tjenesten, som drives af UCloud-softwaren, har nået en ny vigtig milepæl: 15.000 brugere. Det er et tydeligt tegn på den voksende interesse for tjenesten og dens vigtige rolle i at gøre digital forskning mere tilgængelig gennem brugervenlig supercomputing.

Siden starten har DeiC Interactive HPC haft fokus på at give forskere nem adgang til højtydende beregningsressourcer (HPC). Den intuitive brugerflade og de mange funktioner har ændret måden, forskere arbejder med komplekse beregninger på – og gjort HPC relevant for langt flere.

Tjenestens succes skyldes det stærke samarbejde i konsortiet bag. Sammen har vi skabt en platform, hvor forskere fra mange forskellige fagområder kan udnytte den nyeste teknologi til at fremme innovation og nye opdagelser.

Mens DeiC Interactive HPC og UCloud fortsætter med at vokse, er vi fortsat dedikerede til at udvikle tjenesten og nå endnu bredere ud. Målet er at give endnu flere forskere de rette værktøjer til at tage fat på nogle af de største videnskabelige udfordringer i vores tid.

Kategorier
Interactive HPC UCloud Use-case

DeiC Interactive HPC er uundværlig i udviklingen af danske AI-sprogmodeller

Af Jasper Riis-Hansen and Line Ejby Sørensen, Center for Humanities Computing (CHC), Aarhus Universitet

DeiC Interactive HPC – UCloud spiller en central rolle i projektet Danish Foundation Models (DFM), som er en del af regeringens strategiske satsning for kunstig intelligens.

Danish Foundation Models (DFM) støttes af Digitaliseringsministeriet som led i regeringens strategiske indsats for kunstig intelligens, der skal sikre, at vi i Danmark har adgang til avancerede og specialtilpassede sprogmodeller, der kan anvendes i en række sektorer, herunder sundhed, offentlig forvaltning, uddannelse og det private erhvervsliv.

Et fælles digitalt miljø

DFM-projektet forener danske universiteter, forskningsinstitutioner og erhvervspartnere i en fælles indsats for at sætte nye standarder for etisk ansvarlige og inkluderende AI-sprogteknologier.

Projektet er et samarbejde mellem Aarhus Universitet, Københavns Universitet, Syddansk Universitet og Alexandra Instituttet. DeiC Interactive HPC – UCloud spiller en helt central rolle i projektet ved at bidrage med høj datasikkerhed, skalerbar regnekraft og ikke mindst en lettilgængelig, sikker og national cloud-platform til samarbejde mellem projektets partnere.

” UCloud danner basis for et vigtigt skridt i forskningsdigitaliseringen, fordi platformen både giver nem adgang til regnekraft, som gør skalerbar dataanalyse og modellering enklere, og den udgør et sikkert miljø til håndtering af følsomme data. Platformen gør det også nemt at samarbejde på tværs af institutioner og giver os mulighed for at styre dataadgang efter behov. Det er særligt relevant for DFM-projektet, hvor der er mange partnere, der deltager på forskellige niveauer af projektet.”
Postdoc Kenneth Enevoldsen

Datasikkerhed og regnekraft

Fordi AI-modeller ofte trænes på følsomme data, er det afgørende, at databehandlingen overholder både GDPR og danske sikkerhedsstandarder. UCloud er ISO27001-certificeret og udviklet specifikt til at leve op til både danske og EU-krav for sikker databehandling.

“I DFM-projektet håndterer vi meget store mængder af data fra forskelligartede kilder – inklusive følsomme data, som modellerne skal trænes på, og det stiller store krav til datasikkerheden. Derfor er UCloud et vigtigt værktøj i projektet – netop på grund af den høje datasikkerhed og adgangen til skalerbar regnekraft.”
Postdoc Kenneth Enevoldsen

Selvom DFM også anvender nogle af de europæiske supercomputere som LUMI i Finland og Leonardo i Italien, er projektets daglige drift stærkt afhængig af UCloud. Udover at være et trinbræt til højtydende beregninger, fungerer UCloud også som en sikker og brugervenlig platform med et bredt udvalg af lettilgængelige applikationer, der er afgørende for den daglige forskning, samarbejde, databehandling og innovation på tværs af projektets brede faglige spændvidde.

Kritisk infrastruktur for dansk AI-udvikling

DFM’s ledende forskere, Kristoffer Nielbo og Peter Schneider-Kamp, fremhæver, at DeiC Interactive HPC – UClouds robuste digitale forskningsmiljø udgør kritisk infrastruktur for forskningen. Det effektiviserer arbejdsgange, styrker samarbejdet og fremskynder udviklingen af både sprog- og AI-teknologier.

“Uden UCloud ville DFM-projektet selv være nødt til at etablere denne type digital infrastruktur fra bunden med store tidsmæssige og økonomiske omkostninger til følge. Platformens rolle i DFM-projektet viser tydeligt, hvordan robuste og samarbejdsorienterede digitale forskningsmiljøer er fundamentale for Danmarks AI-strategier.”

FAKTA: Danish Foundation Models (DFM)

Danish Foundation Models (DFM) er et samarbejdsprojekt mellem Aarhus Universitet, Københavns Universitet, Syddansk Universitet og Alexandra Instituttet.

Projektet er støttet af Digitaliseringsministeriet med en bevilling på 30,7 millioner kroner og har til formål at udvikle avancerede sprogmodeller med åben adgang og gennemsigtige udviklingsprocesser.

Sprogmodellerne er særligt tilpasset dansk og andre skandinaviske sprog og kulturer og skal kunne anvendes i en bred vifte af sektorer, herunder sundhed, offentlig forvaltning, uddannelse og det private erhvervsliv.

DFM skal etablere en ny standard for etisk ansvarlig, inkluderende og gennemsigtig AI-sprogteknologi til gavn for både det danske samfund og forskningsverdenen.

Læs mere: Danish Foundation Models, Ministry of Digital Affairs press release