Faglige nøgleord: AI, matematik, maskinlæring, geometri, sikker AI, troværdighed.
Oplæg tilgængeligt på: Dansk og engelsk
Vores verden styres i stigende grad af modeller og algoritmer, vi kalder AI. Er disse ydmyge tjenere klar til at adlyde os, eller kan de medføre vores undergang?
Mens sådanne spørgsmål er spændende, fokuserer vores forskning på at forstå disse modeller fra et stringent videnskabeligt perspektiv. Vi er særligt interesserede i deep learning-modeller, som har vist bemærkelsesværdig succes lige fra at føre samtaler med mennesker til at generere billeder af katte i rummet, blandt andre mere nyttige anvendelser.
Da computere opfatter verden gennem digitale repræsentationer, studerer vi, hvordan de transformerer inputstrukturer for at producere outputs. Vores hypotese er, at denne transformation driver læring ved at filtrere relevant fra irrelevant information. For at undersøge dette anvender vi værktøjer fra geometri og Bayesiansk sandsynlighed – århundredgamle matematiske rammeværker, der har vist sig effektive inden for fysik, økonomi og videre.
Ved at afdække geometrien i disse modeller sigter vi mod at designe systemer, der ræsonnerer pålideligt under usikkerhed, hvilket bringer os tættere på en sikrere AI-revolution.