MLOps (Machine Learning Operations) är ett samlingsnamn för arbetssätt, processer och verktyg som hjälper organisationer att ta modeller för maskininlärning från experiment till stabil drift i en riktig tjänst – och sedan hålla dem friska över tid. Begreppet lånar mycket från DevOps och handlar i praktiken om att göra AI-utveckling mer ”som vanlig mjukvaruutveckling”, fast med extra fokus på data, modellversioner och uppföljning i produktion.

MLOps beskrivs ofta som en ”pipeline” (pipeline) för hela livscykeln: data → träning → testning → driftsättning → övervakning → uppdatering/återträning.

Ordlista Pipeline (pipeline): ett flöde av steg som körs i ordning, till exempel data → träning → test → driftsättning. Driftsättning (deployment): när en modell läggs in i en riktig tjänst så att den faktiskt börjar användas. Övervakning (monitoring): att följa upp hur modellen och datat beter sig i verkligheten (fel, datakvalitet och om modellen blir sämre över tid). Återträning (retraining): att träna om modellen på nyare data när förutsättningarna ändrats. Versionshantering (version control): att kunna se och återskapa exakt vilken version av kod, data och modell som användes.

Bakgrund Till skillnad från vanlig programvara påverkas ML-modeller direkt av data som kan förändras över tid. Om verkligheten ”glider” kan modellen gradvis prestera sämre (model drift). Ett känt argument i forskningen är att ML-system lätt drar på sig teknisk skuld – sådant som fungerar i en demo men blir dyrt och krångligt att underhålla när det väl ska rulla stabilt. MLOps har vuxit fram som ett sätt att minska den typen av problem genom mer systematik kring testning, leverans och uppföljning.

Centrala delar MLOps kan se olika ut mellan organisationer, men ofta återkommer några byggstenar: Versionshantering av kod, data och modellartefakter (så att det går att återskapa hur en viss modell togs fram). Automatisering av steg i utveckling och leverans (CI/CD: continuous integration/continuous delivery) anpassat för ML. Testning och validering av både data och modell, till exempel rimlighetskontroller av indata och prestandatester före driftsättning. Driftsättning och ”servering” av prediktioner (serving) med rutiner för återställning om något går snett. Övervakning av drift (till exempel fel, svarstider och datakvalitet) och av modellens beteende över tid. Uppdatering och återträning (continuous training/retraining) när data eller krav förändras.

Verktyg och arbetssätt MLOps är inte ett enskilt verktyg utan mer ett sätt att jobba. I praktiken används ofta plattformar och komponenter för till exempel pipeline-orkestrering, modellregister och automatiserade utrullningar, plus övervakning i produktion. I branschbeskrivningar betonas också samarbete mellan roller: data science, utveckling och drift behöver prata med varandra, annars blir det lätt stopp när en modell ska ”över tröskeln” till produktion.

Sverige I Sverige har MLOps och ”operationalisering” av AI lyfts som en viktig del av att gå från pilot till nytta i vardagen. Exempelvis har AI Sweden beskrivit behovet av skalbar MLOps och kringliggande processer för AI-implementering i svenska organisationer. RISE har på liknande sätt betonat att driften av AI-system är lika viktig som utvecklingen och kopplat det till MLOps-tänk. eSam har publicerat en rapport om utvecklingsprocess och data för AI/ML, med fokus på transparens i stegen och hur data hanteras genom livscykeln.

Se även Maskininlärning Artificiell intelligens

Källor

Externa länkar

Kategori:Maskininlärning Kategori:Artificiell intelligens