W kolejnym kroku na bazie próbek dopasowuje się modeli, które łączy przez uśrednianie wyników (w przypadku regresji) lub za pomocą głosowania (w przypadku klasyfikacji). centruj|mały| Ilustracja koncepcji agregacji bootstrapowej Bagging zwykle umożliwia „ulepszeń procedur niestabilnych”, do których zaliczają się na przykład sztuczne sieci neuronowe, drzewa klasyfikacyjne i regresyjne czy wybór podzbiorów w regresji liniowej. Wykazano, że agregacja usprawnia wstępne etapy rozpoznawania obrazów. Z drugiej strony może nieznacznie pogorszyć wydajność stabilnych metod, takich jak metoda k najbliższych sąsiadów.
Zalety i wady Zalety:
Wiele słabych modeli łącznie osiąga lepsze wyniki i wykazuje mniejsze przeuczenie niż pojedynczy model bazujący na całym zbiorze. Metoda zmniejsza wariancję w słabych modelach o dużej wariancji i małym obciążeniu, co może poprawić wydajność. Metoda może wykorzystywać przetwarzanie równoległe, ponieważ każda oddzielna próba bootstrapowa może być przed agregacją przetwarzana osobno.
Wady:
W przypadku słabych modeli z wysokim obciążeniem, wynik zagregowany nadal będzie się charakteryzować obciążeniem. Utrata interpretowalności modelu. Algorytm może być kosztowny obliczeniowo, zależnie od zbioru danych.