Wzmacnianie () – metoda maszynowego uczenia zespołowego polegająca na połączeniu zestawu mniej dokładnych („słabych”) modeli szkoleniowych w celu utworzenia jednego znacznie dokładniejszego („silniejszego”). W odróżnieniu od innych metod zespołowych, takich jak agregacja (bagging), które opierają się na równoległym stosowaniu modeli, boosting bazuje na podejściu na sekwencyjnym wykorzystaniu zespołu modeli. Każdy kolejny model jest szkolony tak, aby korygować błędy poprzednich modeli. Taki iteracyjny proces pozwala na zwiększenie dokładności całego modelu, w szczególności poprzez redukcję obciążenia. Wzmocnienie jest popularną i skuteczną techniką stosowaną w uczeniu nadzorowanym zarówno w zadaniach klasyfikacji, jak i przewidywania wartości (regresji).
Teoretyczne podstawy metody wzmacniania wywodzą się z pytania postawionego przez i Valianta (1988, 1989): „Czy zbiór słabych modeli szkoleniowych (ang. ) może stworzyć jeden silny model?”. Słaby model szkoleniowy został zdefiniowany jako klasyfikator, który osiąga wyniki jedynie nieznacznie lepsze niż losowe zgadywanie, natomiast silny model szkoleniowy to klasyfikator, który w wysokim stopniu koreluje z prawdziwą klasyfikacją. Twierdząca odpowiedź Roberta Schapire’a na to pytanie, przedstawiona w artykule z 1990 roku, doprowadziła do rozwoju praktycznych algorytmów wzmacniających. Pierwszy taki algorytm został opracowany przez Schapire’a, następnie i Schapire opracowali algorytm AdaBoost (od ang. , czyli wzmacnianie adaptacyjne), który do dziś pozostaje jednym z fundamentalnych przykładów zastosowania metody wzmacniania.
Przypisy
Kategoria:Uczenie maszynowe