Underfitting

Underfitting (niedouczenie modelu) to sytuacja w uczeniu maszynowym i modelowaniu statystycznym, w której model jest zbyt prosty, aby uchwycić istotne zależności w danych, przez co osiąga słabe wyniki zarówno na zbiorze treningowym, jak i na danych nowych (testowych). W praktyce oznacza to, że model ma wysokie obciążenie (bias) i systematycznie „nie trafia” w strukturę zjawiska, które ma opisywać lub prognozować.

Underfitting pojawia się, gdy przyjęta postać modelu, zestaw cech (zmiennych objaśniających) lub sposób uczenia ograniczają zdolność modelu do odzwierciedlenia realnych relacji. Klasyczny przykład to dopasowanie prostej linii do danych, które mają wyraźnie nieliniowy przebieg (np. zależność w kształcie krzywej). W ekonomii i finansach może to oznaczać np. próbę wyjaśniania dynamiki inflacji wyłącznie jedną zmienną (np. stopą bezrobocia) w okresie, gdy istotną rolę odgrywają również szoki podażowe, kurs walutowy, ceny energii i oczekiwania inflacyjne. Model „zbyt ubogi” nie tylko gorzej prognozuje, ale też może prowadzić do mylących wniosków interpretacyjnych.

W ujęciu diagnostycznym underfitting rozpoznaje się po tym, że błąd (np. MSE, MAE) jest wysoki już na danych treningowych i nie poprawia się istotnie nawet przy zwiększaniu liczby obserwacji, o ile nie zmieni się złożoności modelu lub reprezentacji danych. W przeciwieństwie do overfittingu (przeuczenia), gdzie model świetnie „zapamiętuje” dane treningowe, ale słabo generalizuje, underfitting oznacza niedostateczne dopasowanie w ogóle. Z perspektywy kompromisu bias–variance underfitting wiąże się z dominacją błędu wynikającego z obciążenia (bias) nad wariancją: model jest stabilny, ale konsekwentnie zbyt uproszczony.

W praktyce przyczyny underfittingu są różnorodne i często wynikają z decyzji projektowych: zbyt restrykcyjna regularizacja (np. zbyt duże parametry kar w regresji grzbietowej lub LASSO), zbyt mała liczba parametrów (np. zbyt płytkie drzewo decyzyjne), zbyt krótki czas uczenia (np. zbyt mało epok w sieci neuronowej), nieodpowiednia transformacja zmiennych (np. brak logarytmowania przy silnej nieliniowości), albo zbyt agresywna selekcja cech. W zastosowaniach biznesowych i inwestycyjnych underfitting może ujawniać się jako model scoringowy, który nie rozróżnia dobrze ryzyka kredytowego, lub model prognoz popytu, który nie reaguje na sezonowość i promocje. W makroekonomii analogicznie: zbyt prosta specyfikacja (np. pominięcie opóźnień, efektów oczekiwań, zmiennych globalnych) może prowadzić do prognoz, które systematycznie spóźniają się względem punktów zwrotnych cyklu koniunkturalnego.

Przykłady (zwięźle):

  • *Finanse:* liniowy model stopy zwrotu akcji oparty wyłącznie na indeksie rynkowym może być niedouczony, jeśli w danych istotne są także czynniki sektorowe, momentum, zmienność czy ekspozycja walutowa.
  • *Ryzyko kredytowe:* prosta reguła „dochód powyżej progu = niski risk” ignoruje historię spłat, zadłużenie i stabilność zatrudnienia, przez co błędnie klasyfikuje wielu klientów.
  • *Ekonomia:* model inflacji bez uwzględnienia cen energii i kursu walutowego w okresie szoków podażowych może konsekwentnie zaniżać prognozy.
  • Kluczowe właściwości
  • Wysoki błąd na zbiorze treningowym i testowym; poprawa jakości jest ograniczona bez zwiększenia złożoności modelu lub lepszej reprezentacji danych.
  • Zwykle wysoki *bias* i relatywnie niska *variance* (model jest „sztywny”, mało wrażliwy na zmiany próby, ale systematycznie niedokładny).
  • Często wynika z niedopasowanej postaci funkcji (np. liniowość zamiast nieliniowości), zbyt silnej regularizacji lub zbyt ubogiego zestawu cech.
  • Może prowadzić do błędnych wniosków przy interpretacji parametrów (np. pozornie „brak wpływu” zmiennej, który jest skutkiem złej specyfikacji).
  • Typowe konteksty
  • Modelowanie ekonomiczne i finansowe: prognozy inflacji, PKB, popytu, ryzyka kredytowego, zmienności; szczególnie gdy relacje są nieliniowe, zależne od reżimu (np. kryzys vs. stabilizacja) lub mają opóźnienia.
  • Uczenie maszynowe w biznesie: scoring, segmentacja, prognozowanie sprzedaży, wykrywanie nadużyć—gdy uproszczony model ignoruje interakcje i sezonowość.
  • Analiza danych z ograniczeniami operacyjnymi: gdy celowo wybiera się model bardzo prosty (np. dla łatwej interpretacji), ryzyko underfittingu rośnie, jeśli prostota jest ważniejsza niż trafność.
  • Częste nieporozumienia
  • „Więcej danych zawsze rozwiąże problem”: przy underfittingu dodatkowe obserwacje nie zastąpią brakującej złożoności modelu lub istotnych cech.
  • „Prosty model jest zawsze bezpieczniejszy”: prostota zmniejsza ryzyko przeuczenia, ale może zwiększyć ryzyko systematycznego błędu i słabej użyteczności prognoz.
  • „Regularizacja zawsze poprawia generalizację”: zbyt silna regularizacja może „spłaszczyć” model do tego stopnia, że przestaje on uchwycać realne zależności.
  • „Niski overfitting = dobry model”: brak przeuczenia nie oznacza automatycznie dobrej jakości; model może być jednocześnie stabilny i niedokładny (underfitting).