In-context learning

In-context learning (uczenie w kontekście) to zdolność modelu sztucznej inteligencji (zwłaszcza dużego modelu językowego) do wykonywania nowego zadania na podstawie informacji i przykładów podanych w treści bieżącego zapytania, bez trwałej zmiany jego parametrów. Innymi słowy, model „uczy się” w trakcie rozmowy, wykorzystując kontekst (instrukcje, dane, demonstracje), a nie klasyczny proces trenowania.

W praktyce in-context learning polega na tym, że użytkownik dostarcza modelowi opis zadania, reguły, format odpowiedzi oraz często kilka przykładów wejście→wyjście, a model uogólnia te wskazówki na kolejne przypadki w ramach tej samej sesji. Przykładowo: jeśli w wiadomości umieści się trzy pary „opis transakcji → kategoria kosztu”, model potrafi przypisać kategorię kolejnym opisom, nawet jeśli wcześniej nie był specjalnie trenowany na firmowym planie kont. Takie „uczenie” jest jednak tymczasowe: po zakończeniu interakcji model nie zachowuje nowych reguł jako trwałej wiedzy (chyba że system jest zaprojektowany tak, by zapisywać dane w pamięci lub wykorzystywać je do późniejszego treningu).

Mechanizm ten bywa porównywany do pracy analityka, który dostaje krótką instrukcję i kilka przykładów, a następnie stosuje je do nowych danych. Różnica polega na tym, że w modelach językowych in-context learning jest efektem wnioskowania w czasie działania (inference): model dopasowuje wzorce z kontekstu do zadania, korzystając z wcześniej nabytej ogólnej kompetencji językowej i statystycznych zależności. W zależności od jakości promptu (polecenia), liczby i doboru przykładów oraz ograniczeń długości kontekstu, wyniki mogą być stabilne lub zmienne. Z tego powodu in-context learning jest szczególnie użyteczny w środowiskach biznesowych i analitycznych, gdzie liczy się szybka adaptacja do specyficznych formatów (np. raportów, notatek inwestycyjnych, opisów KPI), ale jednocześnie wymaga kontroli jakości i walidacji.

W zastosowaniach ekonomicznych i finansowych in-context learning często pełni rolę „warstwy konfiguracji” bez kosztownego trenowania: można w promptach definiować słowniki pojęć, zasady klasyfikacji, schematy tabel, a nawet uproszczone polityki decyzyjne (np. jak opisywać ryzyka w memorandum). Przykład: użytkownik może wkleić fragment polityki rachunkowości (np. definicje CAPEX/OPEX) oraz kilka przykładów księgowań, a następnie poprosić o konsekwentne oznaczanie kolejnych pozycji. Inny przykład: analityk makro może podać format streszczenia danych (inflacja, stopa bezrobocia, PMI, kurs walutowy) i zażądać, by model generował porównywalne notki dla kolejnych krajów, zachowując identyczną strukturę i terminologię.

• Kluczowe właściwości
• Brak trwałej aktualizacji parametrów: model nie „trenuje się” w sensie uczenia maszynowego; zmiana zachowania wynika z informacji w bieżącym kontekście.
• Uogólnianie z demonstracji (few-shot): kilka przykładów w promptach może znacząco poprawić dopasowanie do zadania (np. klasyfikacja, ekstrakcja pól, styl raportu).
• Wrażliwość na sformułowanie i kolejność: dobór przykładów, ich kolejność, precyzja definicji i format wejścia wpływają na wynik (czasem bardziej niż sama „treść”).
• Ograniczenie długości kontekstu: model ma skończone „okno kontekstowe”; zbyt długie instrukcje lub dane mogą wypierać istotne informacje.
• Zależność od kompetencji bazowej: in-context learning nie tworzy wiedzy z niczego; działa najlepiej, gdy zadanie jest bliskie temu, co model potrafi uogólniać (język, struktury danych, typowe zadania analityczne).

• Typowe konteksty użycia
• Standaryzacja raportowania: narzucenie formatu notek (np. „Teza / Dane / Ryzyka / Wnioski”) i generowanie spójnych podsumowań dla wielu spółek lub rynków.
• Klasyfikacja i mapowanie pojęć: przypisywanie opisów transakcji do kategorii kosztów, mapowanie wskaźników do definicji KPI, etykietowanie ryzyk (płynność, kredyt, operacyjne).
• Ekstrakcja danych z tekstu: wydobywanie pól z umów, prospektów, raportów (np. termin zapadalności, kupon, covenanty) według wzoru podanego w promptach.
• Tłumaczenie „z zasadami”: tłumaczenie dokumentów finansowych z zachowaniem słownika terminów i preferowanego stylu (np. konsekwentne użycie „przychody” vs „sprzedaż”).
• Szybkie prototypowanie procedur: tworzenie roboczych reguł (np. jak oceniać kompletność danych w arkuszu) bez budowania dedykowanego modelu.

• Częste nieporozumienia
• „Model zapamięta to na stałe”: in-context learning zwykle nie oznacza trwałej pamięci; po zakończeniu sesji reguły z promptu nie muszą być zachowane.
• „To to samo co fine-tuning”: fine-tuning (dostrajanie) zmienia parametry modelu na podstawie zbioru treningowego; in-context learning działa w ramach pojedynczego kontekstu i nie wymaga procesu treningowego.
• „Wystarczy dodać więcej przykładów”: nadmiar przykładów może pogorszyć wyniki (szum, sprzeczności, przekroczenie okna kontekstu); liczy się reprezentatywność i jednoznaczność.
• „Wynik jest deterministyczny i w pełni kontrolowalny”: nawet przy stałych instrukcjach odpowiedzi mogą się różnić (np. przez parametry generowania lub niejednoznaczność danych); konieczna bywa walidacja i testy.
• „Model rozumie reguły jak człowiek”: model dopasowuje wzorce statystycznie; może poprawnie naśladować format, a jednocześnie popełniać błędy merytoryczne, zwłaszcza przy wyjątkach i rzadkich przypadkach.

Przykładowo, jeśli w promptach zdefiniuje się, że „EBITDA = zysk operacyjny + amortyzacja” i poda dwa przykłady obliczeń, model zwykle zastosuje tę regułę do kolejnych danych w tej samej rozmowie. Jeśli jednak w danych pojawią się pozycje nietypowe (np. jednorazowe odpisy, różne definicje EBITDA w umowach kredytowych), in-context learning może wymagać doprecyzowania definicji i wskazania wyjątków, ponieważ model nie „domyśli się” intencji użytkownika w sposób niezawodny bez jasnych reguł w kontekście.