Zero-shot learning

Zero-shot learning (uczenie zero-shot) to podejście w uczeniu maszynowym, w którym model potrafi poprawnie wykonać zadanie dla klas, etykiet lub instrukcji, których nie widział podczas treningu wprost, korzystając z wiedzy przeniesionej i opisów semantycznych. W praktyce oznacza to generalizację „bez przykładów” dla nowych kategorii, opartą na relacjach między pojęciami, językiem naturalnym lub cechami opisowymi.

Zero-shot learning jest odpowiedzią na ograniczenie klasycznego uczenia nadzorowanego: aby rozpoznawać nową klasę (np. nowy typ produktu, nową kategorię ryzyka, nowy rodzaj dokumentu), zwykle trzeba zebrać i oznaczyć dane treningowe. W zero-shot model nie dostaje takich przykładów dla „nieznanych” klas, ale otrzymuje informację pośrednią, np. opis tekstowy („to jest urządzenie do…”, „to jest umowa o…”) albo wektor cech semantycznych (atrybuty: kolor, kształt, funkcja). Model uczy się wcześniej mapować dane wejściowe (obraz, tekst, dźwięk, cechy liczbowe) do przestrzeni reprezentacji, w której można porównywać podobieństwo do opisów klas. Dzięki temu potrafi przypisać obserwację do najbardziej pasującej etykiety, mimo że nie widział jej w danych uczących.

Współcześnie zero-shot learning często kojarzy się z dużymi modelami językowymi i multimodalnymi, które potrafią wykonywać zadania na podstawie samej instrukcji (promptu) lub krótkiego opisu etykiet. Przykładowo, model może sklasyfikować opinię klienta jako „dotyczącą opóźnienia dostawy” lub „dotyczącą jakości produktu”, nawet jeśli w treningu nie miał dokładnie takich etykiet, o ile rozumie znaczenie tych fraz i potrafi dopasować treść do ich sensu. W ujęciu technicznym jest to często realizowane przez uczenie reprezentacji (embeddingów) i dopasowanie podobieństwa między reprezentacją danych a reprezentacją opisu klasy.

W kontekstach biznesowych i ekonomicznych zero-shot learning bywa użyteczne tam, gdzie kategorie szybko się zmieniają, a koszt etykietowania jest wysoki: w analizie dokumentów (np. nowe typy umów), w monitoringu ryzyk (np. nowe schematy nadużyć), w obsłudze klienta (np. nowe tematy zgłoszeń), czy w analizie informacji rynkowych (np. nowe narracje w wiadomościach). Przykład: firma może chcieć automatycznie tagować przychodzące zapytania jako „reklamacja”, „pytanie o fakturę”, „prośba o zwrot”, a następnie dodać nową kategorię „zgłoszenie dot. zgodności/RODO” bez natychmiastowego budowania nowego zbioru treningowego — model zero-shot może wstępnie obsłużyć tę kategorię na podstawie opisu, choć jakość zależy od danych, języka i stopnia podobieństwa do wcześniej poznanych pojęć.

  • Kluczowe właściwości
  • Generalizacja do nieobserwowanych klas (unseen classes): model potrafi rozpoznawać lub wykonywać zadania dla etykiet, których nie było w danych treningowych jako jawnych przykładów.
  • Wykorzystanie informacji semantycznej: zamiast przykładów, model opiera się na opisach klas (np. tekstowych) lub atrybutach, które łączą nowe klasy z tym, co już zna.
  • Dopasowanie w przestrzeni reprezentacji: typowo porównuje się podobieństwo między reprezentacją wejścia (np. dokumentu) a reprezentacją etykiety/opisu (np. „oszustwo fakturowe”).
  • Szybkie rozszerzanie katalogu kategorii: dodanie nowej etykiety może sprowadzać się do dopisania jej nazwy i krótkiej definicji, bez pełnego retreningu (choć często potrzebna jest późniejsza walidacja i dostrojenie).
  • Zmienna jakość i wrażliwość na sformułowanie: wyniki zależą od jakości opisów, języka, kontekstu domenowego oraz tego, czy model „rozumie” dane pojęcia.
  • Typowe konteksty zastosowań
  • Klasyfikacja tekstu i dokumentów: np. przypisywanie e-maili do tematów („płatności”, „logistyka”, „umowy”), wykrywanie typów zapytań w centrum obsługi, wstępne tagowanie raportów.
  • Wyszukiwanie semantyczne i rekomendacje treści: dopasowanie zapytania do dokumentów bez ręcznego tworzenia kategorii; np. inwestor szuka „ryzyk regulacyjnych w sektorze X”, a system znajduje fragmenty raportów o podobnym znaczeniu.
  • Analiza ryzyka i zgodności (compliance): wstępne wykrywanie nowych wzorców zdarzeń opisanych językiem (np. „nietypowe obejście procedury”), zanim powstanie zestaw etykietowanych przypadków.
  • Modele multimodalne: rozpoznawanie obiektów na obrazach na podstawie nazw/deskrypcji (np. „kask ochronny” w BHP), nawet jeśli dana kategoria nie była osobno etykietowana w treningu.
  • Prototypowanie produktów AI: szybkie testowanie, czy dana taksonomia kategorii ma sens biznesowy, zanim zainwestuje się w kosztowne etykietowanie danych.
  • Częste nieporozumienia
  • „Zero-shot” nie oznacza „bez danych”: model nadal wymaga dużej ilości danych i treningu wstępnego (pretraining); „zero” dotyczy braku przykładów dla konkretnej nowej klasy w momencie wdrożenia.
  • „Zero-shot” nie gwarantuje wysokiej trafności: szczególnie w domenach specjalistycznych (finanse, prawo, medycyna) model może mylić pojęcia, jeśli opisy są nieprecyzyjne lub terminologia odbiega od tego, co widział w treningu.
  • To nie to samo co „few-shot learning”: few-shot zakłada kilka przykładów dla nowej klasy (np. 5–20), podczas gdy zero-shot opiera się wyłącznie na opisie/instrukcji bez przykładów.
  • Nie zawsze jest „bez retreningu”: choć często działa bez dodatkowego uczenia, w praktyce dla stabilnej jakości stosuje się walidację, kalibrację progów, a czasem dostrajanie (fine-tuning) na danych z danej organizacji.
  • Nazwy etykiet mają znaczenie: zbyt ogólne lub wieloznaczne etykiety (np. „inne”, „problem”) obniżają jakość; lepsze są etykiety z krótką definicją i przykładami granicznymi (co należy, a co nie należy do kategorii).