Witold Kościukiewicz i Mateusz Wójcik, doktoranci wdrożeniowi naszego wydziału otrzymali dwie pierwsze nagrody (Best Poster Award i Runner-Up Best Poster Award) na konferencji ML in PL w Warszawie. Do konkursu zgłoszono 34 postery, a nasi zwycięzcy przygotowali plakaty podsumowujące badania przeprowadzone w ramach doktoratów. Gratulujemy!

Witold Kościukiewicz otrzymał I nagrodę za plakat Memory Enhanced Document-level Joint Entity and Relation Extraction, a Mateusz Wójcik II za plakat Neural Architecture for Online Ensemble Continual Learning. Obaj pracują w firmie Alphamoon, gdzie realizowane są doktoraty wdrożeniowe, w której dr inż. Adam Gonczarek jest opiekunem obu panów. Promotorem doktorantów na PWr jest prof. Tomasz Kajdanowicz, szef Katedry Sztucznej Inteligencji.

Witold Kościukiewicz pisze doktorat z „Metod ekstrakcji wiedzy z nieustrukturyzowanych danych tekstowych". Natomiast Mateusz Wójcik z „Metod uczenia ciągłego w przetwarzaniu języka naturalnego”.

– Braliśmy udział w tegorocznej edycji konferencji ML in PL w Warszawie, gdzie zorganizowana była sesja posterowa, na której osoby zainteresowane uczeniem maszynowym: studenci, doktoranci, badacze mogli zaprezentować swoje prace. Sesja posterowa obejmowała 34 postery i w jej trakcie zorganizowano konkurs na najlepszą pracę, który wygraliśmy – opowiada Mateusz Wójcik.

Plakat Witolda Kościukiewicza “Knowledge Extraction from Unstructured Text Data” poświęcony był zrealizowanej do tej pory pracy badawczej nad głębokimi metodami uczenia maszynowego z zakresu przetwarzania języka naturalnego.

– Głównym celem było opracowanie metody ekstrakcji relacji pomiędzy występującymi w dokumentach tekstowych encjami (named-entities), wykrywanych przez metody już w naszej firmie wdrożone. Jednym z wyników prac jest metoda, która umożliwia ekstrakcję relacji z wyższą skutecznością niż metody do tej pory istniejące w literaturze, gdzie zadaniem jest ekstrakcja grafu na podstawie tekstu, wykonując cztery zadania (wzmianki, koreferencje, encje i relacje) naraz (end-to-end) – opowiada zdobywca I nagrody.

Witold Kościukiewicz dodaje, że dodatkowo spora część pracy, to analiza wymagań klientów Alphamoon w kontekście zadania relacji ekstrakcji: czego potrzebują, jakie dane mają, jak ich potrzeby pokrywają się z tym, nad czym pracujemy i nurtami wiodącymi w zakresie ekstrakcji relacji literaturze. W skład tych prac wchodzi również przygotowanie zbiorów danych na podstawie rzeczywistych danych klientów.

Plakat Mateusza Wójcika “Neural Architecture for Online Ensemble Continual Learning” wziął pod lupę wymagający problem uczenia ciągłego z narastającą liczbą klas (Class Incremental Continual Learning).

– Zainspirowani pracą badaczy w zakresie uczenia ciągłego opartego o metody zespołowe i podejście Mixture of Experts, zaproponowaliśmy ulepszoną architekturę. W naszej pracy wprowadziliśmy do modelu różniczkowalną warstwę aproksymującą wynik algorytmu KNN; zaproponowaliśmy nowatorską metodę agregacji głosów zespołu i wykonaliśmy obszerne badania w różnych konfiguracjach zbiorów danych i naszego modelu, w których porównaliśmy 10 metod uczenia ciągłego – tłumaczy Mateusz Wójcik.

Mateusz Wójcik dodaje, że metoda wykazała:
- wyższą skuteczność (accuracy) względem metody referencyjnej, używając tej samej liczby parametrów,
- pozwoliła ograniczyć zjawisko zapominania,
- pozwoliła uzyskać wyższe wyniki względem metod z buforem pamięci,
- we wszystkich ewaluowanych konfiguracjach była lepsza od metod baseline.

Uzyskane wyniki pozwalają kontynuować obrany kierunek uczenia ciągłego z pomocą metod zespołowych i wskazują na wiele zalet z niego płynących.