Projekt dr. hab. inż. Macieja Zięby, prof. uczelni z Katedry Sztucznej Inteligencji WIT otrzymał finansowanie w ramach 28. edycji programu Opus. Łącznie Narodowe Centrum Nauki przyznało 18 mln zł dziewięciu naukowcom z Politechniki Wrocławskiej. Dodatkowo nasza uczelnia jest partnerem w czterech kolejnych projektach.

„Metody probabilistyczne do generowania wiarygodnych, stabilnych i zróżnicowanych wyjaśnień kontrfaktycznych” – tak nazywa się projekt prof. Macieja Zięby, który NCN dofinansowało kwotą 962 800 zł.

Sztuczna inteligencja (AI) w coraz większym stopniu wpływa na nasze życie, od rekomendacji produktów po wsparcie diagnostyki medycznej. Jednak wiele systemów AI działa jak „czarne skrzynki” (ang. black box ), przez co ich decyzje są trudne do zrozumienia.

– Gdy system odmawia przyznania pożyczki, wnioskodawca często nie wie, dlaczego spotkał się z odmową ani co mógłby zmienić, by zwiększyć swoje szanse. Taki brak przejrzystości podważa zaufanie do AI – wyjaśnia prof. Maciej Zięba.

Wyjaśnienia kontrfaktyczne oferują scenariusze „co by było, gdyby”, pokazując co należy zmienić w danych, by osiągnąć pożądany wynik. Przykładowo, system może wskazać, że zwiększenie dochodów lub redukcja zadłużenia pomogłyby w uzyskaniu pożyczki. Takie wyjaśnienia muszą spełniać trzy warunki: być realistyczne, stabilne przy drobnych zmianach danych oraz oferować różne alternatywne rozwiązania.

Projekt badawczy prof. Macieja Zięby ma na celu poprawę jakości wyjaśnień kontrfaktycznych poprzez wykorzystanie metod probabilistycznych do uwzględnienia trzech istotnych aspektów: wiarygodności, stabilności i różnorodności.

– Modele probabilistyczne, analizując niepewność i zmienność danych, umożliwiają tworzenie realistycznych i praktycznych sugestii. Przykładowo, zamiast sugerować nieosiągalny wzrost dochodów, wskazują one realne modyfikacje oparte na rzeczywistych danych – mówi profesor.

Zadaniem naszych naukowców będzie opracowanie zaawansowanych technik, które będą generować wyjaśnienia kontrfaktyczne uwzględniające te trzy kluczowe aspekty. Stworzone metody znajdą zastosowanie w wielu dziedzinach, od służby zdrowia po finanse, dostarczając praktyczne narzędzia do budowy bardziej przejrzystych systemów AI.

– Naszym celem jest zwiększenie zaufania do AI przez sprawienie, że jej decyzje będą bardziej zrozumiałe i praktyczne dla użytkowników lub redukcja zadłużenia pomogłyby w uzyskaniu pożyczki. Takie wyjaśnienia muszą spełniać trzy warunki: być realistyczne, stabilne przy drobnych zmianach danych oraz oferować różne alternatywne rozwiązania – tłumaczy naukowiec.

Milionowe wsparcie

Opus to konkurs o szerokiej formule, w którym o finansowanie projektów badawczych z zakresu badań podstawowych mogą się ubiegać badacze na każdym etapie kariery naukowej, niezależnie od wieku i poziomu doświadczenia.

Dzięki otrzymanemu grantowi mogą zbudować duże zespoły badawcze, realizować projekty wykorzystujące wielkie międzynarodowe urządzenia badawcze, a także podjąć współpracę z partnerami zagranicznymi.

Na liście rankingowej 28. edycji programu Opus znalazły się 234 projekty z łącznym wsparciem ponad 448 mln zł. W tym gronie jest dziewięć projektów z Politechniki Wrocławskiej, którym NCN przyznał finansowanie w łącznie kwocie 18 mln zł. Oprócz prof. Macieja Zięby z WIT środki otrzymali również:

• dr hab. inż. Sławomir Pietrowicz, prof. uczelni (Wydział Mechaniczno-Energetyczny)
• prof. Jarosław Myśliwiec (Wydział Chemiczny)
• prof. Katarzyna Matczyszyn (Wydział Chemiczny)
• dr inż. Renata Grzywa (Wydział Chemiczny)
• dr hab. inż. Rafał Kowalczyk, prof. uczelni (Wydział Chemiczny)
• dr hab. inż. Katarzyna Smolińska-Kempisty, prof. uczelni (Wydział Chemiczny)
• dr inż. Adrian Chajec (Wydział Budownictwa Lądowego i Wodnego)
• dr hab. Robert Zaleśny, prof. uczelni (Wydział Chemiczny)

Dodatkowo nasi naukowcy są częścią kolejnych czterech projektów jako ich konsorcjanci.