Badania nad fundamentami bezpiecznej AI na Politechnice Krakowskiej!

Istotą nowatorskich badań, które koordynować będą naukowcy z Wydziału Informatyki i Matematyki PK, jest odejście od standardowych modeli operujących w dziedzinie liczb rzeczywistych na rzecz algebr wyższych rzędów. Badania mogą wyznaczyć kierunki rozwoju nowych technologii m.in. dla medycyny, przemysłu, inżynierii materiałów czy energetyki i wpłynąć na to, by przyszłe zastosowania AI były bezpieczne i społecznie akceptowalne.

 

Przedsięwzięcie pn. "Hiperzespolona wyjaśnialna AI: matematyczne podstawy wiarygodnych modeli sztucznej inteligencji” (Hypercomplex Explainable AI: Mathematical Foundations for Trustworthy Models”, HyperXAI) zdobyło uznanie ekspertów Komisji Europejskiej, uzyskując grant w wys. ponad 870 tys. euro i ocenę 94,8%. Tak wysoki wynik plasuje krakowską politechnikę w czołówce jednostek koordynujących kluczowe badania nad transparentnością algorytmów uczenia maszynowego. Przedsięwzięcie, przygotowane i koordynowane przez dr Agnieszkę Niemczynowicz, realizowane jest w ramach prac grupy badawczej Mathematics for Computer Science and Applications (M4CSA), kierowanej przez dr. Radosława Kycię. W skład zespołu grantowego wchodzą dr Agnieszka Niemczynowicz, dr Radosław Kycia oraz prof. Marcin Ostoja-Starzewski z Katedry Informatyki Wydziału Informatyki i Matematyki PK.  

 

Nowy paradygmat: Sieci hiperzespolone

 

Sztuczna inteligencja coraz częściej wspiera decyzje w obszarach o wysokiej odpowiedzialności, takich jak medycyna, energetyka czy systemy bezpieczeństwa. Mimo rosnącej skuteczności algorytmów, ich działanie w wielu przypadkach pozostaje nieprzejrzyste. W odpowiedzi na ten problem powstały metody wyjaśniania klasycznych, rzeczywistych modeli AI, które – choć niedoskonałe – umożliwiają częściowe zrozumienie procesu decyzyjnego. – Hiperzespolone sieci neuronowe znajdują się jednak poza tym nurtem rozwoju. Są one jednym z najbardziej innowacyjnych kierunków współczesnej sztucznej inteligencji, ponieważ wykorzystują zaawansowane struktury matematyczne, takie jak liczby zespolone, kwaterniony czy algebry Clifforda – wyjaśnia dr Agnieszka Niemczynowicz z WIiM PK, liderka projektu. – Dzięki temu potrafią w sposób naturalny modelować relacje wielowymiarowe i geometryczne, często przy większej efektywności obliczeniowej niż klasyczne sieci neuronowe. Jednocześnie dla tych modeli nie istnieją dziś ugruntowane, dedykowane narzędzia ani formalne metryki wyjaśnialności.

 

Brak teoretycznych ram wyjaśnialności sprawia, że hiperzespolone modele – mimo swojego potencjału – pozostają trudne do kontrolowania i weryfikacji. Opracowanie ram oznaczałoby więc przejście od intuicyjnych, fragmentarycznych interpretacji do formalnych, matematycznie zdefiniowanych wyjaśnień, które można analizować, porównywać i oceniać w sposób obiektywny.  – Nasz projekt HyperXAI odpowiada na tę lukę, rozwijając wyjaśnialność dokładnie na styku matematyki i informatyki. Efektem naszych badań będzie nie tylko lepsze zrozumienie działania zaawansowanych modeli AI, ale także realne wzmocnienie kontroli człowieka nad sztuczną inteligencją – podkreśla Agnieszka Niemczynowicz. – Wyjaśnialność przestaje być dodatkiem, a staje się integralnym elementem projektowania modeli – fundamentem dla bezpiecznej, odpowiedzialnej i innowacyjnej sztucznej inteligencji nowej generacji – dodaje.

 

 Od badań podstawowych do praktycznych zastosowań

 

Badania prowadzone w ramach projektu HyperXAI mają charakter podstawowy – ich celem jest stworzenie solidnych, matematycznych fundamentów wyjaśnialności dla nowej generacji modeli sztucznej inteligencji. Tego typu badania, choć nie prowadzą bezpośrednio do gotowych produktów, to wyznaczają kierunki rozwoju technologii w dłuższej perspektywie i decydują o tym, czy przyszłe zastosowania AI będą bezpieczne, wiarygodne i społecznie akceptowalne.

 

Rezultaty projektu tworzą podstawę do odpowiedzialnego wykorzystania zaawansowanych modeli, w szczególności hiperzespolonych sieci neuronowych, w obszarach, w których sztuczna inteligencja analizuje złożone, wielowymiarowe dane. – Dotyczy to m.in. obrazowania medycznego i analizy sygnałów biomedycznych, gdzie kluczowe znaczenie ma możliwość zrozumienia, które cechy danych wpływają na decyzje algorytmu. Podobne wymagania pojawiają się w inżynierii materiałowej, monitorowaniu procesów przemysłowych czy systemach energetycznych, gdzie AI wspiera wykrywanie anomalii, ocenę jakości lub prognozowanie, a jej decyzje muszą być stabilne i możliwe do zweryfikowania przez człowieka – zaznacza dr Agnieszka Niemczynowicz.

 

Istotnym efektem badań będzie także rozwój nowych narzędzi naukowych: metod analizy, metryk jakości wyjaśnień oraz protokołów ewaluacji, które umożliwią systematyczne porównywanie modeli i ich interpretowalności. Dzięki temu sztuczna inteligencja przestaje być „czarną skrzynką”, a staje się obiektem rzetelnej analizy naukowej. Otwarty charakter tworzonych narzędzi, zbiorów danych i oprogramowania sprawi, że będą one mogły być wykorzystywane i rozwijane przez inne zespoły badawcze w Europie i na świecie.

 

Wyniki projektu mogą w przyszłości wspierać rozwój standardów wyjaśnialności i transparentności AI, zgodnych z europejskimi regulacjami i zasadami odpowiedzialnego wykorzystania sztucznej inteligencji. W tym sensie HyperXAI buduje zaplecze wiedzy, metod i narzędzi, bez którego długofalowe zastosowania AI w medycynie, inżynierii czy przemyśle nie byłyby możliwe.

 

 Globalna współpraca naukowa w interdyscyplinarnym wydaniu

 

Projekt HyperXAI będzie realizowany przez interdyscyplinarne konsorcjum, kierowane przez naukowców Politechniki Krakowskiej, a obejmujące ośrodki z czterech kontynentów i 9 krajów: Polski, Hiszpanii, Czech, Łotwy, Azerbejdżanu, Turcji, Iraku, Korei Południowej i Brazylii. Skąd taka szeroka współpraca? – Problem wyjaśnialności sztucznej inteligencji – zwłaszcza w przypadku hiperzespolonych sieci neuronowych – nie mieści się w granicach jednej dyscypliny naukowej. Zrozumienie działania takich modeli wymaga jednoczesnego połączenia zaawansowanej matematyki, informatyki oraz nauk inżynieryjnych – odpowiada dr Radosław Kycia.

 

W badaniach biorą udział naukowcy zajmujący się matematyką czystą i stosowaną, w szczególności algebrą, analizą matematyczną, topologią, matematyką rozmytą oraz teorią struktur hiperzespolonych. To właśnie matematyka dostarcza języka i formalnych narzędzi pozwalających opisać, czym w ogóle jest „wyjaśnienie” w modelach opartych na hiperzespolonych strukturach matematycznych. Bez takiego formalnego fundamentu wyjaśnialność pozostaje intuicyjna i trudna do weryfikacji.

 

Równocześnie kluczową rolę odgrywa informatyka, a zwłaszcza sztuczna inteligencja i uczenie maszynowe. – Informatycy projektują architektury sieci neuronowych, implementują algorytmy wyjaśnialności oraz testują je na danych syntetycznych i rzeczywistych. Ich zadaniem jest przełożenie pojęć matematycznych na działające metody obliczeniowe i sprawdzenie, czy zaproponowane wyjaśnienia są stabilne, porównywalne i użyteczne – mówi dr Niemczynowicz.

 

Trzecim filarem projektu są nauki inżynieryjne, w tym inżynieria materiałowa i obszary związane z analizą danych technicznych. – To one dostarczają realistycznych kontekstów badawczych, w których wyjaśnialność nie jest abstrakcyjnym pojęciem, lecz realną potrzebą – na przykład przy analizie obrazów materiałowych, detekcji defektów czy monitorowaniu procesów. Dzięki temu rozwijane metody są od początku testowane w warunkach, które odzwierciedlają rzeczywiste wyzwania naukowe i technologiczne – zaznacza dr Kycia. 

 

Jak dodaje prof. Marcin Ostoja-Starzewski interdyscyplinarność nie jest dodatkiem, lecz warunkiem powodzenia projektu: – Matematyka bez informatyki pozostałaby teorią, informatyka bez matematyki – zbiorem heurystyk, a oba te obszary bez kontaktu z inżynierią nie dawałyby narzędzi możliwych do odpowiedzialnego wykorzystania.

 

HyperXAI łączy te perspektywy w jeden spójny proces badawczy, w którym teoria, algorytmy i kontekst aplikacyjny rozwijają się równolegle i wzajemnie się uzupełniają.

 

Aplikowanie o prestiżowe granty europejskie się opłaca

 

Europejski grant, którym kierować będzie Politechnika Krakowska i naukowcy z Wydziału Informatyki i Matematyki PK, uzyskał finansowanie w ramach programu "Maria Skłodowska-Curie Actions Staff Exchanges”. Jest on częścią prestiżowego programu Horyzont Europa, największego i najważniejszego programu finansowania badań i innowacji przez Unię Europejską. – Akcje Marii Skłodowskiej-Curie zajmują w strukturze programu Horyzont Europa szczególne miejsce, ponieważ są umiejscowione w Filarze I: Doskonała baza naukowa (Excellent Science) razem z grantami ERC i infrastrukturami badawczymi. Filar I wspiera naukę na najwyższym europejskim i światowym poziomie – podkreśla Sebastian Bąk, kierownik Centrum Wsparcia Projektów (CWP) Politechniki Krakowskiej, które pomaga naukowcom uczelni w przygotowaniu i realizacji wniosków grantowych z europejskich i krajowych programów.

 

Jak informuje Komisja Europejska, w rozstrzygniętym właśnie konkursie MSCA Staff Exchanges 2025 (HORIZON-MSCA-2025-SE-01) złożono 363 wnioski, a do finansowania rekomendowano 81 projektów. Będą realizowane przez międzynarodowe konsorcja z udziałem podmiotów z 95 krajów. Granty uzyskały 23 jednostki z Polski, które będą uczestniczyć w roli koordynatora lub partnera w łącznie 13 projektach MSCA Staff Exchanges 2025.  Trzy z nich są koordynowane przez polskie uczelnie, w tym PK.  

 

Projekt „Hypercomplex Explainable AI: Mathematical Foundations for Trustworthy Models” jest zaawansowaną kontynuacją  badań i interdyscyplinarnej współpracy politechnicznych naukowców z grupy M4CSA, realizowanych wcześniej m.in. w ramach projektu "Partnerstwa strategiczne na rzecz matematycznych aspektów zespolonych, hiperzespolonych i rozmytych sieci neuronowych" (finansowanego  z NAWA).

 

Sukcesy grantowe badaczy PK zachęcają do odważnego aplikowania o europejskie środki na badania. Kolejna edycja MSCA SE jest już ogłoszona. – Bardzo zachęcamy wszystkich zainteresowanych do kontaktu z naszym Centrum, udzielimy wszechstronnego wsparcia na każdym etapie przygotowania i realizacji projektu – zaprasza Sebastian Bąk z CWP PK.

 

"Maria Skłodowska-Curie Actions" oferuje 5 programów dla instytucji i naukowców indywidualnych. Wspiera naukowców na różnych etapach kariery zawodowej, finansując prace badawcze oraz szkolenia prowadzone zarówno w Europie, jak i krajach pozaeuropejskich. Umożliwia instytucjom biorącym udział w projektach MSCA rozwój ich kadry poprzez zatrudnianie badaczy z zagranicy i udział pracowników w międzynarodowych projektach badawczych i szkoleniowych.

 

Zespoły badawcze uczestniczące w projekcie HyperXAI

1) Politechnika Krakowska im. Tadeusza Kościuszki (Polska), koordynator projektu
Koordynator zespołu po stronie uczelni: Agnieszka Niemczynowicz
Zespół specjalizuje się w sztucznej inteligencji i głębokim uczeniu, ze szczególnym uwzględnieniem projektowania hiperzespolonych sieci neuronowych oraz analizy ich własności. Odpowiada za rozwój metod wyjaśnialności oraz koordynację badań i działań upowszechniających.

 

2) Universidade Estadual de Campinas (Brazylia)
Koordynator zespołu: Marcos Valle
Zespół o silnym dorobku w obszarze inteligencji obliczeniowej i przetwarzania obrazów. Koncentruje się na matematycznych modelach i obliczeniowych ramach dla złożonych problemów, w tym hiperzespolonych sieci neuronowych.

 

3) Universidad de Cádiz (Hiszpania)
Koordynator zespołu: : Jesús Medina
Zespół posiada duże doświadczenie w rozwijaniu zaawansowanych narzędzi matematycznych do analizy, przetwarzania i predykcji danych, wspierających formalne podstawy wyjaśnialności.

 

 4) University of Málaga (Hiszpania)
Koordynator zespołu po stronie instytucji: Manuel Ojeda-Aciego
Zespół specjalizuje się w logice rozmytej, formalnej analizie pojęć oraz algebraicznych metodach w informatyce, wnosząc kluczowy wkład w logiczne i algebraiczne aspekty wyjaśnialności.

 

5) University of Ostrava (Czechy)
Koordynator zespołu: Irina Perfilieva
Zespół znany z pionierskich prac nad teorią transformaty rozmytej, szeroko stosowanej w analizie sygnałów, obrazów i szeregów czasowych. W projekcie odpowiada za matematyczne podstawy wyjaśnialności i ich walidację.

 

6) Baku State University (Azerbejdżan)
Koordynator zespołu: Sadi Bayramov
Zespół zajmuje się topologią, algebrą rozmytą i teorią zbiorów miękkich, wzmacniając teoretyczne podstawy interpretowalności modeli hiperzespolonych.

 

 7) Kocaeli University (Turcja)
Koordynator zespołu: Arzu Erdem Coşkun
Zespół specjalizuje się w problemach odwrotnych, topologii algebraicznej i strukturach miękkich, rozwijając formalne modele wyjaśnialności oparte na strukturach topologicznych.

 

 8) Igdir University (Turcja)
Koordynator zespołu po stronie instytucji: Faruk Özger
Zespół koncentruje się na teorii aproksymacji i modelowaniu matematycznym, wspierając optymalizację architektur i mechanizmów wyjaśnialności.

 

9) University of Latvia (Łotwa)
Koordynator zespołu po stronie instytucji: Olga Grigorenko
Zespół bada teoretyczne aspekty struktur rozmytych i ich zastosowania w modelowaniu niepewności oraz interpretowalności modeli AI.

 

10) Hanyang University Industry–University Cooperation Foundation (Korea Południowa)
Koordynator zespołu: Kyungsik Han
Zespół specjalizuje się w sztucznej inteligencji, analizie dużych zbiorów danych i obliczeniach wysokowydajnych, umożliwiając walidację metod na dużą skalę.

 

 11) University of Kufa (Irak)
Koordynator zespołu: Ali Shukur
Zespół zajmuje się matematyką stosowaną, teorią operatorów i analizą spektralną, wspierając badania nad dynamiką modeli i metrykami wyjaśnialności.

 

 12) Ankara University (Turcja)
Koordynator zespołu:  Canay Aykol Kocakuşaklı
Zespół koncentruje się na analizie harmonicznej i funkcjonalnej, dostarczając narzędzi do matematycznej analizy transformacji hiperzespolonych.

« powrót