Reprezentanci PW na podium hackatonu CISPA

Zespoły Syntax Terror i Advanced Persistent Thinkers zajęły odpowiednio drugie i trzecie miejsce w finale pierwszej edycji hackatonu CISPA European Cybersecurity & AI Hackathon Championship w Saarbrücken i St. Ingbert w Niemczech. Zmierzyło się w nim 18 drużyn wyłonionych w eliminacjach regionalnych w całej Europie. W etapie krajowym w Warszawie rywalizowało 30 zespołów, a do wielkiego finału dostały się tylko 2 – oba z PW. Członkami obu drużyn są studenci, doktoranci i absolwenci PW. 

Drużynę Syntax Terror, która zajęła drugie miejsce na podium, tworzą: Aleksander Ogonowski i Michał Obara (obaj z Wydziału Elektroniki i Technik Informacyjnych PW, obecnie doktoranci Szkoły Doktorskiej PW), Aleksander Szymczyk (student WEiTI PW) oraz Mateusz Kowalczyk (absolwent Wydziału Elektrycznego PW, obecnie doktorant Szkoły Doktorskiej TIB PAN). Trzecie miejsce zajął zespół Advanced Persistent Thinkers w składzie: Kalina Białek, Bartłomiej Dmitruk, Jakub Bliźniuk oraz Stanisław Kwiatkowski. Wszyscy są studentami WEiTI PW. 

Sprawdzili modele AI 

Przez 24 godziny uczestnicy równolegle pracowali nad rozwiązaniem 3 zaawansowanych zadań z obszaru „Trustworthy AI", czyli zaufanej sztucznej inteligencji. Dotyczyły one sztucznej inteligencji i cyberbezpieczeństwa, a konkretnie prywatności i wiarygodności modeli uczenia maszynowego. Nagrodę przyznano za łączną punktację z trzech zadań konkursowych oraz za prezentację wyników i koncepcji rozwiązań przed jury. 

Pierwsze z zadań to lokalizacja znaków wodnych w tekście – dla każdego tokenu w dokumencie należało oszacować prawdopodobieństwo, że został wygenerowany przez model językowy z aktywnym mechanizmem znakowania wodnego (watermarkingiem). Dokumenty mieszały tekst ludzki, tekst wygenerowany „czysto" i fragmenty znakowane kilkoma różnymi metodami. Drugim zadaniem było Member vs Generated Inference, które polegało na takim zmodyfikowaniu obrazów, aby ukryty detektor błędnie klasyfikował je jako pochodzące z innej kategorii (dane treningowe modelu / dane spoza treningu / dane wygenerowane). Ostatnie z finałowych zadań polegało na rekonstrukcji danych z gradientów w uczeniu federacyjnym – należało odtworzyć 1536 prywatnych obrazów treningowych wyłącznie na podstawie gradientów przesyłanych między klientem a serwerem. Pokazało ono, że uczenie federacyjne, reklamowane jako metoda chroniąca prywatność, samo w sobie takiej ochrony nie gwarantuje. 

Jak wyjaśnia Bartłomiej Dmitruk z zespołu Advanced Persistent Thinkers, największym wyzwaniem była presja czasu w połączeniu z wysokim poziomem samych zadań. Rozwiązania musiały działać na nieznanych danych, a problemy były bardzo wymagające, np. wykrywanie znaków wodnych przy skrajnie niskim dopuszczalnym poziomie fałszywych alarmów. Nasz student podkreśla też, że udział w konkursie dał zespołowi cenne doświadczenia.

– Najwięcej dało nam poznanie specjalistów na bardzo wysokim poziomie: badaczy z CISPA i najlepszych zespołów z całej Europy. Poza tym praca z najnowszymi tematami z pogranicza bezpieczeństwa i AI, które zwykle zna się z publikacji, a tu trzeba było je samodzielnie zaimplementować pod presją, a także rozwój szybkiego prototypowania i pracy zespołowej. Najbardziej podobało nam się osadzenie zadań w realnych problemach badawczych – mówi Bartłomiej Dmitruk, student Wydziału Elektroniki i Technik Informacyjnych PW. – Świetna była też organizacja, bardzo wysoki poziom merytoryczny, a finał z galą na Ingobertusfest był wyjątkowy. Planujemy start w kolejnych tego typu hackathonach.

Obraz (old)

Aleksander Ogonowski z zespołu Syntax Terror również zwraca uwagę na  presję czasu, a także na wyrównany poziom rywalizacji – czołówka była bardzo wyrównana i praktycznie do ostatnich zgłoszeń nie było wiadomo, jak ułoży się klasyfikacja końcowa. 

– Zadania różniły się od tego, czym zajmujemy się na co dzień, a 24 godziny to niewiele na zrozumienie problemu, przetestowanie kilku podejść i dopracowanie rozwiązania. Dochodzi do tego kwestia organizacji pracy w czteroosobowym zespole: trzeba było szybko podzielić się zadaniami, równolegle pracować nad trzema niezależnymi problemami i na bieżąco decydować, gdzie zainwestować pozostały czas. Wyzwaniem było też złożenie rozwiązań w krótką prezentację – mówi Aleksander Ogonowski, doktorant ze Szkoły Doktorskiej PW. – Zadania dotykały tematów, które są dziś przedmiotem aktywnych badań – ataków na prywatność modeli, ataków przeciwstawnych i wykrywania treści generowanych przez AI. Praca nad nimi w takim tempie zmusza do bardzo szybkiego wchodzenia w nową literaturę i weryfikowania hipotez empirycznie, zamiast pogłębiania jednego pomysłu. To umiejętność, która przekłada się bezpośrednio na pracę badawczą. Organizacja stała na bardzo wysokim poziomie – na pochwałę zasługuje sprawny dostęp do zasobów GPU dla wszystkich drużyn. Zadania były dobrze przemyślane i mocno osadzone w aktualnych trendach technologicznych, co sprawiło, że praca nad nimi była z naszej perspektywy ciekawa.

Obraz (old)