Naukowiec z NASK na prestiżowym spotkaniu w Stanach Zjednoczonych

Wydarzenie, organizowane wspólnie przez dwa Departamenty: Stanu i Handlu USA, skupia się na kluczowych wyzwaniach związanych ze Sztuczną Inteligencją. W tym na testowaniu modeli AI, ocenach ryzyka oraz niwelowaniu zagrożeń związanych z treściami generowanymi przez sztuczną inteligencję.

– Wobec dynamicznego rozwoju Sztucznej Inteligencji, a w szczególności modeli generatywnych, pozwalających na tworzenie treści różnego typu, musimy zwrócić uwagę na bezpieczeństwo stosowania tej technologii. Jest tu wiele aspektów, które trzeba rozważać w kontekście międzynarodowym, uwzględniając przy tym kontekst lokalny (m.in. kulturę czy język) i zagadnienia etyczne. Spotkania takie jak to pozwalają wypracować uniwersalną metodologię działania oraz skoordynować badania prowadzone w tym obszarze w wielu różnych ośrodkach – mówi dr hab. inż. Szymon Łukasik, Dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK

Szymon Łukasik, jako jedyny przedstawiciel Polski, wziął udział w dyskusjach zamkniętych, które objęły takie tematy jak:

• Zarządzanie ryzykiem związanym z treściami syntetycznymi (np. deepfake), które mogą wprowadzać dezinformację i zagrożenia dla bezpieczeństwa.

• Współpraca nad metodologią testowania i weryfikacji fundamentalnych modeli AI w celu poprawy ich interoperacyjności i wiarygodności.

• Budowanie wspólnych podejść do interpretacji wyników testów AI oraz oceny ryzyka związanego z wdrażaniem zaawansowanych systemów AI.

Podczas spotkania Szymon Łukasik podzielił się doświadczeniami NASK-PIB w związku z wykrywaniem treści generowanych i stosowania narzędzi do identyfikacji deep fake’ów. Mówił też o kwestiach związanych z bezpieczeństwem dużych modeli językowych – przedstawiając doświadczenia uzyskane przez konsorcjum złożone z polskich uczelni i instytutów badawczych podczas realizacji projektu PLLuM (Polish Large Language Model – polski wielki model językowy).

Spotkanie w San Francisco jest częścią globalnych działań na rzecz współpracy międzynarodowej w obszarze bezpieczeństwa AI. Zarówno Polska jak i NASK, dzięki obecności Szymona Łukasika, zaznaczyły swoją rolę w kształtowaniu międzynarodowych standardów i dobrych praktyk w tej dziedzinie. Wymiana myśli i doświadczeń podczas spotkania będzie służyć zwiększeniu globalnej współpracy w obszarze Sztucznej Inteligencji, by rozwijać tę technologię w sposób bezpieczny, odpowiedzialny i zgodny z międzynarodowymi