Autonomiczne pojazdy, zbiory danych i możliwości AI. O przyszłości cyberbezpieczeństwa
Kradzież danych to już nie największe cyberzagrożenie. Palącym wyzwaniem jest to, jak wiele mogą o nas mówić informacje zebrane z różnych cyfrowych źródeł. Co niosą za sobą rozwijająca się sztuczna inteligencja i coraz większe zbiory danych - mówił dyrektor instytutu badawczego NASK Radosław Nielek na Forum Ekonomicznym w Karpaczu.


– Nigdy nie jesteśmy w pełni świadomi, jakie informacje na nasz temat są zgromadzone, bo są one dziś zbierane praktycznie wszędzie. Bank, przychodnia, portal internetowy wiele wiedzą na nasz temat na podstawie danych, które zapisują na swoje potrzeby. Nie mają co prawda dostępu do pozostałych zbiorów, ale połączenie informacji zbieranych w różnych miejscach w jeden zbiór może być groźne, ujawni nowe możliwości ich wykorzystania – mówił Radosław Nielek, dyrektor NASK podczas panelu „Bezpieczeństwo danych w erze autonomicznych pojazdów”.
Może się wydawać, że o szansach, zagrożeniach i wyzwaniach, jakie niesie za sobą rozwój sztucznej inteligencji, zostało powiedziane już prawie wszystko. Nic bardziej mylnego. Możliwości rozwijających się algorytmów, zbiory danych, które są gromadzone na potrzeby ich rozwoju, tworzą kolejne tematy i problemy do rozważenia nie tylko przez inżynierów, ale też prawników i etyków.
O kluczowych obecnie wyzwaniach dyskutowali w Karpaczu uczestnicy panelu, który odbył się w ramach Forum AI współorganizowanego przez NASK. Prowadziła go prof. Joanna Jaworek-Korjakowska z AGH.
W erze sztucznej inteligencji zbiory danych to bogactwo
Wyzwaniem, przed jakim stoją naukowcy, w tym eksperci NASK, jest próba opisania danych pod kątem tego, jakie ryzyko niesie za sobą ich ujawnienie oraz które z nich powinny zostać uznane za dane wrażliwe. Jako przykład mogą posłużyć dane, które zbierają nowoczesne samochody na temat kierowców i ich stylu prowadzenia. Informacje o tym, jak prowadzimy auto, mogą być cennymi danymi m.in. dla firm ubezpieczeniowych. Z pewnością chętnie podniosłyby składki kierowcom, którzy co prawda nie spowodowali żadnego wypadku, ale prowadzą auto w sposób, który – zdaniem ubezpieczyciela – może do takiej sytuacji z dużym prawdopodobieństwem doprowadzić.
Jednak informacje o tym, jak kierowcy zachowują się na drodze, nie są gromadzone jedynie dzięki systemom w nowoczesnych autach. Takie dane można zebrać też w inny sposób, np. dzięki kamerom umieszczonym w innym pojeździe. Dlatego naukowcy podejmują próbę katalogowania „unikalności” poszczególnych informacji pod kątem tego, jak wrażliwy jest ich potencjalny wyciek.
– Chciałbym, żebyśmy patrząc za jakiś czas na zbiór danych, który ktoś ujawnił w internecie, byli w stanie określić, jak groźny jest ten wyciek. Możemy bowiem być pewni, że dane będą wyciekały, będą łączone i będą używane do budowania systemów sztucznej inteligencji – przewidywał Radosław Nielek, dyrektor NASK.
Mamy dużo więcej danych niż moglibyśmy wykorzystać
W zbiorach danych drzemie ogromny potencjał. Równie wielkim wyzwaniem jest decyzja, w jaki sposób, na jakich warunkach i do którego momentu możemy wykorzystywać je do ulepszania naszej rzeczywistości.
– Mamy dużo danych, zdecydowanie więcej niż wykorzystujemy. Potencjalnie moglibyśmy je zbierać i przetwarzać. Jednak potrzebne jest dobre zrozumienie, gdzie – w tych uwarunkowaniach związanych z zarządzaniem ryzykiem, w możliwościach technologicznych, w obecnym otoczeniu prawnym – moglibyśmy z nich korzystać – mówił Radosław Nielek.
Tu dyrektor NASK podał przykład informacji – zgłoszeń o podejrzanych stronach internetowych, mailach, sms-ach – które spływają do CERT Polska. Są to dane, które już dziś pomagają w ochronie kolejnych, potencjalnie poszkodowanych osób, jednak nie można ich gromadzić i przetwarzać bez ograniczeń ze względu na poufność zgłoszeń.
Bardzo złożony problem stanowi też np. użycie przez Dyżurnet (zespół w NASK, który przyjmuje zgłoszenia m.in. o treściach zw. z wykorzystaniem seksualnym dzieci) zebranych wcześniej danych (o ogromnym poziomie wrażliwości), choć jednocześnie mogłoby to usprawnić ochronę dzieci.
Takie projekty były już realizowane, podkreślał dyrektor Nielek, jednak zespół badawczy, który przygotowywał modele, nie miał dostępu do danych, ani nawet wytrenowanych modeli.
Dyskusja o sztucznej inteligencji jest zatem otwarta. Złożoność tematu pogłębia się wraz z rozwojem technologii i wyzwań, jakie w swojej pracy napotykają badacze i inżynierowie. O tym, jak potrzebna jest to rozmowa, świadczy fakt, że podczas XXXIII Forum Ekonomicznego w Karpaczu do tematów gospodarczych dołączył w tym roku właśnie element technologiczny w postaci Forum AI. Debaty nad tym, co niesie przyszłość w dziedzinie sztucznej inteligencji, skupiają w Karpaczu wybitnych ekspertów z tej dziedziny.
Wyróżnione aktualności
NASK promuje młode talenty informatyczne. Weź udział w naszym konkursie
Trwa konkurs na najlepszą pracę magisterską z zakresu informatyki. To doskonała okazja, by zdobyć nagrody i otworzyć sobie drzwi do kariery w NASK oraz innych czołowych instytucji badawczo-technologicznych. Zgłoszenia przyjmowane są do 10 października, a pula nagród wynosi 60 tys. zł.
Bez człowieka nie ma mowy o cyberbezpieczeństwie
Cyberodporność zyskała ludzką twarz – nie tylko technologia, ale przede wszystkim ludzie są odpowiedzialni za bezpieczeństwo firm. To ich świadomość, czujność i odpowiedzialność – stanowią pierwszą i ostatnią linię obrony przed cyfrowymi atakami. Jak rozwijać zabezpieczenia i jaka jest kondycja polskiego biznesu? O tym rozmawiali goście Europejskiego Kongresu Gospodarczego w Katowicach.
NASK inspiruje młodych: rekordowa frekwencja w Olimpiadzie ESA
Aż 21 tysięcy uczestników, trudne pytania z nauki o klimacie i wielka pasja do ochrony środowiska. 15-letnia Basia Lehmann jako jedyna uczestniczka zdobyła maksymalną liczbę punktów! Zakończyła się IV Ogólnopolska Olimpiada Antysmogowa, organizowana przez NASK.
Puls dezinformacji. EKG w Katowicach
Fałszywe narracje w infosferze to coraz większy problem społeczny. Szczególnie w kontekście zbliżających się wyborów prezydenckich. Jaka jest skala i dynamika tego zjawiska? Jak wpływa na życie społeczne oraz publiczne? To kwestie, które przewijają się w dyskusji podczas Europejskiego Kongresu Gospodarczego w Katowicach.
Najnowsze aktualności
Domena .pl – mniej zagrożeń, więcej zaufania
Przestępcy boją się domen.pl i (prawie) nie korzystają z nich w swojej kryminalnej działalności. Jedynie 0,74% kampanii przeciwko polskim użytkownikom* używa domen .pl. To aż sześć razy mniej niż w 2023! To olbrzymia zasługa zmian wprowadzonych przez NASK, który zarządza rejestrem domeny .pl. NASK usprawnił proces blokowania domen w strefie .pl., dzięki temu domena .pl jest silnym bastionem cyberbezpieczeństwa.
Możliwa próba ingerencji w kampanię wyborczą. AKTUALIZACJA 21.05.2025
NASK otrzymał od firmy Meta wyjaśnienia w sprawie reklam wyborczych, o których wstrzymanie wnioskował. Wynika z nich, że Meta nie zablokowała reklam wyborczych.
Kto za tym stoi? Dezinformacja, wybory i pytania, na które trzeba odpowiedzieć
W studiu „Rzecz o Polityce” padły pytania, które od kilku dni rozgrzewają opinię publiczną: czy zagraniczne podmioty ingerują w polskie wybory? Czy kampania reklamowa promująca Rafała Trzaskowskiego była nielegalnie finansowana? Czy koncern Meta umożliwia obchodzenie polskiego prawa? I wreszcie: jaką rolę odegrała w tym wszystkim fundacja Akcja Demokracja?