Autonomiczne pojazdy, zbiory danych i możliwości AI. O przyszłości cyberbezpieczeństwa

– Nigdy nie jesteśmy w pełni świadomi, jakie informacje na nasz temat są zgromadzone, bo są one dziś zbierane praktycznie wszędzie. Bank, przychodnia, portal internetowy wiele wiedzą na nasz temat na podstawie danych, które zapisują na swoje potrzeby. Nie mają co prawda dostępu do pozostałych zbiorów, ale połączenie informacji zbieranych w różnych miejscach w jeden zbiór może być groźne, ujawni nowe możliwości ich wykorzystania – mówił Radosław Nielek, dyrektor NASK podczas panelu „Bezpieczeństwo danych w erze autonomicznych pojazdów”.

Może się wydawać, że o szansach, zagrożeniach i wyzwaniach, jakie niesie za sobą rozwój sztucznej inteligencji, zostało powiedziane już prawie wszystko. Nic bardziej mylnego. Możliwości rozwijających się algorytmów, zbiory danych, które są gromadzone na potrzeby ich rozwoju, tworzą kolejne tematy i problemy do rozważenia nie tylko przez inżynierów, ale też prawników i etyków.

O kluczowych obecnie wyzwaniach dyskutowali w Karpaczu uczestnicy panelu, który odbył się w ramach Forum AI współorganizowanego przez NASK. Prowadziła go prof. Joanna Jaworek-Korjakowska z AGH.

W erze sztucznej inteligencji zbiory danych to bogactwo

Wyzwaniem, przed jakim stoją naukowcy, w tym eksperci NASK, jest próba opisania danych pod kątem tego, jakie ryzyko niesie za sobą ich ujawnienie oraz które z nich powinny zostać uznane za dane wrażliwe. Jako przykład mogą posłużyć dane, które zbierają nowoczesne samochody na temat kierowców i ich stylu prowadzenia. Informacje o tym, jak prowadzimy auto, mogą być cennymi danymi m.in. dla firm ubezpieczeniowych. Z pewnością chętnie podniosłyby składki kierowcom, którzy co prawda nie spowodowali żadnego wypadku, ale prowadzą auto w sposób, który – zdaniem ubezpieczyciela – może do takiej sytuacji z dużym prawdopodobieństwem doprowadzić.

Jednak informacje o tym, jak kierowcy zachowują się na drodze, nie są gromadzone jedynie dzięki systemom w nowoczesnych autach. Takie dane można zebrać też w inny sposób, np. dzięki kamerom umieszczonym w innym pojeździe. Dlatego naukowcy podejmują próbę katalogowania „unikalności” poszczególnych informacji pod kątem tego, jak wrażliwy jest ich potencjalny wyciek.

– Chciałbym, żebyśmy patrząc za jakiś czas na zbiór danych, który ktoś ujawnił w internecie, byli w stanie określić, jak groźny jest ten wyciek. Możemy bowiem być pewni, że dane będą wyciekały, będą łączone i będą używane do budowania systemów sztucznej inteligencji – przewidywał Radosław Nielek, dyrektor NASK.

Mamy dużo więcej danych niż moglibyśmy wykorzystać

W zbiorach danych drzemie ogromny potencjał. Równie wielkim wyzwaniem jest decyzja, w jaki sposób, na jakich warunkach i do którego momentu możemy wykorzystywać je do ulepszania naszej rzeczywistości.

– Mamy dużo danych, zdecydowanie więcej niż wykorzystujemy. Potencjalnie moglibyśmy je zbierać i przetwarzać. Jednak potrzebne jest dobre zrozumienie, gdzie – w tych uwarunkowaniach związanych z zarządzaniem ryzykiem, w możliwościach technologicznych, w obecnym otoczeniu prawnym – moglibyśmy z nich korzystać – mówił Radosław Nielek.

Tu dyrektor NASK podał przykład informacji – zgłoszeń o podejrzanych stronach internetowych, mailach, sms-ach – które spływają do CERT Polska. Są to dane, które już dziś pomagają w ochronie kolejnych, potencjalnie poszkodowanych osób, jednak nie można ich gromadzić i przetwarzać bez ograniczeń ze względu na poufność zgłoszeń.

Bardzo złożony problem stanowi też np. użycie przez Dyżurnet (zespół w NASK, który przyjmuje zgłoszenia m.in. o treściach zw. z wykorzystaniem seksualnym dzieci) zebranych wcześniej danych (o ogromnym poziomie wrażliwości), choć jednocześnie mogłoby to usprawnić ochronę dzieci.

Takie projekty były już realizowane, podkreślał dyrektor Nielek, jednak zespół badawczy, który przygotowywał modele, nie miał dostępu do danych, ani nawet wytrenowanych modeli.

Dyskusja o sztucznej inteligencji jest zatem otwarta. Złożoność tematu pogłębia się wraz z rozwojem technologii i wyzwań, jakie w swojej pracy napotykają badacze i inżynierowie. O tym, jak potrzebna jest to rozmowa, świadczy fakt, że podczas XXXIII  Forum Ekonomicznego w Karpaczu do tematów gospodarczych dołączył w tym roku właśnie element technologiczny w postaci Forum AI. Debaty nad tym, co niesie przyszłość w dziedzinie sztucznej inteligencji, skupiają w Karpaczu wybitnych ekspertów z tej dziedziny.