Typ_aktualnosc Aktualność
19 Lutego 2025|7 min. czytania

AGI – szansa czy game over dla ludzkości?

Maszyny mogą próbować wygrać z nami za wszelką cenę. Sztuczna inteligencja ma wspierać, a nie zastąpić człowieka. To głos ekspertów i autorytetów, który wybrzmiał podczas paryskiej konferencji na temat sztucznej inteligencji (AI). Znawcy tematu nie mają wątpliwości, że prace nad jej rozwojem muszą być kontrolowane, przemyślane i prowadzić do rozwoju, a nie upadku ludzkości.

Grafika przedstawia futurystyczną, humanoidalną postać z przezroczystym, świetlistym ciałem, wypełnionym siecią energetycznych połączeń, przypominających obwody elektroniczne lub system nerwowy. Postać ma błyszczącą, niemal eteryczną głowę z pulsującym światłem na czole, symbolizującym sztuczną inteligencję. Jej dłonie rozłożone są nad Ziemią, która widziana jest z kosmosu i oświetlona światłami miast. W tle widać cyfrowe elementy, takie jak linie łączące punkty, geometryczne kształty oraz napisy "AI", sugerujące zaawansowaną technologię i sztuczną inteligencję na poziomie AGI (Artificial General Intelligence). Obraz emanuje mistyczną i futurystyczną aurą, symbolizującą potęgę i rozwój AI.
Łuna gradientu wychodząca od dołu

Za nami szczyt AI Action w Paryżu, podczas którego odbyły się pogłębione dyskusje na temat kierunków rozwoju sztucznej inteligencji, idących za tym szans i zagrożeń. Jednym z istotnych wydarzeń szczytu była prestiżowa konferencja International Association for Safe and Ethical AI (IASEAI ’25). W wydarzeniu brała udział elita świata nauki; laureaci nagrody Nobla, Turinga; przedstawiciele najważniejszych ośrodków naukowych. Polskę reprezentował dr hab. inż. Szymon Łukasik, prof. AGH, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK. Jak podkreśla, tematem, który dominował podczas rozmów i spotkań była szczególna troska o kierunek rozwoju AI.   

– Podczas konferencji nie dyskutowaliśmy o zatrzymaniu prac nad rozwojem sztucznej inteligencji. To nie jest cel. Bardzo wyraźnie i stanowczo wybrzmiewała za to opinia, że w większości zadań AGI (Artificial General Intelligence) nie jest nam potrzebna – zwraca uwagę Szymon Łukasik.  

To istotne spostrzeżenie środowiska naukowego i ekspertów. Jak podkreśla ekspert NASK naukowcy wyraźnie opowiedzieli się za traktowaniem sztucznej inteligencji jako narzędzia, które ma wspierać człowieka na poszczególnych odcinkach jego działania, a nie dorównywać mu czy go zastępować.  

Czym jest AGI, czyli maszyna na miarę człowieka 

AGI (Artificial General Intelligence) to sztuczna inteligencja, która działa podobnie jak ludzki umysł. Oznacza to, że może myśleć, planować, uczyć się i adaptować do nieprzewidzianych sytuacji – wszystko w sposób porównywalny do ludzkiej inteligencji.  

Obecne systemy AI, takie jak chatboty czy programy do analizy danych, są wyspecjalizowane i mogą wykonywać tylko konkretne zadania, np. rozpoznawać obrazy, tłumaczyć teksty. AGI byłaby inteligencją uniwersalną – miałaby szeroką zdolność poznawczą, która obejmowałaby różne dziedziny wiedzy, zbliżając się do poziomu ludzkiej ogólnej inteligencji, bez konieczności specjalnego programowania jej do każdej nowej sytuacji.  

W teorii AGI mogłaby rozwijać nowe hipotezy, interpretować świat w sposób nienadzorowany i działać autonomicznie w różnych środowiskach.  

Bieg ku AGI i wizja przepaści 

Niepokój ekspertów odnośnie do rozwoju AGI jest wyraźnie wyczuwalny. Zwracają oni uwagę na to, że tempo rozwoju AI jest zawrotne. Dlatego kluczowe jest zapanowanie nad szybkością i kierunkiem prac. To o tyle trudne, że wśród twórców technologii są nie tylko firmy komercyjne, które walczą o dominacje na rynku, ale także państwa, które często mają sprzeczne interesy i które ze sobą rywalizują – jak USA i Chiny. Wyścig odbywa się ponad naszymi głowami, a to właśnie w kontekście społeczeństw – ich potrzeb i oczekiwań – powinniśmy rozważać możliwości technologii sztucznej inteligencji.  

Szymon Łukasik zwraca uwagę, że cele modeli sztucznej inteligencji muszą być spójne z tym jaki jest interes ludzkości.  

Podczas dyskusji na forum konferencji wyraźnie słychać było głosy za tym, by technologia wspierała człowieka, a nie była jego kopią. Maszyny mogą bowiem próbować wygrać z nami za wszelką cenę. Badacze już teraz sprawdzają, czy modele nakierunkowane na cel, np. wygraną w grze, są w stanie i mają takie skłonności, by wpływać na reguły gry i doprowadzić do swojej wygranej – mówi Szymon Łukasik. 

W paryskiej dyskusji na pierwszy plan wybijały się opinie Maxa Tegmarka, jednego z założycieli Instytutu Future of Life. Zwracał on uwagę na to, że zagrożeniem dla ludzi nie jest świadoma czy „zła” Sztuczna Inteligencja znana z książek i filmów Science Fiction, ale ta kompetentna.  

Regulacje jako hamulec awaryjny  

Tegmark podkreśla, że obecnie brak pomysłu na to jak kontrolować AGI i że niezbędna jest współpraca, by powstrzymać jej nieuregulowanego powstanie oraz stworzenie odpowiednich ram dla twórców technologii. Ekspert powołał się na przykład Chin i USA, które ścigają się w wyścigu tworzenia AGI i apelował, że w interesie obu tych krajów leży przede wszystkim współpraca w zakresie regulacji dotyczących AGI. Najpierw we własnych krajach, a następnie na arenie międzynarodowej. 

Przepisy są potrzebne nie tylko w kontekście AGI, ale także dużych modeli językowych tzw. LLM-ów (ang. Large Language Model). Profesor Steward Russell z Uniwersytetu Kalifornijskiego w Berkeley zaapelował, by żądać od firm, które rozwijają sztuczną inteligencję, żeby ich modele były wyposażone w odpowiednie zabezpieczenia – chroniące przed ich szkodliwym użyciem. Podkreślał, że koszty czy trudności nie są argumentem, by rezygnować z czytelnych i jasnych zasad. W podobnym tonie wypowiada się ekspert z NASK.  

Jako środowisko instytutów zajmujących się bezpieczeństwem AI apelujemy o zapewnienie pełnej transparentności zabezpieczeń, tak aby można je było weryfikować zgodnie z ustalonymi standardami przy użyciu określonych zestawów testów – mówi Szymon Łukasik.  

Zdaniem eksperta z NASK kluczowe jest też wyposażenie algorytmów w mechanizm awaryjnego wyłączania modelu. Jak podkreśla Łukasik, obecnie większość z nich takiego mechanizmu nie posiada. 

AGI nie taka zła, jak ja malują? 

Dążenie do stworzenia AGI może być naturalnym krokiem w rozwoju technologii, prowadzącym do epoki post-ludzkiej, w której inteligencja maszynowa wspiera rozwój cywilizacji na niespotykaną dotąd skalę.  

Wiele argumentów przemawia za rozwojem AGI. Jednym z nich jest szansa na rozwiązanie globalnych problemów jak np. zmiany klimatu (przy czym jednocześnie należy zwrócić uwagę na to jak energochłonny jest rozwój i działanie AI). Zwolennicy technologii mówią też o rozwoju medycyny, technologii, gospodarek, edukacji i automatyzacji rutynowych zadań.  

Społeczna debata nad przyszłością AGI 

Noblista Joseph Stiglitz podkreślał podczas paryskiej konferencji, że główne problemy ze sztuczną inteligencją mają charakter społeczno-polityczny, a nie techniczny, a interesy firm nie są zgodne z interesami społeczeństwa. 

Badania prowadzone w różnych krajach dowodzą, że istotne jest dostosowywanie modeli do lokalnego kontekstu kulturowego – np. łatwiej poddają się one na ataki polegające na wymuszeniu generowania szkodliwych treści, jeśli atak ten jest przeprowadzany w języku, w którym model nie był pod tym kątem zabezpieczany. Ponadto modele generatywnej AI mają tendencję do stronniczości (ang. bias) – tj. odzwierciedlania dominujących tendencji, w tym także uprzedzeń, obecnych w danych treningowych. 

Rozwój sztucznej inteligencji, a zwłaszcza AGI (Artificial General Intelligence), wymaga natychmiastowej i globalnej refleksji nad kierunkiem, w jakim podąża ta technologia. Uczestnicy konferencji, w tym laureaci Nagrody Nobla i Turinga, jasno wskazali, że rozwój AGI bez odpowiedniego reżimu technologicznego i regulacji może znaczne szkody ograniczające płynące z niej korzyści. W wariancie skrajnym AGI wymknie się spod kontroli szybciej niż zdążymy ją zrozumieć.  

Tematy powiązane
Udostępnij ten post

Wyróżnione aktualności

Zdjęcie z wydarzenia medialnego Impact. Na pierwszym planie widać ekran podglądu realizatorskiego, który pokazuje dwa kadry: po lewej stronie Radosław Nielek, dyrektor NASK, w brązowej marynarce i białej koszuli, po prawej stronie dziennikarka trzymająca mikrofon. W tle widoczni rozmyci uczestnicy rozmowy oraz kamery.
Typ_aktualnosc Aktualność
14 Maja 2025|3 min. czytania

Szeroki front małych systemów na Impact’25

Wbrew pozorom zapewnienie cyfrowego bezpieczeństwa w gminie jest trudniejsze niż w banku – mówił w dyskusji podczas Impact’25 Radosław Nielek, dyrektor NASK. W jednej gminie może znajdować się jednocześnie wiele różnych systemów informatycznych – wodociągów, szkół, placówek medycznych.

Piotr Bisialski z NASK na scenie podczas konferencji.
Typ_aktualnosc Aktualność
13 Maja 2025|7 min. czytania

NASK o krok przed cyberprzestępcami. Forum Bezpieczeństwa Banków 2025

Kradzież tożsamości, ataki na infrastrukturę i próby manipulacji danymi. Sektor finansowy jest na pierwszej linii frontu w walce z cyberprzestępcami. NASK – jako lider w dziedzinie cyberbezpieczeństwa - wychodzi naprzeciw tym wyzwaniom. – Udział w Forum Bezpieczeństwa Banków to dla nas okazja do poznania realnych potrzeb sektora bankowego i wdrożenia konkretnych działań – mówił Piotr Bisialski, kierownik zespołu NASK Incident Response Team.

Wiceminister cyfryzacji Dariusz Standerski przemawia podczas konferencji dotyczącej projektu HIVE AI. W tle na ekranie widoczne są slajdy prezentacji z tytułem „Cele, założenia i organizacja projektu”. Przy stole prezydialnym siedzą Radosław Nielek, Agnieszka Karlińska. W sali znajduje się licznie zgromadzona publiczność, a jedno z przemówień jest rejestrowane telefonem przez uczestnika.
Typ_aktualnosc Aktualność
12 Maja 2025|5 min. czytania

PLLuM rośnie w siłę

600 tysięcy promptów wpisanych w okienko PLLuMa i nowości, od których dzielą nas nie lata, a zaledwie tygodnie – kolejne modele i prototyp inteligentnego asystenta. W siedzibie NASK w Warszawie spotkali się wszyscy uczestnicy konsorcjum HIVE AI. Grupy, która ma za zadanie rozwijać i wdrażać polski model językowy (PLLuM).

MAK od NASK
Typ_aktualnosc Aktualność
12 Maja 2025|4 min. czytania

Rozkwitnij z MAK. Program Mentoringu Aktywnych Kobiet nabiera barw

Podnieś swoje kompetencje z zakresu cyberbezpieczeństwa i wejdź na rynek nowych technologii! Już kilkaset kobiet zgłosiło chęć udziału w programie MAK (Mentoring Aktywnych Kobiet), ogłoszonym przez NASK we współpracy z Ministerstwem Cyfryzacji. Zostań jedną z nich — zgłoś swój udział i rozwiń skrzydła w indywidualnym programie mentoringowym. Nabór trwa do końca maja.

Informacje

Najnowsze aktualności

Mężczyzna w niebieskiej koszuli w paski trzyma w dłoniach smartfon z trzema aparatami. W dolnej części obrazka znajdują się logotypy: Fundusze Europejskie na Rozwój Cyfrowy, Rzeczpospolita Polska, Unia Europejska oraz NASK, co sugeruje, że projekt jest współfinansowany przez Unię Europejską.
Typ_aktualnosc Aktualność
18 Czerwca 2025|6 min. czytania

Zanim klikniesz – zastanów się

Cyberprzestępcy najczęściej łowią przypadkowe osoby – niezmiennie jednym z głównych zagrożeń dla internautów, obserwowanych przez zespół CERT Polska pozostaje phishing. Pozornie nieszkodliwe maile, często wzywające do pilnego działania, mogą prowadzić do fałszywych witryn wyłudzających dane.

Wiceminister cyfryzacji Dariusz Standerski przemawia na scenie podczas Digital Summit w Europejskim Centrum Solidarności w Gdańsku. Za nim znajduje się duży ekran z grafiką wydarzenia zawierającą nazwę „DIGITAL SUMMIT”, daty 17–18.06 oraz lokalizację. Na ekranie widoczne są również logotypy i hasło „Gdańsk jako centrum cyfrowej Europy”. Na sali obecna jest publiczność, scena oświetlona jest światłem w odcieniach niebieskiego i fioletowego.
Typ_aktualnosc Aktualność
17 Czerwca 2025|6 min. czytania

PLLuM i polska wizja cyfrowej Europy

PLLuM i jego możliwości zostały zaprezentowane podczas Digital Summit 2025 - najważniejszego wydarzenia dotyczącego cyfrowej transformacji podczas polskiej prezydencji w Radzie UE. „Nie jesteśmy starym kontynentem. Jesteśmy kontynentem AI. Jesteśmy cyfrowym kontynentem” – mówił wiceminister Standerski. PLLuM to dowód na prawdziwość tej tezy.

Karol Bojke, ekspert z zespołu CERT Polska, siedzi na scenie na tle różowej ścianki, trzyma mikrofon i gestykuluje podczas wypowiedzi. Ubrany jest w jasnoniebieską koszulę i jasne spodnie, ma okulary i opaskę na ręce.
Typ_aktualnosc Aktualność
17 Czerwca 2025|6 min. czytania

Co jest grane? Cyberbezpieczeństwo z Karolem Bojke z CERT Polska

Podczas „Co Jest Grane Festival” w Warszawie miało miejsce spotkanie festiwalowiczów z Karolem Bojke, ekspertem z zespołu CERT Polska. W przystępny sposób opowiedział on o zagrożeniach czyhających na nas w sieci oraz o tym, jak się przed nimi skutecznie bronić.