Typ_aktualnosc Aktualność
19 Lutego 2025|7 min. czytania

AGI – szansa czy game over dla ludzkości?

Maszyny mogą próbować wygrać z nami za wszelką cenę. Sztuczna inteligencja ma wspierać, a nie zastąpić człowieka. To głos ekspertów i autorytetów, który wybrzmiał podczas paryskiej konferencji na temat sztucznej inteligencji (AI). Znawcy tematu nie mają wątpliwości, że prace nad jej rozwojem muszą być kontrolowane, przemyślane i prowadzić do rozwoju, a nie upadku ludzkości.

Grafika przedstawia futurystyczną, humanoidalną postać z przezroczystym, świetlistym ciałem, wypełnionym siecią energetycznych połączeń, przypominających obwody elektroniczne lub system nerwowy. Postać ma błyszczącą, niemal eteryczną głowę z pulsującym światłem na czole, symbolizującym sztuczną inteligencję. Jej dłonie rozłożone są nad Ziemią, która widziana jest z kosmosu i oświetlona światłami miast. W tle widać cyfrowe elementy, takie jak linie łączące punkty, geometryczne kształty oraz napisy "AI", sugerujące zaawansowaną technologię i sztuczną inteligencję na poziomie AGI (Artificial General Intelligence). Obraz emanuje mistyczną i futurystyczną aurą, symbolizującą potęgę i rozwój AI.
Łuna gradientu wychodząca od dołu

Za nami szczyt AI Action w Paryżu, podczas którego odbyły się pogłębione dyskusje na temat kierunków rozwoju sztucznej inteligencji, idących za tym szans i zagrożeń. Jednym z istotnych wydarzeń szczytu była prestiżowa konferencja International Association for Safe and Ethical AI (IASEAI ’25). W wydarzeniu brała udział elita świata nauki; laureaci nagrody Nobla, Turinga; przedstawiciele najważniejszych ośrodków naukowych. Polskę reprezentował dr hab. inż. Szymon Łukasik, prof. AGH, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK. Jak podkreśla, tematem, który dominował podczas rozmów i spotkań była szczególna troska o kierunek rozwoju AI.   

– Podczas konferencji nie dyskutowaliśmy o zatrzymaniu prac nad rozwojem sztucznej inteligencji. To nie jest cel. Bardzo wyraźnie i stanowczo wybrzmiewała za to opinia, że w większości zadań AGI (Artificial General Intelligence) nie jest nam potrzebna – zwraca uwagę Szymon Łukasik.  

To istotne spostrzeżenie środowiska naukowego i ekspertów. Jak podkreśla ekspert NASK naukowcy wyraźnie opowiedzieli się za traktowaniem sztucznej inteligencji jako narzędzia, które ma wspierać człowieka na poszczególnych odcinkach jego działania, a nie dorównywać mu czy go zastępować.  

Czym jest AGI, czyli maszyna na miarę człowieka 

AGI (Artificial General Intelligence) to sztuczna inteligencja, która działa podobnie jak ludzki umysł. Oznacza to, że może myśleć, planować, uczyć się i adaptować do nieprzewidzianych sytuacji – wszystko w sposób porównywalny do ludzkiej inteligencji.  

Obecne systemy AI, takie jak chatboty czy programy do analizy danych, są wyspecjalizowane i mogą wykonywać tylko konkretne zadania, np. rozpoznawać obrazy, tłumaczyć teksty. AGI byłaby inteligencją uniwersalną – miałaby szeroką zdolność poznawczą, która obejmowałaby różne dziedziny wiedzy, zbliżając się do poziomu ludzkiej ogólnej inteligencji, bez konieczności specjalnego programowania jej do każdej nowej sytuacji.  

W teorii AGI mogłaby rozwijać nowe hipotezy, interpretować świat w sposób nienadzorowany i działać autonomicznie w różnych środowiskach.  

Bieg ku AGI i wizja przepaści 

Niepokój ekspertów odnośnie do rozwoju AGI jest wyraźnie wyczuwalny. Zwracają oni uwagę na to, że tempo rozwoju AI jest zawrotne. Dlatego kluczowe jest zapanowanie nad szybkością i kierunkiem prac. To o tyle trudne, że wśród twórców technologii są nie tylko firmy komercyjne, które walczą o dominacje na rynku, ale także państwa, które często mają sprzeczne interesy i które ze sobą rywalizują – jak USA i Chiny. Wyścig odbywa się ponad naszymi głowami, a to właśnie w kontekście społeczeństw – ich potrzeb i oczekiwań – powinniśmy rozważać możliwości technologii sztucznej inteligencji.  

Szymon Łukasik zwraca uwagę, że cele modeli sztucznej inteligencji muszą być spójne z tym jaki jest interes ludzkości.  

Podczas dyskusji na forum konferencji wyraźnie słychać było głosy za tym, by technologia wspierała człowieka, a nie była jego kopią. Maszyny mogą bowiem próbować wygrać z nami za wszelką cenę. Badacze już teraz sprawdzają, czy modele nakierunkowane na cel, np. wygraną w grze, są w stanie i mają takie skłonności, by wpływać na reguły gry i doprowadzić do swojej wygranej – mówi Szymon Łukasik. 

W paryskiej dyskusji na pierwszy plan wybijały się opinie Maxa Tegmarka, jednego z założycieli Instytutu Future of Life. Zwracał on uwagę na to, że zagrożeniem dla ludzi nie jest świadoma czy „zła” Sztuczna Inteligencja znana z książek i filmów Science Fiction, ale ta kompetentna.  

Regulacje jako hamulec awaryjny  

Tegmark podkreśla, że obecnie brak pomysłu na to jak kontrolować AGI i że niezbędna jest współpraca, by powstrzymać jej nieuregulowanego powstanie oraz stworzenie odpowiednich ram dla twórców technologii. Ekspert powołał się na przykład Chin i USA, które ścigają się w wyścigu tworzenia AGI i apelował, że w interesie obu tych krajów leży przede wszystkim współpraca w zakresie regulacji dotyczących AGI. Najpierw we własnych krajach, a następnie na arenie międzynarodowej. 

Przepisy są potrzebne nie tylko w kontekście AGI, ale także dużych modeli językowych tzw. LLM-ów (ang. Large Language Model). Profesor Steward Russell z Uniwersytetu Kalifornijskiego w Berkeley zaapelował, by żądać od firm, które rozwijają sztuczną inteligencję, żeby ich modele były wyposażone w odpowiednie zabezpieczenia – chroniące przed ich szkodliwym użyciem. Podkreślał, że koszty czy trudności nie są argumentem, by rezygnować z czytelnych i jasnych zasad. W podobnym tonie wypowiada się ekspert z NASK.  

Jako środowisko instytutów zajmujących się bezpieczeństwem AI apelujemy o zapewnienie pełnej transparentności zabezpieczeń, tak aby można je było weryfikować zgodnie z ustalonymi standardami przy użyciu określonych zestawów testów – mówi Szymon Łukasik.  

Zdaniem eksperta z NASK kluczowe jest też wyposażenie algorytmów w mechanizm awaryjnego wyłączania modelu. Jak podkreśla Łukasik, obecnie większość z nich takiego mechanizmu nie posiada. 

AGI nie taka zła, jak ja malują? 

Dążenie do stworzenia AGI może być naturalnym krokiem w rozwoju technologii, prowadzącym do epoki post-ludzkiej, w której inteligencja maszynowa wspiera rozwój cywilizacji na niespotykaną dotąd skalę.  

Wiele argumentów przemawia za rozwojem AGI. Jednym z nich jest szansa na rozwiązanie globalnych problemów jak np. zmiany klimatu (przy czym jednocześnie należy zwrócić uwagę na to jak energochłonny jest rozwój i działanie AI). Zwolennicy technologii mówią też o rozwoju medycyny, technologii, gospodarek, edukacji i automatyzacji rutynowych zadań.  

Społeczna debata nad przyszłością AGI 

Noblista Joseph Stiglitz podkreślał podczas paryskiej konferencji, że główne problemy ze sztuczną inteligencją mają charakter społeczno-polityczny, a nie techniczny, a interesy firm nie są zgodne z interesami społeczeństwa. 

Badania prowadzone w różnych krajach dowodzą, że istotne jest dostosowywanie modeli do lokalnego kontekstu kulturowego – np. łatwiej poddają się one na ataki polegające na wymuszeniu generowania szkodliwych treści, jeśli atak ten jest przeprowadzany w języku, w którym model nie był pod tym kątem zabezpieczany. Ponadto modele generatywnej AI mają tendencję do stronniczości (ang. bias) – tj. odzwierciedlania dominujących tendencji, w tym także uprzedzeń, obecnych w danych treningowych. 

Rozwój sztucznej inteligencji, a zwłaszcza AGI (Artificial General Intelligence), wymaga natychmiastowej i globalnej refleksji nad kierunkiem, w jakim podąża ta technologia. Uczestnicy konferencji, w tym laureaci Nagrody Nobla i Turinga, jasno wskazali, że rozwój AGI bez odpowiedniego reżimu technologicznego i regulacji może znaczne szkody ograniczające płynące z niej korzyści. W wariancie skrajnym AGI wymknie się spod kontroli szybciej niż zdążymy ją zrozumieć.  

Tematy powiązane
Udostępnij ten post

Wyróżnione aktualności

Plakat konkursu na najlepszą pracę magisterską z informacjami o nagrodach
Typ_artykul Artykuł
29 Kwietnia 2025|3 min. czytania

NASK promuje młode talenty informatyczne. Weź udział w naszym konkursie

Trwa konkurs na najlepszą pracę magisterską z zakresu informatyki. To doskonała okazja, by zdobyć nagrody i otworzyć sobie drzwi do kariery w NASK oraz innych czołowych instytucji badawczo-technologicznych. Zgłoszenia przyjmowane są do 10 października, a pula nagród wynosi 60 tys. zł.

Maciej Siciarek, dyrektor CSIRT, wypowiada się podczas panelu dyskusyjnego na temat „Cyberbezpieczeństwo w biznesie” w ramach wydarzenia „Cyfryzacja, Technologie, Innowacje” 24 kwietnia 2025 roku. Obok niego siedzi trzech innych uczestników panelu, wszyscy w garniturach, z mikrofonami i laptopami. W tle widać niebieski ekran z nazwą wydarzenia w języku polskim i angielskim.
Typ_aktualnosc Aktualność
25 Kwietnia 2025|6 min. czytania

Bez człowieka nie ma mowy o cyberbezpieczeństwie

Cyberodporność zyskała ludzką twarz – nie tylko technologia, ale przede wszystkim ludzie są odpowiedzialni za bezpieczeństwo firm. To ich świadomość, czujność i odpowiedzialność – stanowią pierwszą i ostatnią linię obrony przed cyfrowymi atakami. Jak rozwijać zabezpieczenia i jaka jest kondycja polskiego biznesu? O tym rozmawiali goście Europejskiego Kongresu Gospodarczego w Katowicach.

Uśmiechnięty chłopak i dziewczyna pokazujący kciuki w górę, trzymający zeszyty i książki. Obok nich tekst: „Punkty do rekrutacji i atrakcyjne nagrody”. W tle znajdują się graficzne ikony pucharów i gwiazdek. Na dole logotypy patronów: Polski Alarm Smogowy, Ministerstwo Cyfryzacji, Ministerstwo Edukacji, Ministerstwo Klimatu i Środowiska. W prawym górnym rogu logo ESA NASK.
Typ_aktualnosc Aktualność
25 Kwietnia 2025|3 min. czytania

NASK inspiruje młodych: rekordowa frekwencja w Olimpiadzie ESA

Aż 21 tysięcy uczestników, trudne pytania z nauki o klimacie i wielka pasja do ochrony środowiska. 15-letnia Basia Lehmann jako jedyna uczestniczka zdobyła maksymalną liczbę punktów! Zakończyła się IV Ogólnopolska Olimpiada Antysmogowa, organizowana przez NASK.

Wystąpienie Magdaleny Wilczyńskiej na EKG w Katowicach
Typ_aktualnosc Aktualność
23 Kwietnia 2025|6 min. czytania

Puls dezinformacji. EKG w Katowicach

Fałszywe narracje w infosferze to coraz większy problem społeczny. Szczególnie w kontekście zbliżających się wyborów prezydenckich. Jaka jest skala i dynamika tego zjawiska? Jak wpływa na życie społeczne oraz publiczne? To kwestie, które przewijają się w dyskusji podczas Europejskiego Kongresu Gospodarczego w Katowicach.

Informacje

Najnowsze aktualności

Mężczyzna siedzący na fotelu i trzymający komputer na kolanach, a obok niego siedzi pies
Typ_aktualnosc Aktualność
23 Maja 2025|5 min. czytania

Incydent? Nie działaj w pojedynkę – zgłoś go do CERT Polska

Często zaczyna się niewinnie – e-mail z „pilną wiadomością” z banku, SMS z linkiem informującym o niedopłacie. Chwilę później cyberprzestępcy chcą wyłudzić dane wrażliwe lub te do logowania w bankowości elektronicznej. Rozpoznawanie zagrożeń to jedno, ale równie ważne jest zgłaszanie ich do działającego w NASK zespołu CERT Polska.

Grafika promująca domenę .pl przygotowana przez NASK. Na środku widoczny napis: „Domena .pl – mniej zagrożeń, więcej zaufania”. Poniżej informacja: „Jedynie 0,74%* kampanii przeciwko polskim użytkownikom używa domen .pl”. Na dole małym drukiem: „*dane 04/2025”. W tle ciemny motyw z kolorowymi elementami graficznymi i logo .pl w czerwonym kółku.
Typ_aktualnosc Aktualność
21 Maja 2025|8 min. czytania

Domena .pl – mniej zagrożeń, więcej zaufania

Przestępcy boją się domen.pl i (prawie) nie korzystają z nich w swojej kryminalnej działalności. Jedynie 0,74% kampanii przeciwko polskim użytkownikom* używa domen .pl. To ponad szesnaście razy mniej niż w 2023! To olbrzymia zasługa zmian wprowadzonych przez NASK, który zarządza rejestrem domeny .pl. NASK usprawnił proces blokowania domen w strefie .pl., dzięki temu domena .pl jest silnym bastionem cyberbezpieczeństwa.

Oświadczenie NASK - aktualizacja
Aktualność
21 Maja 2025|3 min. czytania

Możliwa próba ingerencji w kampanię wyborczą. AKTUALIZACJA 21.05.2025

NASK otrzymał od firmy Meta wyjaśnienia w sprawie reklam wyborczych, o których wstrzymanie wnioskował. Wynika z nich, że Meta nie zablokowała reklam wyborczych.