Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.


 

POLECANE
Stanowski złożył podpisy w PKW. Wspomina o imponującej liczbie Wiadomości
Stanowski złożył podpisy w PKW. Wspomina o imponującej liczbie

Krzysztof Stanowski zgłosił w piątek do PKW swoją kandydaturę w wyborach prezydenckich wraz z podpisami poparcia dla niego. Stanowski powiedział, że zebrano 4 miliony podpisów.

Kryzys w jednym ze szpitali. Oddział zawiesza pracę Wiadomości
Kryzys w jednym ze szpitali. Oddział zawiesza pracę

Szpital w Ustrzykach Dolnych mierzy się z poważnym kryzysem kadrowym. Z powodu braku internistów oddział chorób wewnętrznych zostaje czasowo zamknięty. Decyzja wchodzi w życie 5 kwietnia i potrwa do 27 kwietnia.

To nie jest dobry znak. Marco Rubio skomentował sytuację na Ukrainie polityka
"To nie jest dobry znak". Marco Rubio skomentował sytuację na Ukrainie

Sekretarz stanu USA Marco Rubio podczas konferencji prasowej na spotkaniu ministrów spraw zagranicznych NATO w Brukseli skomentował obecną sytuację na Ukrainie m.in. w sprawie ewentualnego zawieszenia broni.

Niepokojące doniesienia z Pałacu Buckingham. Aż huczy od plotek Wiadomości
Niepokojące doniesienia z Pałacu Buckingham. Aż huczy od plotek

Jak donosi Daily Mail, książę William zakończył współpracę z kancelarią Harbottle & Lewis, z którą przez lata związana była rodzina królewska. W jej miejsce pojawił się Mishcon de Reya - zespół, który stał u boku Diany w jednym z najgłośniejszych rozwodów w historii brytyjskiej monarchii.

Piotr Duda o zmianach w składce zdrowotnej: Skandal! Najwięcej zapłacą najbiedniejsi! tylko u nas
Piotr Duda o zmianach w składce zdrowotnej: Skandal! Najwięcej zapłacą najbiedniejsi!

"Skandal! Po dzisiejszej decyzji Sejmu znowu to pracownicy będą ponosić koszty utrzymania służby zdrowia" – napisał w mediach społecznościowych przewodniczący NSZZ "Solidarność" Piotr Duda, komentując przegłosowane przez Sejm zmiany w składce zdrowotnej. Projekt ustawy nie był konsultowany ze związkami zawodowymi.

Straż Graniczna w oczach Polaków. Jest nowy sondaż CBOS Wiadomości
Straż Graniczna w oczach Polaków. Jest nowy sondaż CBOS

78 proc. badanych pozytywnie oceniło pracę Straży Granicznej, co oznacza, że jej notowania od września 2024 r. spadły o 7 p. proc. – wynika z ostatniego badania CBOS. Negatywne oceny tej formacji wzrosły z 3 do 5 p. proc.

Beata Szydło: Rafał Trzaskowski coraz bardziej przypomina Bronisława Komorowskiego Wiadomości
Beata Szydło: Rafał Trzaskowski coraz bardziej przypomina Bronisława Komorowskiego

– Rafał Trzaskowski coraz bardziej zaczyna przypominać Bronisława Komorowskiego z jego pomysłami typu „zmień pracę, weź kredyt” – stwierdziła europoseł Beata Szydło, komentując wystąpienie kandydata na prezydenta RP Rafała Trzaskowskiego z Ostrowca Świętokrzyskiego.

Zakaz startu w wyborach dla Marine Le Pen. Francuzi zabrali głos polityka
Zakaz startu w wyborach dla Marine Le Pen. Francuzi zabrali głos

49 procent Francuzów opowiada się za tym, by liderka skrajnej prawicy Marine Le Pen kandydowała w wyborach prezydenckich. Niewiele więcej - 51 procent - jest temu przeciwnych. Sondaż przeprowadził ośrodek Ifop dla rozgłośni Sud Radio.

Tragiczne doniesienia z Grudziądza. Nie żyje 11-miesięczne dziecko Wiadomości
Tragiczne doniesienia z Grudziądza. Nie żyje 11-miesięczne dziecko

W Grudziądzu doszło do ogromnej tragedii – zmarło 11-miesięczne dziecko. Choć lekarze jako wstępną przyczynę zgonu wpisali zespół nagłej śmierci niemowląt (SIDS), sprawę bada prokuratura. W związku z tą sytuacją zatrzymano rodziców dziecka.

Gratka dla miłośników astronomii. Niezwykłe zjawisko na polskim niebie Wiadomości
Gratka dla miłośników astronomii. Niezwykłe zjawisko na polskim niebie

Kwiecień i maj to prawdziwy raj dla miłośników astronomii. W tym okresie na horyzoncie pojawią się aż dwa deszcze meteorów – Lirydy i Eta Akwarydy.

REKLAMA

Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.



 

Polecane
Emerytury
Stażowe