Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.


 

POLECANE
Blackout w Europie. Jest komunikat wicepremiera Krzysztofa Gawkowskiego Wiadomości
Blackout w Europie. Jest komunikat wicepremiera Krzysztofa Gawkowskiego

W Hiszpanii i Portugalii doszło do ogromnej awarii prądu. Doszło m.in. do poważnych zakłóceń w ruchu kolejowym, lotniczym i samochodowym. W tej sprawie głos zabrał wicepremier, minister cyfryzacji Krzysztof Gawkowski.

Trwa debata prezydencka Super Expressu. Biorą w niej udział wszyscy kandydaci z ostatniej chwili
Trwa debata prezydencka "Super Expressu". Biorą w niej udział wszyscy kandydaci

Rozpoczęła się debata prezydencka "Super Expressu", w której udział biorą wszyscy kandydaci w wyborach prezydenckich 2025.

Szarpali mnie posłowie PO. Ofiara agresji na wiecu Trzaskowskiego przerywa milczenie Wiadomości
"Szarpali mnie posłowie PO". Ofiara agresji na wiecu Trzaskowskiego przerywa milczenie

- Zostałem zaatakowany, zszarpany i rzucony na ziemię. A potem w Internecie zobaczyłem, że szarpali mnie posłowie Platformy Obywatelskiej - powiedział Patryk Szynkowski, który wziął udział w wiecu kandydata na prezydenta Rafała Trzaskowskiego w Poznaniu, gdzie miało dojść do przepychanek pomiędzy protestującymi a ochroniarzami.

Potężny blackout. Kilkanaście dni temu Hiszpania chwaliła się pierwszym dniem, w którym 100% energii pochodziło z OZE z ostatniej chwili
Potężny blackout. Kilkanaście dni temu Hiszpania chwaliła się pierwszym dniem, w którym 100% energii pochodziło z OZE

Hiszpania walczy z ogromną awarią prądu. Zanotowano poważne zakłócenia w ruchu kolejowym, samochodowym i lotniczym.

Tusk do Trzaskowskiego: Po wyborach zabieraj swoich ludzi do pałacu Wiadomości
Tusk do Trzaskowskiego: "Po wyborach zabieraj swoich ludzi do pałacu"

- Po wyborach zabieraj swoich ludzi do pałacu - miał powiedzieć premier Donald Tusk do kandydata na prezydenta Rafała Trzaskowskiego. Rzekoma wypowiedź szefa rządu miała zostać zamieszczona w książce Joanny Miziołek "Więzień ratusza".

Debata prezydencka Super Expressu. Wylosowano pary pojedynków z ostatniej chwili
Debata prezydencka "Super Expressu". Wylosowano pary pojedynków

Już o godz. 18 odbędzie się debata prezydencka "Super Expressu". Wiadomo, kto komu zada pytanie w czasie debaty.

Władimir Putin zapowiada zawieszenie broni. Jest reakcja Białego Domu Wiadomości
Władimir Putin zapowiada zawieszenie broni. Jest reakcja Białego Domu

Rosyjski przywódca Władimir Putin zapowiedział jednostronne zawieszenie broni na Ukrainie, które będzie miało obowiązywać między 8 a 10 maja. Moskwa, wprowadzając jednostronnie trzydniowy rozejm, namawia Ukrainę do tego samego. W tej sprawie pojawił się także komunikat Białego Domu.

Blackout w Europie. Komunikat Polskich Sieci Elektroenergetycznych z ostatniej chwili
Blackout w Europie. Komunikat Polskich Sieci Elektroenergetycznych

Południowa Europa walczy z ogromną awarią prądu. Polskie Sieci Elektroenergetyczne S.A. wydały komunikat.

Ekstradycja Sebastiana M. Jest komunikat Prokuratury Krajowej Wiadomości
Ekstradycja Sebastiana M. Jest komunikat Prokuratury Krajowej

- W dniu 7 maja 2025 r. Sąd Najwyższy Zjednoczonych Emiratów Arabskich rozpozna odwołanie Sebastiana M. w sprawie jego ekstradycji do Polski – poinformowała Prokuratura Krajowa.

Warner Bros. Discovery nie przedaje TVN i umacnia pozycję w Polsce gorące
Warner Bros. Discovery nie przedaje TVN i umacnia pozycję w Polsce

Długo trwały spekulacje na temat sprzedaży TVN przez amerykański koncern Warner Bros. Discovery. Spekulacje ucięła informacja o rezygnacji z planów sprzedaży. Teraz koncern wręcz umacnia pozycję stacji.

REKLAMA

Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.



 

Polecane
Emerytury
Stażowe