Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Prawo jazdy od 17. roku życia? Polacy odpowiedzieli Wiadomości
Prawo jazdy od 17. roku życia? Polacy odpowiedzieli

Przeciwnych obniżeniu wieku zdawalności na prawo jazdy na 17 lat jest 63,9 proc. Polaków, Zdania "zdecydowanie się zgadzam" jest 8.5 proc. respondentów. Najwięcej przeciwników takiego rozwiązania, bo 73 proc. znajduje się w grupie osób między 50. a 69. rokiem życia - wynika z sondażu IBRIS dla Radia Zet.

WSJ: Trump powinien negocjować z Polską przekazanie Muzeum Auschwitz Izraelowi Wiadomości
WSJ: "Trump powinien negocjować z Polską przekazanie Muzeum Auschwitz Izraelowi"

"Auschwitz powinno należeć do Izraela" – pisze na łamach "Wall Street Journal" David Mamet, słynny amerykański scenarzysta i reżyser żydowskiego pochodzenia.

Odcinam się. Burza w programie Mam talent! Wiadomości
"Odcinam się". Burza w programie "Mam talent!"

Program "Mam talent!" jeszcze nie wrócił na antenę, a już wywołał kontrowersje. Wszystko przez jedno z nagrań promujących nową edycję show, które pojawiło się w mediach społecznościowych. Spot nie spodobał się Agnieszce Woźniak-Starak, prowadzącej program. Dziennikarka otwarcie skrytykowała sposób promocji i stanowczo odcięła się od działań produkcji.

Nie żyje znany muzyk. Miał 44 lata Wiadomości
Nie żyje znany muzyk. Miał 44 lata

Nie żyje Andrzej "Cinek" Marcinek – muzyk i aktywista związany z Rzeszowem. Miał 44 lata. Był gitarzystą punkrockowego zespołu Wielki Las oraz wcześniej Frei Republik Panama.

Awaria w Gdyni. Mieszkańcy bez wody i ogrzewania Wiadomości
Awaria w Gdyni. Mieszkańcy bez wody i ogrzewania

W związku z awarią sieci ciepłowniczej, pozbawieni ciepłej wody i ogrzewania są w środę mieszkańcy kilku gdyńskich dzielnic. Obecnie trwają prace mające na celu zlikwidowanie uszkodzenia – informuje Okręgowe Przedsiębiorstwo Energetyki Cieplnej (OPEC) w Gdyni.

Jest decyzja ws. przyszłości Roberta Lewandowskiego w Barcelonie z ostatniej chwili
Jest decyzja ws. przyszłości Roberta Lewandowskiego w Barcelonie

Robert Lewandowski przedłużył o kolejny rok kontrakt z piłkarską Barceloną, która jest zadowolona z liczb, jakie osiąga w tym sezonie najlepszy napastnik drużyny – poinformował w środę kataloński dziennik "Mundo Deportivo".

KE potwierdza cel klimatyczny w postaci 90% redukcji emisji CO2 do 2040 roku Wiadomości
KE potwierdza cel klimatyczny w postaci 90% redukcji emisji CO2 do 2040 roku

Odpowiadający w Komisji Europejskiej za wdrażanie Zielonego Ładu Maroš Šefčovič w środę zaprezentował w Parlamencie Europejskim program prac KE na 2025 rok. Urzędnik potwierdził wprowadzenie celu klimatycznego UE na rok 2040 – redukcję emisji CO2 o 90%.

Wybory do Bundestagu. Takiego rządu chcą Niemcy [SONDAŻ] polityka
Wybory do Bundestagu. Takiego rządu chcą Niemcy [SONDAŻ]

Na krótko przed wyborami w Niemczech chadecy z CDU/CSU utrzymują wyraźną przewagę w sondażach, a ich lider Friedrich Merz ma duże szanse na objęcie stanowiska kanclerza. Według najnowszego badania 43 proc. Niemców opowiada się za utworzeniem koalicji rządowej CDU/CSU z socjaldemokratyczną SPD.

Andrzej Duda: Trump jest przede wszystkim biznesmenem polityka
Andrzej Duda: Trump jest przede wszystkim biznesmenem

Prezydent USA Donald Trump jest przede wszystkim biznesmenem i trzeba zaakceptować, że tak podchodzi do polityki międzynarodowej - powiedział prezydent Andrzej Duda w wywiadzie dla CNN w kuluarach Światowego Szczytu Rządów w Dubaju.

Przyszły ambasador USA w Polsce usunął tweeta po burzy w sieci gorące
Przyszły ambasador USA w Polsce usunął tweeta po burzy w sieci

- Sprawa jest bardzo poważna, bo mam wrażenie, a wręcz wiedzę, że w USA nie wszyscy rozumieją, na czym UE polega, zresztą w Polsce też - mówił w Polsat News Radosław Sikorski.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe