Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Rzadki widok w Sejmie: Jednogłośnie uchwalono ustawę. Wszyscy głosujący posłowie za z ostatniej chwili
Rzadki widok w Sejmie: Jednogłośnie uchwalono ustawę. Wszyscy głosujący posłowie za

Sejm jednogłośnie uchwalił w środę ustawę o zapewnieniu finansowania działań zmierzających do zwiększenia zdolności produkcji amunicji. Wcześniej posłowie odrzucili poprawkę PiS, według której środki na inwestycje w produkcję amunicji miałyby nie pochodzić z budżetu MON.

Samuel Pereira: Nowe szaty Donalda Tuska tylko u nas
Samuel Pereira: Nowe szaty Donalda Tuska

Angela Merkel w swoim najnowszym wywiadzie wspomina o swoich kontaktach z Władimirem Putinem, przyznając, że od dawna doskonale znała jego intencje. Nie ukrywa, że wiedziała, iż to wróg Europy, ale mimo tej wiedzy postawiła na – a jakże - dialog i pragmatyzm.

Czarna środa rosyjskiej gospodarki z ostatniej chwili
Czarna środa rosyjskiej gospodarki

Rosyjski system finansowy zmaga się z poważnym kryzysem, który doprowadził do drastycznego osłabienia rubla. Jak podają branżowe media, dolar w Rosji jest najdroższy od marca 2022 roku, a jego notowania w ostatnich dniach gwałtownie rosną. Główną bezpośrednią przyczyną obecnych problemów jest nałożenie przez USA sankcji na rosyjski Gazprombank.

Newsweek: Szymon Hołownia studiował na Collegium Humanum. Nie chodził na zajęcia, a oceny wpisywał rektor z ostatniej chwili
"Newsweek": "Szymon Hołownia studiował na Collegium Humanum. Nie chodził na zajęcia, a oceny wpisywał rektor"

W środę dziennikarz Piotr Krysiak, a następnie tygodnik "Newsweek" poinformowali, że na słynnej ostatnio uczelni Collegium Humanum "studiował" wicemarszałek Sejmu i "niezależny" kandydat na prezydenta Szymon Hołownia. 

Specjalny wysłannik USA ds. wojny na Ukrainie. Jest decyzja Trumpa z ostatniej chwili
Specjalny wysłannik USA ds. wojny na Ukrainie. Jest decyzja Trumpa

Prezydent elekt USA Donald Trump wybrał emerytowanego generała Keitha Kellogga, by służył jako specjalny wysłannik ds. Rosji i Ukrainy. Kellogg był autorem artykułu nazwanego przez media "planem pokojowym", który zakładał zawieszenie broni i zmuszenie obu stron do negocjacji.

Aktywista LGBT przeprasza posła PiS z ostatniej chwili
Aktywista LGBT przeprasza posła PiS

"Koniec batalii sądowej" – informuje w mediach społecznościowych polityk Suwerennej Polski i poseł Prawa i Sprawiedliwości Jan Kanthak, udostępniając wpis z przeprosinami, który opublikował aktywista LGBT Michał Kowalówka.

Niemcy mają przejąć polski port z ostatniej chwili
Niemcy mają przejąć polski port

W polskich portach może wkrótce dojść do spektakularnych roszad na poziomie właścicielskim. Grupa Rhenus jest bliska przejęcia kontroli nad spółką Bulk Cargo. Oferta konsorcjum Viterry i CM została natomiast uznana za najlepszą przez port w Gdyni. Obie transakcje mogę wywołać polityczną burzę – ocenił w środowym wydaniu "Puls Biznesu".

Anonimowy Sędzia: Adam robi biceps tylko u nas
Anonimowy Sędzia: Adam robi biceps

Minister Kujawiak czuł, że wystawili go na odstrzał. Z Adamem nie dało się nic ustalić, znikał gdzieś na całe dni, rozmarzony zerkał przez okno.

Szok w Niemczech. Kanclerz i jego zielony zastępca przeciwni unijnym karom za przekroczenie limitów emisji CO2 z ostatniej chwili
Szok w Niemczech. Kanclerz i jego "zielony" zastępca przeciwni unijnym karom za przekroczenie limitów emisji CO2

Na skutek decyzji UE od stycznia przyszłego roku producenci samochodowi mają obowiązek znacznego obcięcia emisji dwutlenku węgla, emitowanego przez sumę sprzedanych przez nich samochodów. Nieprzestrzeganie rygorystycznych norm ma być karane finansowo. Dość zaskakująco sprzeciw wobec tego rozwiązania wyrazili kanclerz Niemiec Olaf Scholz, a także nominowany z ugrupowania Zielonych wicepremier i minister gospodarki Robert Habeck. 

Znany deweloper i biznesmen zatrzymany. Policja przeszukała biura z ostatniej chwili
Znany deweloper i biznesmen zatrzymany. Policja przeszukała biura

Na zlecenie Prokuratury Okręgowej w Łodzi policja przeprowadziła działania w biurach grupy HRE Investments, zatrzymując Michała Sapotę – prezesa i głównego udziałowca spółki. Sprawa dotyczy licznych nieprawidłowości, w tym podejrzeń o oszustwa finansowe wobec klientów – podał portal TVP Info.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe