Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Niemieckie państwo ukarze wysoką grzywną za krytykę ideologii gender tylko u nas
Niemieckie państwo ukarze wysoką grzywną za krytykę ideologii gender

Niemcy przyjęły w minionym roku prawo, które nakłada grzywnę do 10 tysięcy euro za krytykowanie ideologii gender. Teraz projekt finansowany przez niemiecki rząd i napisany przez aktywistów skrajnej lewicy, proponuje, żeby państwo monitorowało każdego, kto nie wspiera „zmieniania płci” i jest „transfobem”. Bo transfobia zagraża rzekomo demokracji.

Prezydent Ukrainy: Rozmieszczenie sił europejskich nie wyklucza przyszłości w NATO Wiadomości
Prezydent Ukrainy: Rozmieszczenie sił europejskich nie wyklucza przyszłości w NATO

Ukraina popiera ideę rozmieszczenia sił europejskich na swoim terytorium, jednak nie powinno to wykluczać jej przyszłego członkostwa w NATO – powiedział w czwartek wieczorem w programie telewizyjnym prezydent Wołodymyr Zełenski. Ukraiński przywódca zdradził również, że inicjatywę prezydenta Francji Emmanuela Macrona ma popierać kilka innych państw.

Mężczyzna próbował zaatakować butelką ochroniarza. Szybko wpadł w ręce policji Wiadomości
Mężczyzna próbował zaatakować butelką ochroniarza. Szybko wpadł w ręce policji

Policja w Augustowie zatrzymała 43-letniego mężczyznę, który butelką próbował zaatakować pracownika ochrony jednego z lokalnych sklepów. Sprawca zdarzenia został aresztowany już następnego dnia po zdarzeniu. Mężczyzna już wcześniej miał na swoim koncie podobne przestępstwa.

Rosyjska gospodarka zaczyna się pogrążać. Przedsiębiorcy są zaniepokojeni Wiadomości
"Rosyjska gospodarka zaczyna się pogrążać". Przedsiębiorcy są zaniepokojeni

- Gospodarka Rosji zaczyna się pogrążać - pisze w czwartek "Le Monde". Jak podaje francuski dziennik, również szefowie rosyjskich firm w tym bliskich Kremlowi są zaniepokojeni obecną sytuacją gospodarczą w kraju.

Jutro protest rolników. W Warszawie pojawiły się już pierwsze uśmiechnięte barierki gorące
Jutro protest rolników. W Warszawie pojawiły się już pierwsze "uśmiechnięte" barierki

W piątek w Warszawie odbędzie się protest rolników organizowany przez Porozumienie Organizacji Rolniczych. Manifestacja rozpocznie się pod przedstawicielstwem Komisji Europejskiej a następnie protestujący przejdą pod Teatr Narodowy. Na Placu Teatralnym pojawiły się pierwsze barierki.

Iluzoryczna polska prezydencja w UE gorące
Iluzoryczna polska prezydencja w UE

Z dniem 1 stycznia 2025 roku Polska przejęła prezydencję w Radzie Unii Europejskiej. Daje to jej szansę na zadbanie o własne interesy, która to szansa – jak należy wnioskować z przyjętego programu – nie zostanie wykorzystana. Planowane utrzymanie transformacji energetycznej i dalsze zwijanie rolnictwa z pewnością doprowadzi do kryzysu, który obejmie nie tylko Polskę, ale całą Unię Europejską.

To powinien być ich koniec. Gorące komentarze po emisji naszego reportażu w TV Republika gorące
"To powinien być ich koniec". Gorące komentarze po emisji naszego reportażu w TV Republika

- To powinien być ich koniec - skomentował Dawid Wildstein reportaż Moniki Rutke i Tygodnika Solidarność. W sieci pojawiły się gorące komentarze po emisji materiału w TV Republika.

Samuel Pereira po reportażu Moniki Rutke: Ludzie sami po powodzi, ale władzy się powodzi tylko u nas
Samuel Pereira po reportażu Moniki Rutke: Ludzie sami po powodzi, ale władzy się powodzi

Od kilku lat słyszymy bajki o rządzących, którzy mają być „bliżej ludzi”, „dla ludzi” i „z ludźmi”. Serduszka na klapie, zakasane rękawy i ubłocone buty. W teorii brzmi to pięknie, na zdjęciach wygląda „atrakcyjne”, a rzeczywistość brutalnie weryfikuje te hasła. Ostatnie wydarzenia na terenach dotkniętych powodzią w Lądku-Zdroju i to, co ujawniła w „Tysolu” Monika Rutke pokazuje, że władza, skupiona na własnych interesach, coraz bardziej odwraca się plecami do obywateli, także tych, którzy nie tak dawno powierzyli jej swoje zaufanie.

Wypadek drogowy w Wielkopolsce. Jest wiele rannych osób pilne
Wypadek drogowy w Wielkopolsce. Jest wiele rannych osób

W czwartek po południu w okolicach Wojnowic doszło do wypadku drogowego z udziałem czterech pojazdów. W zdarzeniu zostało rannych łącznie siedem osób.

Eksplozja samochodu przed hotelem Donalda Trumpa. Nowe informacje Wiadomości
Eksplozja samochodu przed hotelem Donalda Trumpa. Nowe informacje

W środę przed hotelem Donalda Trumpa w Las Vegas doszło do eksplozji Tesli Cybertruck. Według ustaleń stacji CNN mężczyzna, który jest powiązany z wynajęciem pojazdu ma być żołnierzem amerykańskich sił specjalnych. Nie jest jasne, czy to on ponosi odpowiedzialność za to wydarzenie.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe