Broń AI bez kontroli człowieka? Niepokojące kulisy negocjacji w Genewie
- USA i Rosja doprowadziły do usunięcia kilku ważnych zapisów z projektu zasad dotyczących broni wykorzystującej AI.
- Z dokumentu zniknął m.in. wymóg kontroli celów przez człowieka oraz część zapisów dotyczących bezpieczeństwa i etyki.
- "Washington Post" ujawnia kulisy burzliwych negocjacji, które odbywały się za zamkniętymi drzwiami w Genewie.
USA i Rosja zmieniły zapisy dotyczące broni AI
Stany Zjednoczone i Rosja doprowadziły do złagodzenia części zapisów powstających w ramach międzynarodowych rozmów o broni autonomicznej wykorzystującej sztuczną inteligencję. Takie kulisy negocjacji opisuje "Washington Post", powołując się na trzy osoby znające ich przebieg.
Rozmowy odbywały się na początku września w Genewie pod auspicjami Organizacji Narodów Zjednoczonych. Była to pierwsza tego rodzaju próba stworzenia międzynarodowych zasad dotyczących śmiercionośnych systemów autonomicznych.
Z dokumentu zniknęły ważne zabezpieczenia
Według "WP" delegacje USA i Rosji nie zgodziły się na zapis, zgodnie z którym autonomiczne systemy uzbrojenia powinny działać w sposób "przewidywalny" i "godny zaufania". Usunięto również wymóg, by przy używaniu takiej broni koniecznie uwzględniać kwestie etyczne.
To jednak nie wszystko. Z dokumentu miał zniknąć także zapis wymagający, aby człowiek sprawdzał cele wyznaczone wcześniej przez sztuczną inteligencję.
Burzliwe negocjacje za zamkniętymi drzwiami
W rozmowach uczestniczyły setki dyplomatów. Jak opisuje amerykański dziennik, ostatniego dnia "rozmowy stały się agresywne". Delegacjom USA i Rosji towarzyszyły liczne zespoły prawników, a zmiany w dokumentach miały być wprowadzane bardzo szybko.
Jeden z rozmówców gazety przekazał, że przedstawiciele mniejszych państw mogli jedynie "w oszołomieniu" obserwować działania dwóch dużych delegacji. Departament Stanu USA, rosyjskie MSZ oraz ONZ nie odpowiedziały "Washington Post" na prośby o komentarz.
Broń wykorzystująca AI już pojawia się na polu walki
Spór nie dotyczy wyłącznie przyszłości. Jak przypomina "Washington Post", autonomiczne i wspierane przez sztuczną inteligencję systemy są już "rzeczywistością pola walki".
Według dziennika siły USA wykorzystały model AI firmy Anthropic do wskazania blisko 1000 celów w pierwszej dobie wojny z Iranem. Izrael korzystał natomiast ze sztucznej inteligencji m.in. przy inwigilacji oraz określaniu celów i części operacji w Strefie Gazy.
Co dalej z regulacjami broni autonomicznej?
Nicole van Rooijen, dyrektorka koalicji Stop Killer Robots, oceniła w rozmowie z "WP", że Waszyngton i Moskwa nie popierają prawnie wiążących zasad dotyczących autonomicznego uzbrojenia, a jednocześnie mają duży wpływ na dalszy przebieg negocjacji.
NASK bije na alarm. Liczba cyberataków wystrzeliła
RMF FM: Polska odzyska pieniądze za broń dla Ukrainy
Europa buduje superkomputer AI za 387,8 mln euro. Polska wśród sześciu państw
Nowe kłopoty Mróz-Gorgoń. 15 źródeł w bibliografii jej pracy naukowej ma nie istnieć
ABW i policja zatrzymały trzech Rosjan na Woli. W mieszkaniu znaleziono broń
