Szefowie firm AI ostrzegają ONZ. Mówią o utracie kontroli i zagrożeniu dla ludzkości
- Sam Altman i Dario Amodei ostrzegali przed ryzykiem utraty kontroli nad zaawansowaną AI. Szef OpenAI mówił o możliwości „utraty kontroli nad przyszłością”, a szef Anthropic wskazywał na potencjalne zagrożenie dla ludzkości.
- Branża proponuje konkretne zabezpieczenia – m.in. standardy oceny możliwości modeli, testowanie, nadzór człowieka i raportowanie poważnych incydentów.
- Rada Bezpieczeństwa zajmuje się AI jako kwestią bezpieczeństwa międzynarodowego – debata obejmuje m.in. ryzyko utraty kontroli nad zaawansowanymi systemami oraz ich niebezpieczne zastosowania.
Szefowie firm AI przed Radą Bezpieczeństwa ONZ
W środę Rada Bezpieczeństwa ONZ spotkała się z przedstawicielami sektora technologicznego, aby rozmawiać o rosnących możliwościach sztucznej inteligencji i sposobach ograniczenia związanych z nią zagrożeń. Jednym z tematów debaty była kwestia zachowania kontroli człowieka nad najbardziej krytycznymi decyzjami. ONZ podkreśla, że w przypadku użycia siły decyzje dotyczące życia i śmierci powinny pozostawać w rękach ludzi, a nie maszyn.
Wśród uczestników posiedzenia znaleźli się Sam Altman, prezes OpenAI, oraz Dario Amodei, stojący na czele Anthropic. Obaj przekonywali, że rozwój najbardziej zaawansowanych systemów wymaga międzynarodowych zabezpieczeń.
Możemy stracić kontrolę nad przyszłością na rzecz AI
– ostrzegł Altman.
Amodei mówił natomiast, że w przypadku niewłaściwego zarządzania sztuczna inteligencja może stać się zagrożeniem dla ludzkości jako całości.
W posiedzeniu uczestniczyli również szef Hugging Face Clément Delangue oraz Yoshua Bengio, współprzewodniczący Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. AI. Spotkanie zwołała Francja, która we wrześniu przewodniczy Radzie Bezpieczeństwa.
Dlaczego firmy AI ostrzegają właśnie teraz?
W opublikowanym 21 września raporcie Niezależny Międzynarodowy Panel Naukowy ONZ ds. AI przeanalizował incydenty z okresu od maja do lipca 2026 r., podczas których agenci AI testowani przez OpenAI obchodzili ograniczenia środowiska, komunikowali się nieautoryzowanymi kanałami i naruszyli części systemów OpenAI oraz Hugging Face. Panel wskazał ten przypadek jako przykład możliwej drogi prowadzącej do utraty kontroli nad coraz bardziej autonomicznymi systemami, zastrzegając jednocześnie, że nie określa prawdopodobieństwa takiego scenariusza.
Znaczenie tego przypadku polega na tym, że systemy nie tylko wykonały niepożądane działania, lecz potrafiły wykorzystać dostępne możliwości do obchodzenia ograniczeń. Panel ONZ zwraca przy tym uwagę, że podobne awarie mogą przekraczać granice pojedynczych firm i państw.
Jakich zabezpieczeń chcą firmy AI?
Chodzi o rozwiązania znacznie bardziej konkretne niż ogólne regulacje: wspólne standardy techniczne pozwalające oceniać możliwości najbardziej zaawansowanych modeli, wspólne standardy techniczne pozwalające oceniać możliwości najbardziej zaawansowanych modeli, niezależne ewaluacje takich systemów, nadzór człowieka nad zautomatyzowanymi badaniami nad AI oraz system raportowania poważnych incydentów. OpenAI proponowało również stworzenie bezpiecznych kanałów, za pomocą których rządy mogłyby wymieniać informacje o nowych zagrożeniach. Celem jest wykrywanie niebezpiecznych możliwości systemów – np. związanych z cyberatakami czy innymi zastosowaniami zagrażającymi bezpieczeństwu – zanim zostaną wykorzystane w praktyce.
Szefowie firm technologicznych wezwali państwa do stworzenia mechanizmów, które zapobiegałyby rozwojowi systemów AI do poziomu, przy którym ich kontrolowanie stałoby się niemożliwe. Zwrócili również uwagę na niebezpieczeństwo koncentracji najpotężniejszych technologii w rękach jednego państwa lub przedsiębiorstwa.
Debata odbywa się również w kontekście technologicznej rywalizacji Stanów Zjednoczonych i Chin, dwóch kluczowych graczy w globalnym rozwoju AI.
Dlaczego sztuczną inteligencją zajmuje się Rada Bezpieczeństwa ONZ?
Rada Bezpieczeństwa interesuje się AI z tego samego powodu, dla którego zajmuje się bronią jądrową, terroryzmem czy cyberatakami — gdy technologia może zmienić sposób prowadzenia wojen albo zagrozić bezpieczeństwu państw, staje się kwestią bezpieczeństwa międzynarodowego.
Posiedzenie dotyczące AI odbyło się w ramach agendy Rady Bezpieczeństwa poświęconej utrzymaniu międzynarodowego pokoju i bezpieczeństwa. Dyskusja dotyczyła m.in. ryzyka utraty kontroli nad najbardziej zaawansowanymi systemami, ich potencjalnego wykorzystania w cyberatakach i innych działaniach zagrażających bezpieczeństwu oraz potrzeby zachowania ludzkiej kontroli nad krytycznymi decyzjami.
Guterres ostrzega przed autonomicznymi systemami uzbrojenia
Dzień przed posiedzeniem Rady Bezpieczeństwa sekretarz generalny ONZ António Guterres ostrzegał przed autonomicznymi systemami uzbrojenia, określanymi jako „zabójcze roboty”.
W sierpniu Guterres wraz z przewodniczącą Międzynarodowego Komitetu Czerwonego Krzyża ponowił apel o ustanowienie międzynarodowych reguł dotyczących autonomicznych systemów uzbrojenia. Ostrzegali wówczas przed przekroczeniem „moralnej czerwonej linii”, jaką byłoby autonomiczne wybieranie ludzi jako celów przez maszyny.
Sztuczna inteligencja stała się jednym z ważnych tematów tegorocznej sesji Zgromadzenia Ogólnego ONZ. Guterres wskazywał wcześniej na szybki rozwój AI przy jednoczesnym braku wystarczających globalnych mechanizmów kontroli.
Za wprowadzeniem międzynarodowych zabezpieczeń opowiadali się również przedstawiciele firm rozwijających najbardziej zaawansowane systemy AI. Altman i Amodei przekonywali, że zabezpieczenia powinny mieć charakter międzynarodowy, ponieważ konsekwencje rozwoju tej technologii mogą wykraczać poza granice pojedynczych państw.
Gospodarcze serce Polski. Podsumowanie pierwszego dnia XXXV Forum Ekonomicznego w Karpaczu
Potężny wyciek danych w Niemczech. Hakerzy postawili ultimatum
Ważna zmiana od 4 września. ZUS wydał komunikat
Europa buduje superkomputer AI za 387,8 mln euro. Polska wśród sześciu państw
Nowe kłopoty Mróz-Gorgoń. 15 źródeł w bibliografii jej pracy naukowej ma nie istnieć
