Twórca chatbota Claude'a: Systemy AI mogą wymknąć się spod kontroli

Zagrożenie

Firma zajmująca się sztuczną inteligencją Anthropic zasugerowała w czwartek globalne wstrzymanie budowy najpotężniejszych systemów sztucznej inteligencji, ponieważ najnowsze modele zaczynają wykazywać oznaki, że mogą wymknąć się spod ludzkiej kontroli.

Firma z siedzibą w San Francisco, która produkuje rodzinę modeli sztucznej inteligencji Claude, stwierdziła w raporcie, że ogólnoświatowe spowolnienie najnowocześniejszego rozwoju sztucznej inteligencji „prawdopodobnie byłoby dobrą rzeczą", ale ostrzegła, że gdyby tylko jedna firma przestała działać, rywale po prostu ścigaliby się do przodu.

Uważamy, że dobrze byłoby, gdyby świat miał możliwość spowolnienia lub tymczasowego wstrzymania rozwoju sztucznej inteligencji na pograniczu, aby umożliwić strukturom społecznym i badaniom nad dostosowaniem nadążanie za postępem technologii

- stwierdzono.

Propozycja Anthropic

Anthropic powiedział, że uzyskanie prawdziwej przerwy w działaniu oznaczałoby, że wiele dużych firm zajmujących się sztuczną inteligencją w wielu krajach – w szczególności w USA i Chinach – zgodziłoby się zaprzestać działalności w tym samym czasie, zgodnie z zasadami, które każdy mógłby faktycznie zweryfikować.

Bez globalnego mechanizmu koordynacji firmy i rządy będą musiały podejmować trudne decyzje dotyczące bezpieczeństwa, będąc pod presją konkurencji i geopolityki

- stwierdzono.

Reakcja branży

Firma spotkała się z oporem ze strony innych przedstawicieli branży oraz urzędników Białego Domu, którzy twierdzą, że skupianie się na najgorszych scenariuszach wyolbrzymia ryzyko i jest strategią mającą na celu spowolnienie konkurencji pod pretekstem obaw o bezpieczeństwo.

Mimo to Biały Dom uznał siłę modelu Mythos firmy, który nie został udostępniony ogółowi społeczeństwa ze względu na jego możliwości w zakresie cyberbezpieczeństwa i jest obecnie wdrażany jedynie w niewielkiej liczbie sprawdzonych organizacji.

Propozycja ta stanęłaby przed trudnym zadaniem w Waszyngtonie i Dolinie Krzemowej, gdzie amerykańscy urzędnicy i dyrektorzy firm technologicznych wielokrotnie argumentowali, że jakiekolwiek spowolnienie rozwoju sztucznej inteligencji grozi przyznaniem Chinom zdecydowanej przewagi strategicznej w wyścigu technologii, który wielu uważa za decydujący w tym stuleciu.

Prezydent USA Donald Trump powiedział jednak, że podczas swojej niedawnej wizyty w Pekinie omawiał możliwość współpracy z Chinami w kwestiach bezpieczeństwa sztucznej inteligencji.

Trump podpisał w tym tygodniu również rozporządzenie wykonawcze, które daje rządowi 30 dni na przeprowadzenie wstępnego przeglądu najpotężniejszych amerykańskich modeli sztucznej inteligencji przed ich premierą.

Czytaj również

Szokujące wyznanie Olgi Tokarczuk. W sieci zawrzało

W Watykanie powstało Obserwatorium ds. Środowiska i Technologii Cyfrowych

Wchodzimy w Wielkie Przerażające Nieznane

Algorytm cię oceni: nowy system pracy budzi poważne obawy

Mythos. Nowa AI ma być tak niebezpieczna, że Anthropic nie chce jej upublicznić

Karol Wagner: Bez jaj

Ograniczenie roli człowieka

Anthropic porównał problem do traktatów o kontroli zbrojeń nuklearnych, ale stwierdził, że jeszcze trudniej będzie sobie z nim poradzić, ponieważ szkolenie w zakresie sztucznej inteligencji jest znacznie łatwiejsze do ukrycia niż silos rakietowy, a pokusa cichego kontynuowania byłoby ogromna.

Firma poinformowała, że w nadchodzących miesiącach planuje zgromadzić przedstawicieli rządu, naukowców, grupy obrońców praw człowieka i konkurencyjne firmy zajmujące się sztuczną inteligencją, aby ustalić, jak taki system mógłby działać.

Wezwanie do koordynacji towarzyszy wewnętrznym danym pokazującym, że sztuczna inteligencja już radykalnie przyspiesza rozwój samej sztucznej inteligencji

- stwierdził Anthropic.

To przyspieszenie tworzy pętlę sprzężenia zwrotnego, która według Anthropic może ostatecznie doprowadzić do tego, co badacze nazywają „rekurencyjnym samodoskonaleniem”.

Taka jest idea systemu sztucznej inteligencji, który staje się w zasadzie zdolny nauczyć się stawać mądrzejszym, bez większej pomocy człowieka.

Jeszcze tam nie jesteśmy i rekurencyjne samodoskonalenie nie jest nieuniknione

- stwierdzono w raporcie, dodając jednocześnie, że może ono nastąpić wcześniej, niż większość rządów i instytucji jest na to gotowa.

Dowody sugerują, że rola człowieka zawęża się na każdym etapie procesu rozwoju sztucznej inteligencji

- stwierdziła firma.

Rozwój AI

Rozwój tzw. sztucznej inteligencji (AI) przeszedł drogę od teoretycznych koncepcji z połowy XX wieku do wszechobecnej technologii. Obecnie skupia się na modelach generatywnych, multimodalności (rozumienie tekstu, obrazu i dźwięku) oraz tzw. agentach AI, które potrafią autonomicznie wykonywać złożone zadania.