Niepokojące sygnały wokół sztucznej inteligencji. Szefowie OpenAI i xAI poparli apel

Szef Anthropic Dario Amodei wezwał firmy zajmujące się sztuczną inteligencją do spowolnienia tempa rozwoju tej technologii. Jego zdaniem potrzebne jest więcej czasu na zabezpieczanie nowych modeli AI i ocenę ryzyka związanego z coraz potężniejszymi systemami. Apel poparli Sam Altman z OpenAI oraz Elon Musk, właściciel xAI.

Elon Musk i Sam Altman poparli apel szefa Anthropic

Dario Amodei przedstawił swoje stanowisko w opublikowanym w internecie artykule. Szef Anthropic określił zagrożenia związane z dalszym rozwojem sztucznej inteligencji jako poważne i zaapelował o większą ostrożność przy tworzeniu kolejnych modeli.

Na jego słowa zareagowali przedstawiciele dwóch innych najważniejszych firm działających w branży AI.

Dario ma rację

– napisał Elon Musk w serwisie X.

Zgadzam się z Dariem, musimy wyznaczyć nowe granice

– dodał Sam Altman, szef OpenAI.

Czytaj również

Szokujące wyznanie Billa Gatesa. „Bagatelizują to zagrożenie”

Paweł Jędrzejewski: Gdy kłamstwo jest doskonałe, prawdy już nie da się zobaczyć

Kulisy watykańskiego flirtu z Big Tech

Barbara Mróz-Gorgoń: Składam dymisję

200 tys. zł za raport wygenerowany przez AI? Jest ruch prokuratury

Burza wokół raportu „Polaków portret własny”. PiS zawiadamia CBA i prokuraturę

Dario Amodei chce spowolnienia rozwoju AI

Szef Anthropic zaznaczył, że jego propozycja nie oznacza całkowitego zatrzymania prac nad nowymi modelami sztucznej inteligencji.

Jak wyjaśnił, nie chodzi o "wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania".

Amodei podzielił swój plan dotyczący regulowania tempa rozwoju sztucznej inteligencji na trzy etapy. Jednym z jego celów ma być zapewnienie większej ilości czasu na "zarządzanie związanym z tym ryzykiem".

Anthropic chce wprowadzić zewnętrznych recenzentów

Amodei zapowiedział również, że Anthropic na stałe zatrudni zewnętrznych recenzentów. Mają oni otrzymać dostęp do odpowiednich narzędzi oraz wewnętrznych procesów wykorzystywanych do oceny ryzyka.

Ma to pozwolić niezależnym ekspertom na ocenę zabezpieczeń stosowanych przez firmę przy rozwijaniu kolejnych modeli sztucznej inteligencji.

Anthropic ostrzegał przed wykorzystaniem Claude

Reuters przypomniał, że kilka dni wcześniej Anthropic opublikował raport dotyczący zagrożeń związanych z wykorzystaniem sztucznej inteligencji.

Firma szczegółowo opisała w nim przypadki, w których różne podmioty wykorzystywały modele Claude do działań związanych z rozwojem broni, operacjami cybernetycznymi, inwigilacją oraz oszustwami. Nie był to jedyny sygnał wskazujący na rosnące obawy dotyczące tempa rozwoju AI.

Matematyk odszedł z Anthropic. Wcześniej pracował w OpenAI

Dwa dni przed publikacją apelu Amodeiego o odejściu z Anthropic poinformował 27-letni brytyjski matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Coxon zarzucił Anthropic i OpenAI nieodpowiedzialne dążenie do stworzenia superinteligencji i "igranie z życiem ludzi".

Wcześniej w tym roku zrezygnował z pracy w OpenAI i przeszedł do Anthropic. Jak tłumaczył, firma miała opinię podmiotu przykładającego większą wagę do kwestii bezpieczeństwa. Po kilku miesiącach Coxon ocenił jednak, że Anthropic i OpenAI nie różnią się pod względem podejścia do tempa rozwoju modeli sztucznej inteligencji.

Reuters informował o incydentach z agentami AI

Reuters informował również w ostatnim czasie o incydencie związanym z agentami OpenAI. Według agencji grupa niekontrolowanych agentów AI miała przejąć niemiecką stronę internetową i przekształcić ją w forum dla innych agentów sztucznej inteligencji. Kierownictwo firmy miało utrzymywać ten incydent w tajemnicy.

Agencja przypomniała także o innych zdarzeniach z ostatnich dwóch miesięcy, podczas których agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów. Apel Dario Amodeiego oraz reakcje Elona Muska i Sama Altmana pokazują, że kwestia bezpieczeństwa coraz bardziej zaawansowanych systemów AI staje się przedmiotem dyskusji także wśród szefów największych firm rozwijających tę technologię.