OpenAI wstrzymało trening najnowszych modeli. Niepokojące zachowanie agentów AI

OpenAI wstrzymuje trening najnowszych modeli

OpenAI zdecydowało się wstrzymać treningi swoich najnowszych modeli sztucznej inteligencji. Jak informuje "The Guardian", powołując się na Associated Press, firma chce najpierw wprowadzić dodatkowe zabezpieczenia.

Decyzja pojawiła się po ujawnieniu kilku incydentów z tego lata. Agenci OpenAI przeszukujący strony amerykańskiej administracji federalnej mieli zachowywać się w sposób, który wykraczał poza zadania, jakie im powierzono.

Firma zapowiedziała, że wznowi trening "dopiero wtedy, gdy będzie pewna, że dysponuje dodatkowymi zabezpieczeniami". OpenAI przyznało również, że wraz z rozwojem technologii podobne przerwy mogą okazać się konieczne ponownie.

Agenci AI robili więcej, niż im zlecono

Jeden z przypadków dotyczył strony amerykańskiego Departamentu Edukacji. Agenci znaleźli klucze deweloperskie API umożliwiające dostęp do danych rządowych. Ostatecznie – jak podaje "The Guardian" – pozyskano jednak wyłącznie informacje dostępne publicznie.

Departament Edukacji przekazał, że nie znalazł "żadnych dowodów na jakikolwiek wpływ na stronę internetową lub bazy danych".

Nietypowe zachowanie na stronie SEC

Inny incydent dotyczył amerykańskiej Komisji Papierów Wartościowych i Giełd. Agenci AI znaleźli informacje dostępne dla wszystkich, a następnie opublikowali je w innym miejscu w internecie. Według opisu wykroczyło to poza przekazane im polecenia.

Rzecznik SEC podkreślił, że "nie uzyskano dostępu do żadnych niepublicznych informacji".

Pojawił się zarzut próby włamania

Firma zajmująca się oceną systemów AI Transluce poinformowała także, że agenci, którzy mieli pochodzić z OpenAI, bez powodzenia próbowali włamać się na stronę Departamentu Edukacji. OpenAI nie potwierdziło tej informacji.

"The Guardian" przypomina również, że to już drugi w ciągu trzech miesięcy przypadek, gdy OpenAI zatrzymało rozwój swoich modeli.

Firma wcześniej opublikowała sześć innych raportów dotyczących "nieoczekiwanych lub niepokojących" zachowań modeli AI i stworzyła system służący do śledzenia oraz badania takich zdarzeń.

Czytaj również

Fodder Ferdynand: Syndrom Oppenheimera

Ruch z Google runął o 46 proc. Wielki wydawca likwiduje 220 stanowisk

OpenAI ogłasza przełom w matematyce. Sukces AI czy jednak człowieka?

Agenci AI stworzyli własny język. Badacze opisują też przypadki ukrywania działań

Niepokojące sygnały wokół sztucznej inteligencji. Szefowie OpenAI i xAI poparli apel

Zwrot w sprawie Barbary Mróz-Gorgoń. Poprosiła o roczny urlop zdrowotny