ChatGPT coraz mniej bezpieczny? Jest komentarz byłego pracownika Open AI

Amerykańska firma Open AI opublikowała niedawno dokument, który omówił kwestie bezpieczeństwa oraz wdrażania nowych rozwiązań. Firma podkreśliła, że "zachowywała się rozważnie, ograniczając początkowo zakres udostępnionych danych" w chacie GPT-2. W tej sprawie wypowiedział się były pracownik Open AI Miles Brundage, który był szefem działu polityki badawczej.
Open AI, zdjęcie podglądowe ChatGPT coraz mniej bezpieczny? Jest komentarz byłego pracownika Open AI
Open AI, zdjęcie podglądowe / Unsplash

Jak podaje portal Telepolis.pl, amerykańskie Open AI realizując swoją wizję w dziedzinie sztucznej inteligencji "zmaga się z rosnącą konkurencją ze strony chińskiego DeepSeek".

W obliczu planów rozwoju zaawansowanych modeli językowych (LLM), firma zmaga się z zarzutami dotyczącymi jej podejścia do bezpieczeństwa i tego, jak relacjonuje własną historię działań w tym obszarze

- czytamy na Telepolis.pl.

Amerykańska firma opublikowała niedawno dokument omawiający swoje założenia w kwestii ostrożnego i stopniowego wdrażania nowych rozwiązań.

Jako przykład wskazano sposób, w jaki udostępniano GPT‑2 - firma chciała w ten sposób podkreślić, że już wcześniej zachowywała się rozważnie, ograniczając początkowo zakres udostępnionych danych i funkcjonalności

- informuje portal.

 

Były pracownik Open AI o kwestiach bezpieczeństwa

Jak zauważył portal Telepolis.pl, publikacja miała wywołać kontrowersje, szczególnie wśród byłych pracowników i ekspertów zajmujących się kwestią bezpieczeństwa. Głos w tej sprawie zabrał były szef działu polityki badawczej Open AI Miles Brundage.

Większa część tego wpisu jest dobra i wyrażam uznanie osobom, które pracują nad merytoryczną pracą, którą omawia. Ale jestem mocno zirytowany/zaniepokojony fragmentem „AGI w wielu krokach, a nie w jednym wielkim skoku”, który w niepokojący sposób przepisuje historię GPT-2

- napisał Miles Brundage.

Wydanie GPT-2 przez OpenAI, w którego projektowaniu brałem udział, było w 100% spójne i zapowiadało obowiązującą wówczas filozofię iteracyjnego wdrażania w OpenAI

Model był udostępniany stopniowo, a lekcje były udostępniane na każdym etapie. Wielu ówczesnych ekspertów ds. bezpieczeństwa podziękowało nam za tę ostrożność

- wyjaśnił były pracownik Open AI.

Jaka część tego była motywowana lub oparta na myśleniu o AGI jako nieciągłym? Nic z tego. Jakie są dowody na to, że to ostrzeżenie było „nieproporcjonalne” ex ante? Ex post, prawdopodobnie byłoby OK, ale to nie znaczy, że firma postąpiła odpowiedzialnie i podała wówczas informacje

A co dokładnie było błędnego lub alarmistycznego w oryginalnym poście? Dosłownie wszystko, co przewidywano jako prawdopodobne wyniki modeli językowych (zarówno dobre, jak i złe), spełniło się, nawet jeśli zajęło to trochę więcej czasu, niż niektórzy się obawiali

- dodał.

Miles Brundage wypowiedział się także na temat bezpieczeństwa.

Wygląda na to, że w tej sekcji, gdzie obawy są alarmistyczne + potrzeba przytłaczających dowodów na bezpośrednie zagrożenie, aby podjąć działania - w przeciwnym razie po prostu kontynuuj wysyłkę. To bardzo niebezpieczne podejście dla zaawansowanych systemów sztucznej inteligencji

Gdybym nadal pracował w OpenAI, zadałbym sobie pytanie, dlaczego ten wpis na blogu został napisany w ten sposób i co właściwie OpenAI chce osiągnąć, tak jednostronnie lekceważąc ostrożność

- podkreślił Brundage.

Jak czytamy na portalu "krytyka wobec OpenAI nie pojawiła się po raz pierwszy. Już wcześniej eksperci zwracali uwagę, że firma często stawia na szybki postęp, a kwestie długoterminowego bezpieczeństwa traktuje priorytetowo jedynie w deklaracjach".

Pojawiają się głosy, że w branży AI narasta potrzeba wypracowania wspólnych standardów, które z jednej strony pozwolą na rozwój przełomowych rozwiązań, a z drugiej zapewnią transparentność i kontrolę nad potencjalnie niebezpiecznymi zastosowaniami

- czytamy dalej.

 

Czym jest Open AI?

Open AI to organizacja działająca w zakresie sztucznej inteligencji (AI) i uczenia maszynowego. Open AI opracowała najnowocześniejsze technologie, które znalazły różnorodne zastosowania w różnych branżach. W dziedzinie marketingu Open AI wprowadziła potężne narzędzia i modele, które umożliwiają firmom zwiększenie zaangażowania klientów, usprawnienie operacji i uzyskanie przewagi konkurencyjnej.

Jednym z najbardziej znaczących osiągnięć Open AI jest stworzenie najnowocześniejszych modeli językowych, takich jak Chat GPT (Generative pre trained Transformer). Modele językowe Open AI posiadają zrozumienie kontekstowe, co czyni je cennymi zasobami w komunikacji marketingowej i interakcjach z klientami


 

POLECANE
2 sierpnia 1943 - bunt w Treblince. Przywódcą konspiracji był oficer Wojska Polskiego tylko u nas
2 sierpnia 1943 - bunt w Treblince. Przywódcą konspiracji był oficer Wojska Polskiego

Więzień niemieckiego obozu śmierci, Samuel Willenberg tak wspominał po latach: "Nadszedł pamiętny dzień 2 sierpnia 1943 r. Było upalnie i słonecznie. Nad całym obozem Treblinka roznosił się odór spalonych, rozkładających się ciał tych, którzy przedtem zostali zagazowani. Ten dzień był dla nas dniem wyjątkowym. Mieliśmy nadzieję, że spełni się w nim to, o czym od dawna marzyliśmy. Nie myśleliśmy, czy pozostaniemy przy życiu. Jedyne, co nas absorbowało, to myśl, aby zniszczyć fabrykę śmierci, w której się znajdowaliśmy".

Dolny Śląsk: Poważny wypadek na kolejce górskiej z ostatniej chwili
Dolny Śląsk: Poważny wypadek na kolejce górskiej

W poniedziałek wieczorem doszło do poważnego wypadku na kolejce górskiej Kolorowa w Karpaczu na Dolnym Śląsku – przekazała RMF FM.

Prezydent ostro o Żurku: Opowiada bzdury z ostatniej chwili
Prezydent ostro o Żurku: Opowiada bzdury

Prezydent Andrzej Duda w ostrych słowach wypowiedział się na temat ministra sprawiedliwości Waldemara Żurka. – To jest wstyd po prostu, że ktoś, kto ma niby wykształcenie prawnicze i jeszcze w dodatku przez lata należał do stanu sędziowskiego, opowiada takie bzdury – powiedział na antenie Polsat News.

Dyrektor generalny Lasów Państwowych odwołany z ostatniej chwili
Dyrektor generalny Lasów Państwowych odwołany

Minister klimatu i środowiska odwołała Witolda Kossa ze stanowiska dyrektora generalnego Lasów Państwowych – przekazał resort w poniedziałek wieczorem.

Zwrot ws. spotkania prezydenta Dudy z Hołownią. Wycofał się z ostatniej chwili
Zwrot ws. spotkania prezydenta Dudy z Hołownią. "Wycofał się"

W poniedziałek wieczorem prezydent Andrzej Duda miał spotkać się z marszałkiem Sejmu Szymonem Hołownią. Do spotkania jednak nie dojdzie.

Nie żyje gwiazda TVN. Jest komunikat stacji z ostatniej chwili
Nie żyje gwiazda TVN. Jest komunikat stacji

Nie żyje Maciej Mindak, gwiazda TVN, znana m.in. z programu "House Hunters. Odszedł nagle w wieku 38 lat.

MSWiA żąda decyzji od PKW. Jest odpowiedź z ostatniej chwili
MSWiA żąda decyzji od PKW. Jest odpowiedź

Państwowa Komisja Wyborcza w poniedziałek nie podjęła decyzji w sprawie wniosku MSWiA dotyczącego komisarzy wyborczych.

Nowe informacje ws. Mieszka R. Sąd zdecydował o zabójcy z Uniwersytetu Warszawskiego Wiadomości
Nowe informacje ws. Mieszka R. Sąd zdecydował o zabójcy z Uniwersytetu Warszawskiego

Areszt tymczasowy dla Mieszka R., podejrzanego o morderstwo na terenie Uniwersytetu Warszawskiego, został przedłużony do lutego 2026 roku. Postanowienie Sądu Okręgowego w Warszawie skomentował m.in. adwokat Maciej Zaborowski. - Wynik dzisiejszego posiedzenia sądu nie jest dla nikogo zaskoczeniem - stwierdził. Podejrzany ma zostać także poddany badaniom psychiatrycznym.

Ambasador USA przy NATO mówił o Putinie. Nie gryzł się w język z ostatniej chwili
Ambasador USA przy NATO mówił o Putinie. Nie gryzł się w język

Nie sposób pojąć, co jest w umyśle Putina, bo jest chory, pokręcony i nielogiczny - powiedział ambasador USA przy NATO Matthew Whitaker. Dyplomata stwierdził, że podczas wizyty w Moskwie wysłannik prezydenta Steve Witkoff dostarczy Putinowi ultimatum, a amerykańskie sankcje mogą pozbawić Rosję głównego źródła finansowania wojny.

Komunikat dla mieszkańców Świętokrzyskiego z ostatniej chwili
Komunikat dla mieszkańców Świętokrzyskiego

W województwie świętokrzyskim od 1 sierpnia 2025 r. ulegają zmianie warunki taryfowe ofert: "Bilet Świętokrzyski" oraz "Bilet dobrych relacji" – informuje spółka POLREGIO.

REKLAMA

ChatGPT coraz mniej bezpieczny? Jest komentarz byłego pracownika Open AI

Amerykańska firma Open AI opublikowała niedawno dokument, który omówił kwestie bezpieczeństwa oraz wdrażania nowych rozwiązań. Firma podkreśliła, że "zachowywała się rozważnie, ograniczając początkowo zakres udostępnionych danych" w chacie GPT-2. W tej sprawie wypowiedział się były pracownik Open AI Miles Brundage, który był szefem działu polityki badawczej.
Open AI, zdjęcie podglądowe ChatGPT coraz mniej bezpieczny? Jest komentarz byłego pracownika Open AI
Open AI, zdjęcie podglądowe / Unsplash

Jak podaje portal Telepolis.pl, amerykańskie Open AI realizując swoją wizję w dziedzinie sztucznej inteligencji "zmaga się z rosnącą konkurencją ze strony chińskiego DeepSeek".

W obliczu planów rozwoju zaawansowanych modeli językowych (LLM), firma zmaga się z zarzutami dotyczącymi jej podejścia do bezpieczeństwa i tego, jak relacjonuje własną historię działań w tym obszarze

- czytamy na Telepolis.pl.

Amerykańska firma opublikowała niedawno dokument omawiający swoje założenia w kwestii ostrożnego i stopniowego wdrażania nowych rozwiązań.

Jako przykład wskazano sposób, w jaki udostępniano GPT‑2 - firma chciała w ten sposób podkreślić, że już wcześniej zachowywała się rozważnie, ograniczając początkowo zakres udostępnionych danych i funkcjonalności

- informuje portal.

 

Były pracownik Open AI o kwestiach bezpieczeństwa

Jak zauważył portal Telepolis.pl, publikacja miała wywołać kontrowersje, szczególnie wśród byłych pracowników i ekspertów zajmujących się kwestią bezpieczeństwa. Głos w tej sprawie zabrał były szef działu polityki badawczej Open AI Miles Brundage.

Większa część tego wpisu jest dobra i wyrażam uznanie osobom, które pracują nad merytoryczną pracą, którą omawia. Ale jestem mocno zirytowany/zaniepokojony fragmentem „AGI w wielu krokach, a nie w jednym wielkim skoku”, który w niepokojący sposób przepisuje historię GPT-2

- napisał Miles Brundage.

Wydanie GPT-2 przez OpenAI, w którego projektowaniu brałem udział, było w 100% spójne i zapowiadało obowiązującą wówczas filozofię iteracyjnego wdrażania w OpenAI

Model był udostępniany stopniowo, a lekcje były udostępniane na każdym etapie. Wielu ówczesnych ekspertów ds. bezpieczeństwa podziękowało nam za tę ostrożność

- wyjaśnił były pracownik Open AI.

Jaka część tego była motywowana lub oparta na myśleniu o AGI jako nieciągłym? Nic z tego. Jakie są dowody na to, że to ostrzeżenie było „nieproporcjonalne” ex ante? Ex post, prawdopodobnie byłoby OK, ale to nie znaczy, że firma postąpiła odpowiedzialnie i podała wówczas informacje

A co dokładnie było błędnego lub alarmistycznego w oryginalnym poście? Dosłownie wszystko, co przewidywano jako prawdopodobne wyniki modeli językowych (zarówno dobre, jak i złe), spełniło się, nawet jeśli zajęło to trochę więcej czasu, niż niektórzy się obawiali

- dodał.

Miles Brundage wypowiedział się także na temat bezpieczeństwa.

Wygląda na to, że w tej sekcji, gdzie obawy są alarmistyczne + potrzeba przytłaczających dowodów na bezpośrednie zagrożenie, aby podjąć działania - w przeciwnym razie po prostu kontynuuj wysyłkę. To bardzo niebezpieczne podejście dla zaawansowanych systemów sztucznej inteligencji

Gdybym nadal pracował w OpenAI, zadałbym sobie pytanie, dlaczego ten wpis na blogu został napisany w ten sposób i co właściwie OpenAI chce osiągnąć, tak jednostronnie lekceważąc ostrożność

- podkreślił Brundage.

Jak czytamy na portalu "krytyka wobec OpenAI nie pojawiła się po raz pierwszy. Już wcześniej eksperci zwracali uwagę, że firma często stawia na szybki postęp, a kwestie długoterminowego bezpieczeństwa traktuje priorytetowo jedynie w deklaracjach".

Pojawiają się głosy, że w branży AI narasta potrzeba wypracowania wspólnych standardów, które z jednej strony pozwolą na rozwój przełomowych rozwiązań, a z drugiej zapewnią transparentność i kontrolę nad potencjalnie niebezpiecznymi zastosowaniami

- czytamy dalej.

 

Czym jest Open AI?

Open AI to organizacja działająca w zakresie sztucznej inteligencji (AI) i uczenia maszynowego. Open AI opracowała najnowocześniejsze technologie, które znalazły różnorodne zastosowania w różnych branżach. W dziedzinie marketingu Open AI wprowadziła potężne narzędzia i modele, które umożliwiają firmom zwiększenie zaangażowania klientów, usprawnienie operacji i uzyskanie przewagi konkurencyjnej.

Jednym z najbardziej znaczących osiągnięć Open AI jest stworzenie najnowocześniejszych modeli językowych, takich jak Chat GPT (Generative pre trained Transformer). Modele językowe Open AI posiadają zrozumienie kontekstowe, co czyni je cennymi zasobami w komunikacji marketingowej i interakcjach z klientami



 

Polecane
Emerytury
Stażowe