Fodder Ferdynand: Syndrom Oppenheimera

Osiem dekad później w Dolinie Krzemowej wezbrała fala obaw o to, czy tym razem nie zadziała aż za dobrze – a przynajmniej tak brzmi oficjalna wersja. Dario Amodei, szef firmy Anthropic, opublikował esej wzywający do skoordynowanego wyhamowania prac nad sztuczną inteligencją i postawienia barier mających uchronić ludzkość przed zagładą. Za 6 do 12 miesięcy, przekonuje Amodei, technologia agentów AI rozwinie się na tyle, że będą oni w stanie przejąć kontrolę nad całym internetem. Co gorsza – ich zdolność do samodoskonalenia sprawi, że nawet nie zorientujemy się, gdy na reakcję będzie już za późno.

Kilka dni wcześniej Jacob Coxon, były już pracownik Anthropic, zarzucił kolegom, że nieodpowiedzialnie dążą do stworzenia superinteligencji, określając dalsze prace jako „igranie z życiem ludzi”. Evan Hubinger, kolejny pracownik Amodeia, oszacował publicznie (sobie tylko znaną metodą), że prawdopodobieństwo unicestwienia ludzkości przez sztuczną inteligencję w ciągu najbliższej dekady przekracza 10 procent. Niepokój zawisł w powietrzu. Internet eksplodował. Media rzuciły się do promocji najnowszego Końca Świata™.

Czytaj również

Ważna zmiana od 4 września. ZUS wydał komunikat

Europa buduje superkomputer AI za 387,8 mln euro. Polska wśród sześciu państw

Nowe kłopoty Mróz-Gorgoń. 15 źródeł w bibliografii jej pracy naukowej ma nie istnieć

Szokujące wyznanie Billa Gatesa. „Bagatelizują to zagrożenie”

Słyszysz sygnał, a rozmówca może już słyszeć ciebie. Ekspert ostrzega

Barbara Mróz-Gorgoń: Składam dymisję

Kiedy miliardy się zwrócą?

Zarówno Elon Musk, jak i Sam Altman, najwięksi konkurenci Amodeiego, zadeklarowali pełne poparcie dla opcji „spowolnienia”. Altman w sposób szczególny odnajduje się w roli przeklętego geniusza – porównywał się w przeszłości do Oppenheimera, zrównywał pracę nad modelami LLM z Projektem Manhattan, zwracał uwagę rozmówcom na biograficzny zbieg okoliczności: on i Robert Oppenheimer urodzili się tego samego dnia, 22 kwietnia.

Bezpieczeństwo stało się już wymówką dla opóźnienia debiutu giełdowego OpenAI – debiutu, który wymagałby ujawnienia szczegółowych informacji o kondycji finansowej firmy, jej wynikach, ryzykach, strukturze biznesu i perspektywach dalszego wzrostu.

„Uważam, że biorąc pod uwagę wszystko, co dzieje się obecnie wokół bezpieczeństwa, wejście na giełdę właśnie teraz byłoby nierozsądne”

– powiedział w wywiadzie dla magazynu „Fortune” Altman.

Co złośliwsi doszukują się w rozpętywanej panice drugiego dna. Sektor sztucznej inteligencji pozostaje w centrum zainteresowania kapitału, jest także kluczowym frontem nowej zimnej wojny – a mimo to mierzy się z coraz większą presją. Skończyły się czasy taniego pieniądza, stopy procentowe są dziś wyższe, a inwestorzy coraz częściej zadają pytanie, na które w okresie największej gorączki nikt nie znajdował czasu: kiedy właściwie te wszystkie miliardy zaczną się zwracać?

W imię ratowania świata

Nowe modele wymagają coraz większych klastrów obliczeniowych, kolejne klastry – coraz większych centrów danych, a te z kolei potrzebują energii, sieci przesyłowych, infrastruktury. Trwający wyścig kosztuje krocie; AI zarabia, ale wciąż za mało. Pal licho, jeśli obiecana rewolucja faktycznie czeka tuż za rogiem. Co jednak, jeśli kolejne miliardy kupować będą jedynie marginalne ulepszenia?

Narzucony odgórnie hamulec może być nienajgorszym sposobem na zredukowanie strat i urealnienie obietnic bez utraty twarzy. Tym bardziej że wprowadzanie ograniczeń prawnych uderzy w małe start-upy – w tych wszystkich, którzy „przyszli na gotowe” – i pozwoli zatrzasnąć za sobą drzwi. W imię ratowania świata, oczywiście. Trzymamy w rękach bombę atomową, uważajcie, bo wszyscy zginiemy!

Ze wszystkich wizji, które kłębią się dziś w głowach kandydatów do oppenheimerostwa, jedna zapewne straszy bardziej niż pozostałe. Ta, w której efekty swojej pracy musieliby skwitować: „Nie zadziałało. Nie zadziałało”. Lepiej się nie spieszyć.

[Śródtytuły i sekcja "Co musisz wiedzieć" pochodzą od redakcji]