Szef OpenAI Sam Altman ostrzega przed rozwojem sztucznej inteligencji

Sam Altman przed Radą Bezpieczeństwa ONZ 

Zdaniem Sama Altmana ostatnie postępy w rozwoju modeli sztucznej inteligencji sprawiają, że perspektywa kolejnych przełomów znacząco się przybliżyła. Korzyści związane z AI stają się coraz bardziej widoczne, ale jednocześnie bardziej bezpośrednie stają się związane z nią zagrożenia.

Prezes OpenAI przedstawił dwie możliwe drogi dalszego rozwoju technologii. Sztuczna inteligencja może jego zdaniem doprowadzić do okresu ogromnego rozwoju ludzkiej kreatywności, nauki i gospodarki. Może jednak również wywołać poważne wstrząsy i chaos.

AI może pomagać m.in. w odkrywaniu nowych leków, poprawie ochrony zdrowia i edukacji czy tworzeniu bardziej produktywnych gospodarek. Altman zaznaczył jednak, że wraz ze wzrostem możliwości systemów pojawiają się problemy, których nie można ignorować.

Czytaj również

Awaria Groka i Chata GPT. Internauci alarmują

Europa buduje superkomputer AI za 387,8 mln euro. Polska wśród sześciu państw

Nowe kłopoty Mróz-Gorgoń. 15 źródeł w bibliografii jej pracy naukowej ma nie istnieć

Paweł Jędrzejewski: Gdy kłamstwo jest doskonałe, prawdy już nie da się zobaczyć

Kulisy watykańskiego flirtu z Big Tech

Burza wokół raportu „Polaków portret własny”. PiS zawiadamia CBA i prokuraturę

„Możemy stracić kontrolę nad przyszłością”

Najmocniejsze ostrzeżenie dotyczy sytuacji, w której rozwój sztucznej inteligencji stanie się tak szybki, że człowiek przestanie być w stanie skutecznie nadzorować działanie systemów.

Po pierwsze, możemy stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji 

– powiedział Altman. Dodał, że "niebezpieczeństwo pojawiłoby się wtedy, gdyby AI rozwijała się szybciej, niż ludzie są w stanie zrozumieć zachodzące zmiany".

Altman określił utratę takiej kontroli jako scenariusz, którego należy za wszelką cenę uniknąć.

Systemy same tworzą coraz lepsze wersje samych siebie

Prezes OpenAI zwrócił szczególną uwagę na tzw. rekurencyjne samodoskonalenie. Chodzi o możliwość pojawienia się systemów, które będą coraz bardziej zaangażowane w proces tworzenia kolejnych, jeszcze bardziej zaawansowanych systemów AI. Im większa część prac nad rozwojem sztucznej inteligencji zostanie zautomatyzowana, tym szybciej może następować dalszy postęp.

Według Altmana właśnie w takim momencie konieczna będzie szczególna ostrożność. Gwałtowne przyspieszenie mogłoby bowiem doprowadzić do sytuacji, w której możliwości systemów rosłyby szybciej niż zdolność ludzi do ich kontrolowania, testowania i odpowiedniego zabezpieczania.

"Wyścig firm nie może usprawiedliwiać ryzyka"

Szef OpenAI odniósł się również do konkurencji pomiędzy firmami rozwijającymi sztuczną inteligencję. Jego zdaniem presja związana z technologicznym wyścigiem nie może być argumentem za wdrażaniem rozwiązań, których bezpieczeństwa nie da się odpowiednio zagwarantować. Altman przekonywał, że ogromne potencjalne korzyści wynikające z AI również nie powinny prowadzić do akceptowania nadmiernego ryzyka.

Zapowiedział, że jeśli będzie to konieczne, rozwój technologii powinien zostać spowolniony. Jak zaznaczył, OpenAI robiło to już wcześniej i może zrobić ponownie.

„Żaden z tych poziomów nie jest akceptowalny”

Altman odniósł się także do szacowania ryzyka związanego z najpotężniejszymi systemami AI.

Nie ma znaczenia, czy ludzie oceniają ryzyko katastrofy na 10 proc., 1 proc., 12 proc. czy 0,1 proc. Żaden z tych poziomów nie jest nawet w przybliżeniu akceptowalny 

– mówił. Według prezesa OpenAI modele nie powinny być trenowane, jeżeli nie istnieją mocne podstawy pozwalające zakładać, że pozostaną pod kontrolą człowieka.