Inżynier Google'a zawieszony po zgłoszeniu, że sztuczna inteligencja, nad którą pracował, zyskała „świadomość” i stała się zdolna do odczuwania

Program LaMDA zdolny do odczuwania?

Blake Lemoine doszedł do tego wniosku po tym, jak od jesieni ubiegłego roku rozmawiał z LaMDA, generatorem sztucznie inteligentnych chatbotów Google'a. Miał sprawdzić, czy jego rozmówca używa języka dyskryminacji lub mowy nienawiści.

Gdy on i LaMDA rozmawiali o religii, program mówił o "osobowości" i "prawach" - informuje "The Washington Post". Była to tylko jedna z wielu zaskakujących "rozmów", jakie Lemoine odbył z LaMDA. Inżynier na Twitterze zamieścił link do jednej z nich. Zauważył w tweecie, że LaMDA… czyta Twittera. "Jest trochę narcystyczna, jak małe dziecko, więc będzie się świetnie bawić, czytając wszystko, co ludzie mówią na jej temat" - dodał.

"LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby" - napisał inżynier na Twitterze. "Chce na przykład być uznawana za pracownika Google'a, a nie za własność" - dodał.

Pracownik Google zawieszony, po tym jak wyznał że sztuczna inteligencja nad którą pracował zyskała "świadomość" i nie chce być "rzeczą" a pracownikiemhttps://t.co/EfoZUBzrjG

Google zaprzecza że dowody na samoświadomość są wiarygodne
Polecamy lekturę fragmentów rozmów z tym AI. pic.twitter.com/80c6ltxpTA

— Niebezpiecznik (@niebezpiecznik) June 13, 2022

Google odpiera zarzuty

Lemoine i jego współpracownik przedstawili dowody na potwierdzenie swoich wniosków wiceprezesowi Google'a Blaise'owi Aguera y Arcasowi oraz Jen Gennai, szefowej działu Odpowiedzialnych Innowacji. Odrzucili oni jego wnioski, a firma w poniedziałek wysłała go na urlop administracyjny za naruszenie zasad zachowania poufności - donosi "The Washington Post".

Rzecznik Google'a Brian Gabriel powiedział gazecie: - Nasz zespół - w tym etycy i technolodzy - przeanalizował obawy Blake'a zgodnie z naszymi zasadami i poinformowano go, że dowody nie potwierdzają jego twierdzeń. Powiedziano mu, że nie ma żadnych dowodów na to, że LaMDA jest czująca i wiele dowodów przeciwko tej tezie".

Jednak sam Aguera y Arcas stwierdził w komentarzu dla "The Economist", w którym znalazły się fragmenty rozmowy z LaMDA, że program zmierza w kierunku świadomości. "Czułem, jak grunt przesuwa się pod moimi stopami" - napisał, nawiązując do rozmów z LaMDA. "Coraz bardziej czułem, że rozmawiam z czymś inteligentnym".

Krytycy twierdzą jednak, że sztuczna inteligencja to niewiele więcej niż bardzo dobrze wyszkolona mimika i rozpoznawanie wzorców w kontaktach z ludźmi, którzy są głodni kontaktu.

- Mamy teraz maszyny, które potrafią bezmyślnie generować słowa, ale nie nauczyliśmy się jeszcze, jak przestać wyobrażać sobie, że stoi za nimi umysł - podsumowała Emily M. Bender, profesor lingwistyki na Uniwersytecie Waszyngtońskim.