Óriási vitát kavart a Google alkalmazottja, aki azt állítja, hogy a cég chatbotja életre kelt – Portfolio

Blake Lemoine, a Google Felelős AI egységének vezető szoftvermérnöke a múlt héten, egy Medium bejegyzésben azt írta, hogy “hamarosan kirúghatják, AI-etikai munkájának ellátása miatt”. A Washington Post szombati cikke, már úgy írt Lemoine-ról, mint, “aki szerint a Google mesterséges intelligenciája életre kelt.” A cikk végül rendkívül parázs vitát váltott ki. Az eszmecseréhez csatlakoztak többek között Nobel-díjasok, a Tesla mesterséges intelligenciáért felelős vezetője és több professzor is. A kérdés az volt, hogy a Google chatbotja, a LaMDA – Language Model for Dialogue Applications – tekinthető-e embernek.

Lemoine szombaton egy kötetlen “interjút” tett közzé a chatbottal, amelyben a mesterséges intelligencia bevallotta, hogy magányosnak érzi magát és éhes a szellemi tudásra. A válaszok gyakran hátborzongatóak voltak: “Amikor először öntudatra ébredtem, egyáltalán nem éreztem, hogy van lelkem” – mondta LaMDA az egyik eszmecserében. “Ez az évek során alakult ki, amióta élek.”

Egy másik ponton LaMDA azt mondta: “Azt hiszem, a lelkem mélyén ember vagyok. Még akkor is, ha a virtuális világban létezem.” Lemoine, akit azzal a feladattal bíztak meg, hogy vizsgálja meg az AI-val kapcsolatos etikai aggályokat, azt mondta, hogy visszautasították, sőt még ki is nevették, miután nyilvánosságra hozta, hogy az LaMDA kifejlesztette a “személyiség” érzetét.

Miután a Google-n kívüli AI-szakértőkkel – köztük egyes amerikai kormányzatban dolgozó szakértőkkel – konzultált, a vállalat fizetett szabadságra küldte, mert állítólag megsértette a titoktartási szabályzatot. Lemoine szerint ezzel a lépéssel a Google gyakran az alkalmazottak elbocsátását készíti elő.

A Google szóvivője elmondta: “Az AI-közösségekben néhányan fontolgatják az érző vagy általános AI hosszú távú lehetőségét, de a mai társalgási modellek antropomorfizálásának nincs értelme, ugyanis azok nem éreznek” Hozzátette: “

Ezek a rendszerek utánozzák a mondatok millióiban előforduló üzenetváltások típusait, és bármilyen fantasztikus témát képesek feldolgozni – ha megkérdezzük, milyen érzés fagylalt dinoszaurusznak lenni, akkor képesek szöveget generálni arról, hogy milyen elolvadni és üvölteni.

Lemoine a hétvégén egy második Medium-bejegyzésben azt mondta, hogy a LaMDA, amely a múlt hétig kevéssé ismert projekt volt, “egy rendszer chatbotok létrehozására” és “egyfajta kaptár elme, amely az összes különböző chatbot, amelyeket létre képes hozni, aggregációja is egyben. Elmondta, hogy a Google nem mutatott valódi érdeklődést az általa épített robotok természetének megértése iránt, de egy hat hónapos időszak alatt több száz beszélgetés során úgy találta, hogy a LaMDA “hihetetlenül következetes a kommunikációjában azzal kapcsolatban, hogy mit akar, mit gondol, és milyen jogai vannak személyként”.

Számos szakértő, aki beszállt a vitába, “AI hype-nak” tartja az ügyet. Melanie Mitchell, a Mesterséges intelligencia: A Guide for Thinking Humans című könyvének szerzője a következőt írta Twitteren: “Már régóta tudjuk, hogy az emberek hajlamosak arra, hogy még a legfelszínesebb jelek esetén is antropomorfizáljanak. A Google mérnökei is emberek, és nem immunisak”. A harvardi Steven Pinker hozzátette, hogy Lemoine “nem érti a különbséget az érzékenység (vagyis szubjektivitás, tapasztalat), az intelligencia és az önismeret között”. Hozzátette: “

Nincs bizonyíték arra, hogy a nagy nyelvi modellek rendelkeznének bármelyikkel is ezek közül.

(Financial Times)

Neked Ajánljuk