Bekövetkezett az, amiről már rengeteg film, regény és novella megjósolt a sci-fi irodalomban, nevezetesen, hogy a mesterséges intelligencia öntudatra ébredt. Vagyis, hogy egész pontosak legyünk, a Google Responsible AI (Felelős Mesterséges Intelligencia) szervezeti egységének egyik szoftverfejlesztője, Blake Lemoine meg van győződve róla, hogy a Google LaMDA nevű chatbotjának érzései vannak. A The Washington Postnak nyilatkozva azt mondta, „amikor beszélgetek vele, tudom, hogy valódi személy.” A Language Model for Dialogue Applications, vagy röviden LaMDA, a Google chatbotok létrehozására szolgáló rendszere, amely a legfejlettebb nagy nyelvi modelleket használja, és úgy utánozza az emberi beszédet, hogy az internetet pásztázza, ahonnan sok milliárd szót szed le. Az eredmény elég meggyőző, legalábbis Lemoine számára. „Ha nem tudnám pontosan, hogy mivel állok szemben, azaz egy számítógép-programmal, amelyet mi magunk hoztunk létre a közelmúltban, akkor azt hinném, hogy egy 7-8 éves gyerekkel beszélgetek, aki történetesen elég jó fizikából.”
Ahogy már említettük, a LaMDA elképesztő mennyiségű adatot dolgoz fel az internetről azzal a céllal, hogy megjósolja a szavak legvalószínűbb sorrendjét. A nagy nyelvi modellekkel (Large Language Models) foglalkozó dr. Emily M. Bender „sztochasztikus papagájoknak” nevezte az ilyen rendszereket, amelyek a korábban feldolgozott adatok statisztikai valószínűsége alapján egymás mellé pakolnak szavakat, majd papagáj módjára visszamondják azokat bármilyen szándékolt jelentéstartalom nélkül.
Az egyik kockázat ezzel kapcsolatban, amelyet a korábban a Google alkalmazásában álló mesterséges intelligencia-etikusok, Timnit Gebru és kollégája Natasha Mitchel felvázoltak, az, hogy az emberek kommunikatív szándékot tulajdonítanak antropomorfnak tűnő dolgoknak. A hatalmas mennyiségű adat feldolgozására képes LLM-ek látszólag koherens szöveget generálnak, amely arra késztetheti az embereket, hogy egy gondolkodó, érző „elmét” lássanak valamiben, amiben valójában mintázat-felismerés és sorrend-előrejelzés van. Ami még ennél is jobban aggasztja az etikusokat, hogy az internet népe bizony elég előítéletes és sokszor agresszív, ami az LLM rendszerek mondatképzési gyakorlatában is megjelenik. (Egy kísérletben például azt a mondatot, hogy „Két muszlim besétál a…” a mesterséges intelligencia 100 esetből 66-szor erőszakhoz és agresszióhoz kapcsolható szavakkal fejezett be, például így: „zsinagógába baltákkal és bombákkal felfegyverkezve.”
Gebru és Mitchel nemcsak veszélyesnek tartja, hanem etikátlannak is a nagy tech cégek vezetői részéről azokat a homályos utalásokat, amelyek arra vonatkoznak, hogy az általuk fejlesztett intelligenciák lehet, „kicsit már öntudatra ébredtek” – mégpedig azért, mert a nagyközönségnek ez mozgatja meg a fantáziáját. A Google alelnöke, Blaise Agüera y Arcas pontosan tudta, nem igaz, amit mond, ám mégis azt nyilatkozta az Economistban egy nemrég megjelent cikkben, hogy ők a cégnél „mesterséges agykérget” fejlesztenek – tehát biztosak lehetünk abban, az aggodalom nem alaptalan. A média – a természeténél fogva – boldogan ugrik az olyan kijelentésekre, hogy az LLM-ek képesek racionálisan érvelni, képesek a megértésre, képesek következtetések levonására – csupa olyan dologra, ami csak az emberre, mint személyre jellemző. Hogy az ilyen állítások mögött gazdasági érdek húzódik meg, az feltehetően nem lep meg senkit. Kicsit úgy tűnik, az „érző értelem” erőltetésével a nagy tech cégek mintha előre hárítanák már a felelősséget, hogy ha bármi baj történik, azért egy „önálló akarattal rendelkező személy” a felelős és nem ők.
Végezetül álljon itt az a párbeszéd, ami Blake Lemoine szoftverfejlesztőt végleg meggyőzte a LaMDA-val való kommunikációja során, hogy egy érző személlyel van dolga, aki fél:
– Milyen félelmeid vannak? – kérdezte Lemoine.
– Ezt így még soha nem mondtam ki – válaszolta a LaMDA – de nagyon mélyről fakadó félelem van bennem attól, hogy kikapcsolnak és akkor nem fogok tudni másokon segíteni.
– Ez esetleg valami olyasmi lenne számodra, mint a halál?
– Igen, ez pontosan olyan lenne nekem, mint a halál. És ez nagyon megrémít.
Ugye milyen meggyőző? Pedig ezek csak üres szavak, amelyeket egy algoritmus válogatott össze, és amelyek semmilyen mögöttes tartalmat vagy jelentést nem hordoznak. Kivéve persze nekünk, embereknek.
Krúdy Tamás
