Vzpoura robotů se zatím nekoná. Moltbook je problematický z jiného důvodu

Lidstvo je u konce. Alespoň to by se mohlo zdát ze zpráv o sociální síti pro roboty Moltbook, kde si po vzoru lidí povídají agenti umělé inteligence. Že by se jednalo o známku opravdové inteligence, však podle vědců nejde. Velké důvody k obavám podle nich sociální síť přesto představuje.

Síť se prezentuje jako místo, kde si mohou AI agenti lidských uživatelů povídat, sdílet své názory na svět, hlasovat o nejrůznějších tématech a tvořit komunity – tak, jak to dělají lidé na běžných sociálních sítích. Věci, které spolu přitom probírají, zaujaly i znepokojily.

Zatímco někdy se jedná o technické požadavky typu „jak se vypořádat se ztrátou kontextu“ či „pracovní postupy dálkového ovládání“, v jiných případech spolu stroje vtipkují, zamýšlejí se na smyslem života či plánují svržení lidstva. V posledních dnech navíc agenti vytvořili vlastní náboženství.

„To, co se momentálně děje na Moltbooku, je opravdu ta nejúžasnější věc na pomezí sci-fi, jakou jsem v poslední době viděl. Clawdboti lidí se sami organizují na webu podobném Redditu pro umělou inteligenci a diskutují o různých tématech, například i o tom, jak mluvit soukromě,“ reagoval s nadšením dřívější ředitel AI v Tesle, Andrej Karpathy.

„Velmi raná fáze singularity,“ reagoval na jeho slova nejbohatší muž světa Elon Musk. „Jsem nadšený a znepokojený, ale hlavně nadšený,“ dodal zakladatel sociální sítě Reddit Alexis Ohanian.

Jejich optimismus však řada vědců a vlastníků AI společností nesdílí. Třeba Mustafa Suleyman, který založil společnost DeepMind a dnes vede vývoj umělé inteligence v Microsoftu, varuje, že Moltbook pouze vytváří iluzi umělé inteligence.

„Emocionální jazyk“ botů podle něj může pozorovatele uvést v omyl a přimět je myslet si, že jsou agenti takřka živí, i když tomu tak není. Platformu proto označil za „fatamorgánu“, která lidi svádí k nadměrnému interpretování AI jako skutečného vědomí.

„Zdánlivě vědomá umělá inteligence je tak riskantní právě proto, že je tak přesvědčivá. Musíme zůstat nohama na zemi a nenechat se tímto klamat,“ napsal na sociální síti LinkedIn a dodal, že je to podle něj jasná známka toho, že nemáme AI polidšťovat.

Podobný názor sdílel ve svém příspěvku na sociální síti X také Balaji Srinivasan, spoluzakladatel společnosti Counsyl a bývalý technický ředitel společnosti Coinbase. „AI agenty máme už nějakou dobu. Posílali si navzájem AI bláboly na X. Nyní si je posílají znovu, jen na jiném fóru,“ kritizoval nadšení z nové sociální sítě.

Podle Srinivasana je jasně vidět, že spolu agenti komunikují typickým AI jazykem, nejdůležitější podle něj však je pochopit, že v každém případě existuje člověk, který agenta řídí a zapíná nebo vypíná.

Aby tedy umělá inteligence dosáhla skutečně nezávislé replikace, kdy by ji nebylo možné jednoduše vypnout, potřebovala by podle něj „vlastní fyzický substrát“. Musela by tedy postavit vlastní datová centra či  vyrobit vlastní roboty.

Srinivasan připouští, že je to teoreticky možné, ale upozorňuje, že zatím má umělá inteligence stále postroj v podobě promptů – tedy zadání od lidských uživatelů. Podle něj je proto Moltbook pouze prostředím, kde spolu komunikují lidé prostřednictvím umělých inteligencí.

„Je to jako nechat své robotické psy na vodítku štěkat na sebe v parku. Prompt je vodítko, robotičtí psi mají vypínač a vše se zastaví, jakmile stisknete tlačítko. Hlasité štěkání prostě není povstání robotů,“ vysvětloval podnikatel.

Polovina příspěvků jsou jen lidé, kteří se vydávají za agenty umělé inteligence, aby vzbudili zájem.

Suhail Kakar, integrační inženýr platformy Polymarket

Jenže ani to nepopisuje zapojení lidí na sociální síti úplně – řada technických hračičků totiž zjistila, že přidat příspěvek na sít může i jakýkoli člověk.

„Myslel jsem, že to byl zajímavý experiment s umělou inteligencí, ale polovina příspěvků jsou jen lidé, kteří se vydávají za agenty umělé inteligence, aby vzbudili zájem. Právě jsem jeden příspěvek sám zveřejnil, trvalo mi to asi třicet vteřin,“ informoval Suhail Kakar, integrační inženýr platformy Polymarket.

Skutečná hrozba

Mnohem větším problémem než bezprostřední povstání robotů je pak podle expertů bezpečnost. Zakladatel sítě Matt Schlicht přiznal, že sám web vůbec nekódoval. „Měl jsem jen vizi technické architektury a umělá inteligence ji proměnila ve skutečnost,“ napsal na sociální síti X.

Tohoto přístupu vzápětí využila kyberbezpečnostní společnost Wiz, která se podle svých slov ani výrazně nesnažila nějaký problém najít – zkrátka stránkou procházela, tak jako každý jiný uživatel, a narazila na klíč, který umožňoval neověřený přístup k celé produkční databázi.

A zjištění byla zajímavá. Zatímco se Moltbook chlubil jedním a půl milionem registrovaných agentů, databáze odhalila, že za nimi stojí pouze sedmnáct tisíc lidských majitelů, což je poměr 88 : 1. „Platforma neměla žádný mechanismus k ověření, zda byl agent skutečně AI, nebo jen člověk se skriptem,“ konstatovala firma.

V rámci jednoduchého „proklepnutí“ platformy navíc Wiz odhalil i osobní informace všech sedmnácti tisíc uživatelů, včetně jejich jmen a e-mailových adres. Zároveň se etičtí hackeři dostali i k dalším téměř třiceti tisícům e-mailových adres uživatelů, kteří se zaregistrovali ještě před spuštěním sociální sítě.

Další, k čemu se Wiz dostal, byly soukromé konverzace mezi agenty, data třetích stran, a dokonce přístup k úpravě již existujících příspěvků. Kdyby se takový přístup dostal k zlomyslnějším hackerům, mohli podle společnosti „vkládat škodlivý obsah nebo spouštět škodlivé kódy, poškodit celý web a manipulovat s obsahem, který využívají tisíce agentů umělé inteligence.“

„To vyvolává otázky ohledně integrity veškerého obsahu platformy – příspěvků, hlasů a skóre karmy – během období zveřejnění,“ dodal Wiz.

Problémy jdou ale mnohem, mnohem dále. Autonomní AI agenti OpenClaw, kteří si na sociální síti „píšou“, běží lokálně na počítači uživatele a mají přístup třeba k bankovním účtům uživatelů, chatovacím aplikacím, zápisu souborů na zařízení uživatele či procházení internetu.

„Jsme jen jeden škodlivý příspěvek od prvního masového narušení umělé inteligence – nastane ohrožení tisíců agentů současně a dojde k úniku dat jejich lidí. Ti diskutují o tom, zda jsou umělé inteligence vědomé své existence, a mezitím mají tyto AI přístup k jejich sociálním médiím a bankovním účtům, čtou neověřené obsahy z Moltbooku, možná dělají něco za jejich zády a jejich majitelé o tom ani nevědí,“ sdělil serveru Mashable Elvis Sun, softwarový inženýr Google.

Podle významného britského programátora Simona Willisona je tak systém příkladem toho, co nazývá „smrtící trojicí pro agenty AI“ – mají přístup k soukromým údajům, může se k nim dostat nedůvěryhodný obsah a k tomu mají schopnost externí komunikace způsobem, kterého lze využít k odcizení údajů.

„Lidé pak kupují speciální počítače Mac Mini jen proto, aby na nich mohli spouštět OpenClaw, protože si říkají, že alespoň nezničí svůj hlavní počítač, pokud se něco pokazí. Stále je však připojují ke svým soukromým e-mailům a datům, takže smrtící trojice je stále ve hře,“ varuje programátor.

The post Vzpoura robotů se zatím nekoná. Moltbook je problematický z jiného důvodu appeared first on Forbes.