Humanoidní robot není hračka
Kolem humanoidních robotů dnes vzniká nebezpečný paradox. Čím více se stroj podobá člověku, tím více má veřejnost tendenci přisuzovat mu sociální nebo dokonce bezpečné vlastnosti. Jenže právě EU-OSHA[1] upozorňuje, že s rostoucí autonomií robotických systémů se mění vztah člověka a stroje z pouhého používání technologie na interakci s technologií, a že pro bezpečnost práce začínají být klíčové otázky důvěry, transparentnosti a designu interakce. Humanoid tedy může působit přátelsky, ale to samo o sobě neříká nic o jeho skutečné bezpečnosti. [2]
Právě proto je důležité vrátit debatu od virálních videí k dokumentaci, normám a výzkumným článkům. U platformy G1 se při bližším čtení ukazuje, že jde stále především o výzkumnou a vývojovou platformu, která vyžaduje řízené prostředí, odstup a opatrnost. To ostatně dobře souzní i s naším nedávným článkem o projektu SONIC, kde si můžete vyzkoušet ovládat robota ve webovém prohlížeči, včetně kritických scénářů. Projekt SONIC rozlišuje mezi simulací a bezpečným reálným nasazením a připomíná, že budoucí práce má teprve řešit formální bezpečnost, compliance a energetickou efektivitu pro delší provoz. [3]
Co říká dokumentace výrobců
Oficiální produktová stránka G1 říká několik věcí, které by se při veřejných ukázkách neměly ignorovat. Výrobce upozorňuje, že humanoid má složitou strukturu a extrémně silný výkon, uživatelé mají držet dostatečný bezpečný odstup, některé ukázkové funkce jsou stále vyvíjeny a testovány a samotné odvětví humanoidních robotů je podle firmy stále v rané fázi zkoumání. Na stejné stránce je G1 popsaný jako systém poháněný imitation a reinforcement learningem a jako součást světa kolem UnifoLM, tedy „Unified Robot Large Model“. Toto není software hotového spotřebního produktu pro volnou interakci s publikem. Jedná se o software rychle se vyvíjející experimentální platformy. [4]
Ještě ostřeji vyznívá oficiální disclaimer v e-shopu výrobce. Ten říká, že produkt není hračka, není vhodný pro osoby mladší 18 let, děti se jej nemají dotýkat a robot se nemá používat v situacích s kojenci, dětmi, těhotnými ženami, seniory, osobami se zdravotním postižením ani v hustě zalidněných prostorech s rozestupem menším než jeden metr. To je velmi důležitý bod pro veřejné akce. Pokud se někdo rozhodne pustit k zapnutému humanoidovi děti nebo dav, nejde o odvážnou popularizaci technologie, ale o jednání, které je v přímém rozporu s tím, co uvádí sám výrobce. [5]
Oficiální stránka s aplikací a manuály odkazuje na G1 User Manual, a odpovídající verze uživatelského manuálu je dostupná i ve spisu pro americké regulační podání. Ten je pro českou debatu mimořádně zajímavý. Na jedné straně říká, že G1 míří do segmentů výzkumu, vzdělávání a zábavy. Na straně druhé přidává velmi konkrétní varování. Robot se má držet v zorném poli, uživatel má udržovat bezpečný odstup, po zapnutí se ho nemá dotýkat, kolem robota má být volný prostor nebo ochranné lano, při delším stání má být zavěšen na ochranném rámu a uživatel musí vědět o chování nouzového brzdění i riziku pádu, skřípnutí a nestability. Manuál také doporučuje udržovat alespoň dvoumetrový odstup od překážek, složitého terénu, davů a vody. To všechno představuje aktuální seznam reálných fyzických hrozeb. [6]
Zajímavé je i srovnání s materiály od UBTECH. U jejich humanoida Walker Tienkung je na oficiální stránce výslovně uvedeno, že jde o full-size humanoid „designed for Academic Research, Education & Secondary Development“. To je v jistém smyslu poctivější formulace. Nejde o tvrzení, že humanoid je už dnes automaticky připravený na bezbariérový kontakt s širokou veřejností, ale o jasné zařazení do výzkumného a vývojového kontextu. [7]
Co ukazují relevantní zdroje na platformě G1
Když se podíváme na současnou literaturu, vyjde najevo, že komunita kolem G1 řeší hlavně mechanická a provozní rizika, nikoli jen cybersecurity. Už benchmark SPARK říká explicitně, že humanoidní roboti představují významná bezpečnostní rizika právě kvůli svým fyzickým schopnostem interagovat se složitým prostředím. Není náhoda, že SPARK vzniká jako toolbox pro bezpečné řízení humanoidů a že pilotní case studies běží právě na G1. [8]
Další výzkumný článek, Dexterous Safe Control for Humanoids in Cluttered Environments via Projected Safe Set Algorithm, ukazuje velmi konkrétní typ hrozby, mezi které patří nechtěné kolize při teleoperaci a manipulaci v těsném prostoru. Autoři na reálném G1 řeší jak srážky s okolními překážkami, tak self-collision, a výslovně zmiňují, že teleoperace nemusí odpovídat očekávání operátora kvůli chybám motion retargetingu, zpoždění a lidským chybám. To je přesně ten problém, který se ve veřejném prostoru často ztrácí. I když ovládá robota člověk, neznamená to automaticky předvídatelné a bezpečné chování. [9]
Paper End-to-End Humanoid Robot Safe and Comfortable Locomotion Policy připomíná další důležitou vrstvu. U full-size humanoida je kolizní riziko v rušných prostorech samo o sobě velké. Autoři proto oddělují bezpečnostní cíle od úlohových cílů, převádějí principy Control Barrier Functions do constrained reinforcement learning formulace a na fyzickém G1 testují i situaci, kdy se člověk k robotovi náhle přiblíží zezadu. Taková analýza je dobrým protipólem proti marketingové představě, že když robot umí chodit, umí i bezpečně sdílet prostor s lidmi. Neumí to automaticky, právě na tom se ještě aktivně pracuje. [10]
Velkou skupinou hrozeb jsou pády. HumanUP píše otevřeně, že humanoidi jsou k pádům náchylní, a zavádí safety metriky pro krouticí momenty a výchylky kloubů, protože přetížení vede k přehřívání a mechanickému poškození. Na to navazují SafeFall a VIGOR. SafeFall na G1 snižuje špičkové kontaktní síly o 68,3 %, špičkové kloubní momenty o 78,4 % a téměř eliminuje kolize zranitelných částí. VIGOR zase řeší bezpečnost pádu i na nerovném terénu a ve scénářích jako pád směrem ke schodům. Z praktického hlediska je to zásadní zpráva. Pád není výjimka, ale běžný režim selhání, který musí být bezpečnostně zvládnut. [11]
V kontaktu s člověkem se pak ukazuje význam řízení poddajnosti robotu. GentleHumanoid demonstruje na G1, že rigidní tracking policy mají vyšší kontaktní síly, zatímco režim poddajnosti s nastavitelnými silovými limity drží interakci ve stabilnějších a bezpečnějších mezích i při úlohách jako objímání se nebo asistence při vstávání ze židle. SoftMimic pak jde ještě dál a výslovně říká, že nepoddajné řízení celého těla vede při neočekávaném kontaktu k nebezpečnému chování. Toto je mimochodem velmi důležité i pro veřejné demo. Fyzický kontakt s humanoidem není jen PR moment, ale technická disciplína, která předpokládá měřené síly, poddajnost a dobře definované limity. [12]
Návrhy norem a evropský rámec
Aktuálně se pracuje na návrhu dokumentu ISO/WD 25785–1, jehož plný název je „Safety requirements for dynamically stable industrial mobile robots,“ tedy bezpečnostní požadavky pro průmyslové mobilní roboty s aktivně řízenou stabilitou. To je pro debatu o humanoidech důležité, protože norma výslovně počítá s bipedy, quadrupedy i dalšími self-balancing roboty a uznává, že ztráta energie může znamenat ztrátu stability. Zároveň ale říká, že se týká průmyslového prostředí, kde je přístup veřejnosti vyloučen nebo omezen, a výslovně vylučuje neindustriální prostředí. ISO/WD 25785–1 může být do budoucna velmi relevantní pro humanoidní roboty do továren, ale není vhodným alibi pro volné veřejné ukázky v showroomech, školách nebo na akcích s dětmi. [14]
Pro veřejně přístupné nebo profesionálně-komerční služby je mnohem důležitější ISO/FDIS 13482. Ten je ve fázi finálního draftu a má nahradit ISO 13482:2014. Podle veřejného abstraktu nová verze pokrývá servisní roboty v osobních, profesionálních či komerčních aplikacích, bere v úvahu fyzický kontakt člověk – robot a přidává i další informace o funkční bezpečnosti. Stávající ISO 13482:2014 přitom už dnes řeší inherentně bezpečný design, ochranná opatření a informace pro fyzický kontakt člověka a robota. Pokud tedy hledáte budoucí normativní oporu pro bezpečnější použití humanoidů mimo přísně uzavřenou tovární buňku, relevantnější stopa vede právě sem. [15]
Na úrovni Evropské unie[16] je základ ještě přímočařejší. Evropská komise uvádí, že stroje uváděné na trh před 20. lednem 2027 mají splňovat Machinery Directive 2006/42/EC a poté její roli převezme Machinery Regulation 2023/1230. CE značka je přitom prohlášením výrobce, že produkt splňuje všechny příslušné právní požadavky, a u finálního výrobku uváděného na trh musí existovat EU Declaration of Conformity. Jako metodický základ posouzení rizik zůstává v evropském rámci klíčová EN ISO 12100. U průmyslových robotů na ni navazují ISO 10218–1 a ISO 10218–2, a pro kolaborativní aplikace slouží ISO/TS 15066, která výslovně řeší bezpečnostní monitorované zastavení, ruční navádění, monitorování rychlosti a separační vzdálenosti a omezení výkonu a sil. Novější ISO/PAS 5672 přidává metody měření sil a tlaků při kontaktu člověk – robot, zatímco ISO 31101:2023 řeší safety management systémů služeb poskytovaných roboty v nestrukturovaných lidských prostorech. To je přesně typ evropských a mezinárodních zdrojů, které by měl každý provozovatel veřejných demo scén znát dřív, než pustí publikum k humanoidovi na dosah ruky. [17]
Do hry navíc vstupuje i širší regulatorní logika kolem AI. European Commission[18] k AI Actu vysvětluje, že high-risk klasifikace závisí na účelu použití a na tom, zda je AI zakomponována do produktu jako bezpečnostní komponenta. U humanoidů řízených učenými policy to automaticky neznamená zákaz nebo nemožnost provozu, ale znamená to vyšší nároky na dokumentovanou funkci, limity použití a návaznost AI řízení na klasickou bezpečnostní logiku. [19]
Má G1 veřejně doložené CE?
Na oficiální stránce G1, v oficiálním disclaimeru ani na oficiální stránce s manuály jsme nenašli veřejně vystavenou EU Declaration of Conformity pro humanoidního robota G1. Oficiální stránka s manuály pouze odkazuje na G1 User Manual. V odpovídající verzi manuálu dostupné přes regulační spis je plnohodnotné FCC prohlášení pro robota a RF upozornění, zatímco jediná zřetelná zmínka o CE se týká doporučeného 5V/2A USB chargeru pro dálkový ovladač, který má splňovat FCC/CE standard. To není totéž jako veřejně doložená CE shoda celého humanoidního robota. [20]
Současně ale existují unijní distributoři, kteří G1 prodávají s tvrzením o CE a uvádějí importéra či odpovědnou osobu v EU. To znamená, že veřejná stopa není nulová, ale je neúplná a z hlediska due diligence není dostatečná. Z veřejně dostupných oficiálních materiálů výrobce jsme nyní nedokázali ověřit plnohodnotnou EU DoC pro celý G1, a pokud má být robot používán na veřejných akcích v Evropě, je rozumné požadovat skutečnou Declaration of Conformity, seznam použitých předpisů a norem a dokumentované posouzení rizik, ne jen marketingové ujištění nebo údaj distributora v e-shopu. [21]
Proč G1 není totéž co kolaborativní robot
Podle ISO/TS 15066 není cobot kategorie stroje, ale způsob provozu, ve kterém člověk a robot sdílejí pracovní prostor. Bezpečnost takových aplikací stojí na konkrétních funkcích, měřitelných limitech a na analýze rizik. Konkrétně se jedná o monitorované zastavení, ruční navádění, omezení výkonu a sil, maximální rychlosti, minimální separační vzdálenosti, práce s bolestivostními prahy a minimalizace ostrých hran. Evropské případové studie zpracované pro EU-OSHA navíc ukazují, že coboty se v praxi běžně zavádějí až po analýze rizik, testech bezpečnosti, získání schválení a školení operátorů. Bezpečnost cobota je tedy výsledek standardizované integrace. [22]
U G1 je architektura jiná. Oficiální web G1 mluví o imitation & reinforcement learning, UnifoLM a „robot world model.“ Derivát G1-D je přímo prodáván jako end-to-end platforma pro sběr dat, trénink a inference modelů a hlubokou integraci s open-source robotickými modely. I článek na ICHR o SONIC popisuje řízení humanoida jako humanoidní behavior foundation model a zároveň výslovně říká, že simulace není totéž co bezpečné nasazení v reálném světě. To je přesně důvod, proč nelze na dnešní humanoidy mechanicky přenést důvěru, kterou si průmysl vytvořil u konvenčně řízených robotických buněk. U fixně definovaného průmyslového úkolu lze ověřovat konkrétní trajektorie a bezpečnostní funkce, zatímco u učení, policy generalizace a multimodálních vstupů se bezpečnost posouvá k runtime omezením, guard layerům, validaci stavových přechodů a provozním procedurám. Nejde o to, že by foundation model byl automaticky nebezpečný. Jde o to, že jeho chování se ověřuje podstatně hůř než známý a neměnný program. [23]
Prakticky řečeno má kolaborativní robot v dobře navržené aplikaci bezpečnostní logiku, která byla od začátku navržena pro sdílený pracovní prostor. Dnešní humanoid G1 je naproti tomu podle dokumentace výrobce i literatury platforma, u níž se teprve aktivně dobudovávají vrstvy pro bezpečnou navigaci, bezpečný kontakt, bezpečné vstávání po pádu a bezpečné filtrování teleoperačních nebo učených příkazů. Záměna těchto dvou světů je technická chyba. [24]
Co z toho plyne pro veřejné ukázky v Česku
Současné humanoidní platformy je potřeba prezentovat jako výzkumné a vývojové systémy, ne jako bezpečné atrakce pro spontánní kontakt s veřejností. Pokud sám výrobce říká, že robot není hračka, že děti se ho nemají dotýkat, že se nemá používat v hustém prostoru a že po zapnutí se na něj nemá sahat, pak je pouštění dětí k robotu nebo dovolování dotyku při veřejném demo provozu technicky i reputačně špatný nápad. [25]
Z dokumentace, výzkumných článků a evropské bezpečnostní logiky plyne minimální standard odpovědného provozu. Humanoid by měl být při veřejné ukázce v přímé vizuální kontrole operátora, v otevřeném a přehledném prostoru, mimo dosah dětí a bez možnosti dotyku publika. Provoz má být omezen na předem ověřené sekvence s omezenou rychlostí a rozsahem pohybů, s dostupným nouzovým zastavením, jasně definovaným crowd managementem a psaným posouzením rizik. Pokud je nad robotem vrstva textového, multimodálního nebo foundation-model řízení, pak by veřejné demo mělo běžet pouze přes omezený sandbox příkazů a dodatečnou safety vrstvu, ne jako otevřený experiment s publikem v dosahu. To není přehnaná opatrnost, ale přímý důsledek toho, co už dnes píše výrobce i výzkumná komunita. [26]
Otevřené otázky a limity
Část nejzajímavějších bezpečnostních prací na G1 je zatím ve formě arXiv preprintů, takže velmi dobře ukazují, kde komunita vidí hlavní rizika, ale samy o sobě nenahrazují certifikaci ani regulatorní posouzení konkrétní instalace. Právě proto je dnes bezpečnější a poctivější mluvit o G1 jako o silné výzkumné platformě s reálnými riziky mechanického kontaktu, pádu a nepředvídatelnosti, ne jako o hotovém kolaborativním humanoidovi pro volný provoz mezi lidmi. [27]
Zdroje
Doktorand v oboru informatiky na Fakultě elektrotechnické ČVUT v Praze a výzkumný pracovník i team leader v RICAIP Testbed Prague na CIIRC ČVUT. Navazuje na magisterské studium v oboru Průmysl 4.0 na Fakultě strojní ČVUT. Ve své práci se zaměřuje na virtuální uvádění do provozu, digitální dvojčata, průmyslový metaverse a přístupy sim-to-real, v jejichž rámci propojuje akademický výzkum s konkrétními průmyslovými aplikacemi. Významnou součástí jeho odborného zaměření je také využití platformy NVIDIA Omniverse pro návrh, simulaci a validaci komplexních průmyslových scénářů. V rámci aktivit ICHR se věnuje rozvoji partnerství a podpoře spolupráce mezi výzkumnou sférou a průmyslem.