Potisk trička schová člověka před detektorem osob, policejní kamery umělec nezkoušel

Berlínský umělec Simon Weckert zveřejnil projekt Digital Camouflage: tričko potištěné vzorem, který má neuronovou síť pro detekci osob přinutit, aby nositele přehlédla. Na doprovodné ukázce obtáhne detektor rámečkem každého kolemjdoucího a připíše mu popisek „person“ – všem kromě člověka v tom tričku. Rozhovor s autorem vyšel 25. srpna v magazínu Dezeen.

Stroj nehledá člověka, hledá statistiku

„Systémy AI se skládají z více vrstev a nikdy se nenaučily, co je to člověk. Naučily se, jak lidé vypadají na milionech trénovacích obrázků,“ řekl Weckert Dezeenu; citace je přeložená. V raných vrstvách jde podle něj o hrany, kontrasty a přechody textur, hlouběji v síti už o části: silueta hlavy a ramen, poměr končetin k trupu, souvislý obrys těla proti pozadí. Člověk je pro stroj balíček vizuální statistiky, a přesně v tom je jeho slabina.

Vzor proto nevznikl od stolu. Weckert popisuje, že ho hledal ve smyčce se samotným detektorem: vygeneruje kandidáta, ukáže ho detektoru, změří, jak jistě v obraze pořád nachází člověka, upraví, opakuje – dokud jistota nespadne. Slepá místa stroje totiž nejsou pro člověka intuitivní. Navrhnout takový vzor okem nejde; co síť nevidí, řekne jen ta síť.

Nášivka přestane fungovat, když se otočíte

V technickém popisu projektu stojí tři odborné práce a první z nich vysvětluje, proč je souvislý potisk něco jiného než nášivka. Tým kolem Zhanhaa Hu ukázal v článku Adversarial Texture for Fooling Person Detectors in the Physical World, přijatém na konferenci CVPR 2022, že tištěné záplaty ztrácejí účinek, jakmile se změní úhel, pod kterým se kamera dívá. Autoři proto navrhli adversariální texturu: vzor s opakující se strukturou, který pokryje oděv libovolného tvaru, takže na něm není hrana, za kterou by šlo zajet. Ušili z ní trička, sukně i šaty a vyzkoušeli je ve fyzickém světě.

Kolik toho laboratoř naměřila

Novější práce jde dál a je nepříjemná pro obrany, které mezitím vznikly. V preprintu A Single Set of Adversarial Clothes Breaks Multiple Defense Methods in the Physical World z října 2025 autoři píšou, že obrany navržené proti záplatám selhávají už tehdy, když se záplata prostě zvětší. Jediná sada oblečení dosáhla proti nechráněnému detektoru Faster R-CNN úspěšnosti útoku 96,06 % a proti devíti chráněným modelům přes 64,84 % – měřeno ve fyzickém světě, ne jen na obrázcích v počítači.

Třetí citovaná práce, Physically Realistic Sequence-Level Adversarial Clothing for Robust Human-Detection Evasion, řeší to, co při chůzi rozbíjí všechno ostatní: látka se hýbe. Autoři neoptimalizují potisk na jednotlivé snímky, ale na celé video, počítají s pohybem, měnícím se úhlem i osvětlením a barvy zamykají profilem ICC, aby je tiskárna vůbec zvládla vytisknout. Hotové kusy pak vyrobili sublimačním tiskem. Dvě z těch tří prací zatím prošly jen na arXiv, recenzovaná je ta Huova.

Co se v Berlíně teprve rozjíždí

Kamera, na kterou vzor míří, na Kottbusser Tor zatím nestojí. Podle netzpolitik.org uzavřela berlínská policie výběrové řízení 26. května 2026, přihlásilo se pět firem a jméno vítěze si úřad zatím nechává pro sebe. První kamera se skenerem chování měla přibýt do konce třetího čtvrtletí. Agentura DPA psala začátkem srpna o srpnovém startu, jenže vnitřní správa se pro rbb24 na měsíc vázat nechtěla a mluvila dál jen o třetím čtvrtletí.

Obličeje systém rozpoznávat nemá. Má hledat nápadné vzorce chování a obsluze ukázat jen panáčky z čar; k biometrickému ztotožnění podle policie nedojde. Poplach má spustit i ležící člověk, a na náměstí, kde se zdržuje hodně lidí bez domova, to dopadne hlavně na ně. Matthias Marx z Chaos Computer Clubu na červnovém jednání výboru pro vnitřní věci zpochybnil, jestli se ti panáčci nedají zpětně zosobnit, třeba podle chůze nebo podle časových značek videa. Jak často podobné systémy spustí planý poplach, úřad nezveřejnil. Na techniku pro kriminalitou zatížená místa počítá rozpočet mezi lety 2026 a 2030 s 2,47 milionu eur na pořízení a 2,13 milionu na provoz.

Co ukázka dokládá a co ne

Weckert na svém webu píše rovnou, že demonstrace běží na obecném open-source detektoru YOLO a že o žádném konkrétním státním systému jeho práce netvrdí nic – právě proto, že takový systém nikdo zvenčí vyzkoušet nemůže. Berlínský skener chování je navíc jiná úloha než prosté „najdi v obraze člověka“: hodnotí, co se v záběru děje. Jestli na něj potisk zabere, se z videa nepozná.

Měřitelná zůstává ta druhá půlka. Adversariální oblečení v laboratoři funguje a obrany proti němu zaostávají: devět chráněných modelů propustilo útok ve víc než dvou třetinách pokusů. A protože poslední z citovaných prací už neřeší, jestli vzor sítě zmate, ale jak ho dostat na skutečnou látku, přestává to být úloha jen pro laboratoř.

Zdroje

• Simon Weckert: Digital Camouflage – popis projektu, použitý detektor a seznam odborných prací
• Dezeen, 25. srpna 2026 – rozhovor s autorem
• netzpolitik.org, 3. července 2026 – výběrové řízení a plán nasazení
• rbb24, 4. srpna 2026 – vyjádření vnitřní správy, kritika Chaos Computer Clubu, náklady