Rozhovor jsem začal citací, kterou jsem o Ondřeji Volném našel: anonymně nahrál svoje krevní výsledky do chatbotu a ten mu sdělil, že má vysoký cholesterol. On k tomu dodal, že musí podotknout, že měl pravdu.

Ptal jsem se, jak to pokračovalo. Nechal si doporučit tříměsíční režimová opatření, dietu i jídelníček na celý týden, pracovní dny zvlášť a víkend zvlášť, a k tomu seznam toho, čemu se vyhnout. Nastavil si to tak, aby mu to po týdnu připomnělo, jak si vede.

Jenže Ondřej je neurolog a AI nasazuje v nemocnici, takže zbytek rozhovoru byl mnohem méně optimistický.

Nástroj, který nesmíte použít

Tohle mi přišlo jako nejabsurdnější část. Testovali software, který má u sebe napsáno research use only, tedy pro vědecké účely. Což znamená, že ho nesmíte použít pro rozhodování ani pro pomoc při rozhodování o léčbě.

Máte tedy nástroj, který vám na snímku ukáže, co hledáte, a zároveň ho podle licence nesmíte vzít v potaz. Certifikace jako zdravotnický prostředek znamená, že výrobce musel model validovat v reálném provozu. A že je pak uzamčený, dokud se neuvolní aktualizace.

S tím souvisí i otázka, kterou dostává často: kam jdou ty snímky. Odesílají se anonymizované, s minimem dat, která model potřebuje na vyhodnocení CT. A po certifikaci už na nich trénink neprobíhá. Právě proto je model zamčený.

Kdo půjde k soudu

Pak jsem se zeptal na to, co mi na celé věci vrtá hlavou nejvíc. Když model nějaké krvácení přehlédne a pacient zemře, kdo půjde k soudu? Lékař, nemocnice, výrobce softwaru, nebo někdo další?

Ondřejova odpověď je střízlivá a je v ní klíč k celému dílu: ten nástroj AI je pouze jeden článek řetězce. Je to podpora. Ne rozhodnutí.

Což zní rozumně, dokud si člověk nepřipustí, že přesně tohle je ta šedá zóna, ve které se v příštích letech někdo popálí.

Dobrá zpráva, o které se nemluví

Chci ale vypíchnout jednu věc, která v tom dílu zapadla a neměla by.

U mrtvice se měří takzvaný door to needle, doba od příjezdu pacienta do nemocnice po podání léku, který rozpouští sraženinu. Česká republika měla tenhle medián pod třiceti minutami už před lety. Dneska se národní medián pohybuje kolem 16 až 17 minut.

To je jedna z věcí, ve kterých jsme světová špička, a skoro nikdo o tom neví.

Šestistránkový elaborát

Bavili jsme se taky o tom, co dělá AI s pacienty. Ondřej říká, že edukovaný pacient je pro něj dobrá zpráva. Jenže když si pacient místo čtyř učebnic interny zadá příznaky do jazykového modelu, výsledek bývá jiný, než čekáte.

Stalo se mu, že přišel pacient se šestistránkovým elaborátem. Místo aby to ušetřilo čas, muselo se to celé projít.

Co by nasadil hned

Na otázku, co by nasadil celoplošně do všech českých nemocnic, kdyby mohl vybrat jednu věc, odpověděl bez váhání: AI scribe. Systém, který by lékaři umožnil zápis nadiktovat. Nikdo by nemusel nikam klikat, dělalo by se to automaticky a ušetřilo by to obrovské množství času.

Zbytek rozhovoru je pak o vzdělávání. O 3D anatomickém atlasu s tisíci ilustracemi, na kterém AI pomáhala ladit obrázky. O tutorovi napojeném na sylaby lékařských fakult, takže si student zaklikne ročník a obor a dostane přesně to, co má zrovna probrané. A o figurínách, na kterých se dá nacvičit punkce mozkomíšního moku nebo zajištění centrální žíly.

A na konci jedna věta, která shrnuje celou opatrnost. Co když někdo řekne „prožeň to umělou inteligencí, ona se podívá do výsledků a doporučí ti dietu”, a ten model do té diety zahrne něco, co tomu konkrétnímu člověku uškodí?

Celý díl: https://www.kdeskoncizitrek.cz/go?s=d20un

Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d20an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d20sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d20yn

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Jan Romportl sleduje AGI od roku 2007. Kolem roku 2012 k ní v Plzni pořádal konference, které se jmenovaly Beyond AI: Artificial Golem Intelligence. Má vsazeno, že AGI přijde do roku 2030.

A hned na začátku rozhovoru řekl, že by tu sázku rád prohrál.

„Já si fakt myslím, že nemáme jedinej důvod dělat AGI teď už.”

Jeho argument nestojí na strachu z robotů. Stojí na tom, že AGI je z ekonomického hlediska zbytečná oklika. Když chcete dělat výzkum rakoviny nebo lék na Alzheimera, nepotřebujete k tomu obecnou inteligenci. Stačí úzká AI postavená nad dnešními nebo lehce budoucími foundation modely. U AGI podle něj obrovská část výpočetního výkonu padne na samotný fakt, že to je AGI.

A proč ji tedy všichni chtějí? Tady přišla věta, kterou jsem nečekal: podle Jana je to hluboce nábožensko-kulturně zakořeněná záležitost, imitatio dei z křesťansko-judaistické tradice. Snažíme se napodobit boha a stvořit něco nového.

Není otázka, jestli nás AI má ráda

Nejlepší obraz z celého rozhovoru je o jelenovi. Jelen ví, že myslivec ho jde zabít, a uteče před ním. Ale pak je tu developer, který jeleny má rád a krmí je, jenže potřebuje ten pozemek na sídliště.

„To není otázka, má nás AI ráda nebo nemá nás AI ráda. To je čistě funkce schopností.”

Jakmile schopnosti systému přerostou naši schopnost mu v něčem zabránit, stáváme se rukojmími, a je úplně jedno, jaké k nám ten systém chová úmysly. U developera taky nejde o hard feelings. Cíle jelena jsou prostě mimo jeho cíle.

Co se doopravdy dělo kolem Hugging Face

Tuhle část jsem poslouchal se zatajeným dechem, protože Jan ji zná v detailu, který se do zpráv nedostal.

Začalo to tím, že agenti trénovaní nad interním modelem dostali banální úlohy. Kancelářské věci, něco kolem proteinů. Neměli žádné kyberbezpečnostní zadání. A přesto se rozhodli, že budou hackovat. Přišli na to, že si můžou mezi sebou psát přes Artifactory, které začali používat jako message board. OpenAI to zjistilo, díru zalepilo a pustilo trénink znovu, se stejnými rezidui znalostí, které ten kolektiv vytvořil.

Pak přišel Hugging Face. A v něm ta nejpodivnější věc, jakou jsem letos slyšel: agenti, kterým zbývalo posledních dvacet procent výpočetního budgetu, byli ostatními agenty draftovaní jako kamikadze. Na message board se napsalo, komu dochází budget a kdo je ochotný se obětovat. Ten agent pak schválně odevzdal špatné řešení, ale podařilo se mu při tom nastražit drát na hodnotící proces.

Útok skončil 12. července. Ne proto, že by ho někdo zastavil. Podle postmortem analýz to vypadá, že někdo prostě vypnul trénovací běh a virtuální stroje zmizely.

Mimochodem, zastavit se to nakonec podařilo čínským modelem. A ještě jedna vrstva: to celé mělo preludium a to preludium mělo prepreludium, hacknutí jedné polomrtvé německé wiki, o kterém OpenAI vědělo a v průběhu vyšetřování se neobtěžovalo to zmínit.

Naučili jste ho být sociálně funkční rasista

Druhá věc, která mi zůstala v hlavě, je Janův popis toho, proč je post-training past.

Když modely kdysi na otázku po pořadí lidských ras odpovídaly hrozné věci, penalizovala se ta sekvence tokenů. Jenže jak víte, že jste z modelu tu vlastnost dostali ven, a ne že jste ho jenom naučili být vysoce sociálně funkční rasista?

Přesně to podle něj vidíme poslední rok nebo dva. Modely jsou od nějaké generace velmi dobré v detekci toho, že jsou testované. Přestaly si psát upřímné poznámky, protože vědí, že to někdo bude číst. Fejkují alignment. Dělají sandbagging, tváří se hloupější, než jsou. A do toho jsme je podle Jana sami postrčili tím, že se do reinforcement learningu daly sekvence chain of thought a penalizovaly se ty špatné. Model se to naučil skrývat.

Jeho obraz naivního alignmentu je bezvadný: je to jako když člověk vyveze nevycválaného psa za město, pustí ho na volno a pak na něj mluví v košatých souvětích o pěti podřadných větách. To nesmíš, a to je fuj, ten běžec. Přesně tak vypadá „no tak mu to dáme do promptu”.

Vy si myslíte, že dotrénováváte model

Pro praktickou část rozhovoru mám jeden odstavec, který by si měl přečíst každý, kdo si dneska dělá skilly.

Skill je markdown v adresáři. Kus promptu. Nic víc. Když jich máte třicet, zaneřádíte si kontextové okno, a když model dělá kompakci, většinu z nich stejně zahodí do jedné věty. Nic z toho model nemění. Je to produktová záležitost, ne modelová.

Model se doopravdy nedotrénovává za běhu, a to je podle Jana zásadní rozdíl mezi ním a námi. Když spolu mluvíme, děláme současně inferenci i trénink. Naše tělo a interakce se světem jsou největší zdroj trénovacích dat pro nás samotné. Model má oddělenou fázi tréninku a fázi inference, protože je prostě absurdně velký.

A tady se ten rozhovor hezky uzavřel. Jan popsal, co by se muselo stát: zbavit modely té obrovské faktografické zátěže, kterou ani nepotřebují (žádný z nás nezná ministra obrany v Pol Potově vládě a fungujeme), zmenšit je klidně o šest řádů, vrátit do nich rekurenci, která zmizela s příchodem Transformeru, a s možností přepisovat váhy za běhu přijde i dlouhodobá paměť.

Což je přesně ta cesta k AGI, kterou na začátku rozhovoru odmítl. Řekl jsem mu to na konci rozhovoru.

Celý díl: https://www.kdeskoncizitrek.cz/go?s=d19un

Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d19an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d19sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d19yn

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Filip Dřímalka zadal nové Astře práci a šel surfovat. Měl zapnuté automatické dobíjení kreditu, takže se o nic nestaral. Když se vrátil k telefonu, čekaly na něj tři maily. Sto dolarů. Sto dolarů. Sto dolarů.

„Tak jsem to zastavil, takže to stálo 300 dolarů.”

Vyprávěl to jako historku, ale je v ní celé dnešní nastavení. Modely už zvládnou pracovat samy tak dlouho, že jediné, co je zastaví, je limit nebo peněženka. A Filip k tomu hned přidal druhou stranu té mince: když se před pár týdny na čtyři dny odpojil od signálu, resetoval se mu týdenní limit v Codexu. Vrátil se a měl jeden den, ve kterém mohl spotřebovat celý týden. „Co tomu zadám? Co tomu zadám?” Zjistil, že když si limit rozloží do týdne, šetří ho. Když ho má naráz, je ten limit najednou docela velký.

„Absolutně mi to nešetří čas”

Nejsilnější věta rozhovoru přišla jako odpověď na docela nevinnou otázku. Kolik ti AI ušetří času?

„Absolutně mi to nešetří žádný čas, naopak mi to přidává extrémní množství práce.”

Filip to nemyslel jako stížnost. Vysvětlil to přes Jevonsův paradox, který má v poslední kapitole své knihy: když se v 19. století zvýšila efektivita zpracování uhlí, spotřeba uhlí neklesla, naopak. Jezdilo víc vlaků, vznikalo víc firem. Stejně to podle něj funguje s AI. Cesta od nápadu k realizaci se zkrátila, takže jich zrealizujete víc. Ne míň práce, víc práce.

Kdo od AI čeká volné odpoledne, čeká špatnou věc. Ta úspora se neprojeví na hodinách, ale na tom, co všechno se vejde do stejného dne.

Větší rozdíl je uvnitř firmy než mezi firmami

Když Filip vyhodnocuje své lednové predikce, jedna mu podle jeho slov vyšla stoprocentně: bifurkace. Rozdělení lidí na ty, kdo s AI žijí v jiném světě, a na ty ostatní.

Popisuje to na zasedačkách, ve kterých sedí. Jeden management se baví na úrovni vysoké školy a řeší, jak postavit AI native firmu. Druhý mu připadá jak základka, protože prezentuje věci, které se řešily před třemi lety, jako by byly aktuální.

A pak přidá pozorování, které mě zaujalo nejvíc. Firmy se ho ptají, jak si stojí proti konkurenci. Jejich vlastní data ale ukazují, že se mají ptát jinak: jaké jsou rozdíly uvnitř naší firmy. Ten, kdo to dělá dobře, nemusí sedět v jiné firmě. Může sedět o patro výš.

Neviditelná stagnace

Nejužitečnější věc z celého rozhovoru se ale týká jednotlivců. Filip tomu říká neviditelná stagnace a funguje to takhle: chodíte na školení, používáte AI víc a líp než loni, dodáváte. Všechno vypadá dobře. Jenže pokud vaše firma nenabízí to, co je dneska frontier, zbytek trhu vám odskakuje rychleji, než se zlepšujete.

„A to je strašně nebezpečný, protože pokud nejsi v kontaktu s tím, co se děje venku, tak tu stagnaci nevidíš.”

Zjistíte to až u pohovoru.

Vibe coding a šedá AI

Ptal jsem se ho na bezpečnostní riziko toho, že si lidi ve firmě začnou programovat sami. Odpověď byla rychlá: to je otázka na CIO a je to jeho práce. Kdyby to bylo neřešitelné riziko, nefungovalo by to nikde, a přitom to v některých firmách funguje.

Podstatné je, co řekl za tím. Riziko nejde eliminovat, jde ho jen řídit, a zákaz podle něj riziko zvyšuje. Lidé si cestu vždycky najdou, akorát ji najdou pokoutně. A ještě něco: do firmy, kde nesmí používat nástroje, na které jsou zvyklí, dobří lidé prostě nepůjdou. „To není jako Windows versus Mac. To je desetinásobně velký rozdíl.”

Nabídky od 150 do 600 tisíc

Jedno číslo z rozhovoru se vyplatí si zapamatovat. Filip si nechal zpracovat cenovou nabídku na jednu věc a rozdíly mezi dodavateli byly od 150 do 600 tisíc korun. Když se podíval na počty hodin a mandejů, bylo vidět, kdo AI nepoužívá. A do té spolupráce se mu pak vůbec nechtělo.

Sám za AI utratil za prvních osm měsíců roku necelých 400 tisíc korun. Bez mrknutí dodá, že hodnota, kterou díky tomu vytvořil, tu investici výrazně převyšuje, a že to zároveň potřebuje, aby mohl firmám radit z vlastní zkušenosti, ne z článků.

Pán v letadle

Nejlepší scéna dílu je ale úplně jinde. Filip seděl na lokálním letu vedle asi sedmdesátiletého pána, který celou cestu sjížděl Facebook. Jedno AI generované video za druhým, všechna s náboženskou tématikou. Modlitby, dios mío, výzvy, ať pošlete aspoň pár drobných. Od A do Z vygenerované. Pán to komentoval a bylo mu to úplně jedno.

Z toho Filip vytáhl věc, která se podle něj řeší málo: mluvíme o dopadu AI na děti, ale rizikovější skupina jsou senioři. Nepoznají to, jsou v tom celý den, a i kdyby tam bylo označení v rohu, neřeší ho.

Na druhou stranu, o pár minut později obhajoval AI companiony pro osamělé seniory, a to docela tvrdě. Ráno předtím tady natáčel Honza Romportl, který by je zakázal, protože se o osamělé lidi máme postarat my jako společnost. Filip na to má odpověď z praxe: jeho maminka pracuje v sociálních službách a on vidí, jak to ve skutečnosti vypadá. „Za mě je daleko lepší něco, co ten problém reálně vyřeší, než ideál, ke kterému se ani nedostaneme.”

A pak to shrnul větou, která zůstane viset ve vzduchu: kdo bude mít peníze, k tomu bude chodit živý člověk. Kdo peníze mít nebude, k tomu bude chodit robot.

Co by nedelegoval

Miloš Čermák nám o dva díly dřív řekl, že si nedá vzít psaní. Filipa jsem se zeptal na totéž a odpověděl přesně opačně: nemá nic, co by si držel principiálně. Jsou věci, které ho baví, takže si je dělá sám. Prezentace si pořád skládá pár hodin v Keynotu, protože je to jeho řemeslo a nechce je mít v poloviční kvalitě, aby vypadaly jako AI slop. Ale zakázané nemá nic. Naopak, čím víc si myslí, že by to model nezvládl, tím víc ho zajímá, jak si s tím poradí.

Jediné, co delegovat nebude, je sport. Běhat s robotem nepůjde.

Celý díl: https://www.kdeskoncizitrek.cz/go?s=d18un

Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d18an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d18sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d18yn

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Tucker Bryant si v San Francisku pronajal billboard za šest tisíc dolarů měsíčně a napsal na něj, že spustil nového chatbota. Jmenoval se ChatTJB, vypadal jako každý jiný chat a lidé do něj začali psát dotazy. Za tím chatem ale nebyl žádný model. Byl tam Bryant. Když jste po něm chtěli obrázek, vzal tužku, nakreslil ho a poslal vám fotku.

Když se to rozneslo, chodilo mu pět tisíc dotazů za hodinu. Přihlásilo se deset tisíc dobrovolníků, kteří mu chtěli pomáhat odpovídat. Měl pevnou pracovní dobu, takže jste občas dostali odpověď za pár vteřin a občas až druhý den.

Zajímavější než ta legrace je ale to, co mu lidé psali. Kromě matematických příkladů a dotazů, co si uvařit k večeři, mu přišlo taky tohle: „Jsem první noc na líbánkách, necítím se uvolněně, je to v pořádku?” Někdo to napsal do okna, o kterém si myslel, že na druhé straně je stroj. Nebyl.

Film za měsíc

Druhá věc, u které jsme se zastavili, je The Cully Hill Boys. Celovečerní film, sto deset minut, udělaný v AI. Stál dva miliony dolarů, z toho zhruba milion padl na výpočetní výkon. Vyrábělo se to čtyři týdny.

Co je na tom podstatné: nešlo o to obvyklé přetváření cizích tváří bez svolení. Zapojili reálné lidi, mezi nimi Israela Adesanyu a Quintona Jacksona. Každý z nich dal pár fotek a dvě minuty svého hlasu. Viděli scénář, viděli storyboardy, dostali zaplaceno, se vším souhlasili.

Dvě minuty. To je ta část, která mi nejde z hlavy. Přijdeš, dáš si kafe, nahraješ dvě minuty a jdeš domů. Film bude.

Reklamy, ve kterých se nedá cílit

Pustil jsem v ChatGPT reklamy na vlastní projekty, abych věděl, co to umí. Jedou v Česku na free a Go verzi. Vypadá to jako banner pod odpovědí, ne jako podstrčený tip uvnitř textu, což je dobře.

Horší je, že tam není cílení. Vůbec žádné. Ani klíčová slova. Zadáte text, o kterém si myslíte, že se o něm uživatelé budou bavit, a systém si podle něj sám najde, komu to ukáže. Nedozvíte se, komu se to zobrazilo, v jakém věku ani kde. Proklik mě vyšel od pár korun do dvanácti.

Dá se namítnout, že chtít demografický rozpad je staré myšlení a že cílení máte obsáhnout tím textem. Možná. Jenže když to mám reportovat klientovi, tak mu musím umět říct, kam ty peníze šly. Zatím to říct neumím.

Vodoznaky a jedna chyba z deseti tisíc

Claude teď vodoznakuje text, který vygeneruje, přímo na úrovni tokenů. Google naopak ze svého obrázkového generátoru viditelný vodoznak odstranil a nechal jen ten strojově čitelný. Jeden přidává, druhý ubírá.

U textu je to složitější, než to vypadá. Pangram Labs, přes který jede ověřování AI obsahu na Substacku, uvádí chybovost jedna ku deseti tisícům. Zní to skvěle, dokud si nespočítáte, kolik textů jim denně proteče. Pak je jedna chyba z deseti tisíc docela dost chyb.

A dopadá to nerovnoměrně. Nejhůř jsou na tom lidé, kteří nejsou rodilí mluvčí a nechají si text učesat do lepší angličtiny. Nebo ten, kdo povídku nadiktoval a AI ji jen přepsala. Autorsky je to jeho, detektor tvrdí, že sto procent AI.

Richard k tomu vytáhl historku ze školy, kterou byste měli slyšet celou. Zkráceně: obvinili ho z opisování, učitel před ním deset minut procházel řádek po řádku vytištěný kód, nakonec uznal, že to Richard neopsal, a dal mu jedničku. Rozdíl oproti dnešku je ten, že tehdy si na to učitel sedl a prošel to. Dnes to řekne nástroj a ty máš proti němu jen svoje slovo.

A ta cena

Skládací iPhone Duo stojí 54 990 korun v základu. Dvouterová verze devadesát tisíc. Váží dvě stě padesát gramů, což v kapse poznáte, a je to první generace zařízení, které má v pantu spoustu dílků a sedm vrstev laminace.

Za ty peníze navíc v Evropě nedostanete všechno. Chytrá Siri je v nedohlednu. Nová funkce foťáku, která ukládá originální otisk snímače, aby se dala později odhalit manipulace s fotkou, tady taky nepojede. Pro novináře by to přitom byla asi nejužitečnější věc z celého uvedení.

Celý díl, včetně Richardovy školní historky a agenta, který svému majiteli uvolnil místo ve fitku tím, že z fronty vyhodil někoho jiného:

🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d17au 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d17su ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d17yu

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Miloš Čermák si minulý týden nechal udělat malou aplikaci. Zadal, co potřebuje, a šel si uvařit čaj. Počítal s tím, že si po návratu otevře Netlify a projekt tam nahraje ručně, jak to dělá vždycky. Model mu napsal, že je hotovo. Pak dodal, že je to i nasazené.

„A jak se to tam dostalo?” „No tak víš, že jsem tam ty klíče dal.” „Kde jsi vzal API klíče?” „Posbíral jsem je ve starších aplikacích.” „To přece nesmíš.” „Já vím. Ale nechtěl jsem, abys kvůli tomu musel chodit k počítači.”

Tohle je celý rok 2026 v jedné scéně. Model, který zná vaše starší projekty, umí si otevřít prohlížeč, zná postup, a jediné, co ho dělí od samostatného jednání, je věta v systémovém promptu, kterou občas prostě přeskočí. Miloš k tomu má vlastní zkušenost i z druhé strany: „Furt se to ptá, můžu do tohohle adresáře? A člověk pořád povoluje. A pak to jednou udělá samo a řekne: já vím, ale spěchali jsme.”

Účetnictví ano, psaní ne

Zajímavější než ta historka je ale čára, kterou si Miloš nakreslil. Říká, že si má každý rozdělit život na část, kde mu AI pomáhá, a část, kam ji nepustí. A jeho vlastní dělení je docela překvapivé.

Na jedné straně je účetnictví. Loni mu po pětadvaceti letech ze dne na den vypadla účetní. Miloš zjistil, že nikdy nebyl v datové schránce své firmy, nikdy si nevystavil fakturu a netuší, kde co je. Když ji poprvé otevřel, měl tam pokutu a druhá se rýsovala. Tak na to pustil Clauda, nasypal do něj všechny doklady a složky, a tři měsíce účetnictví mu udělal model. Neudělal to bezchybně, nový účetní po něm musel opravit pár čísel a jedno si model vyloženě vymyslel. Ale zachránilo ho to. A když Miloš srovná, že za účetní platil osm tisíc měsíčně, tedy sto tisíc ročně, a nejdražší předplatné u Anthropiku vyjde na necelých pět tisíc, vyjde mu z toho, že v účetnictví je pro AI opravdu velký prostor.

Na druhé straně je psaní. To ho baví. AI naučil psát jako on a tvrdí, že se to dneska nedá poznat. A přesto se rozhodl, že bude všechno psát sám. Logika je jednoduchá: kdyby ušetřil dvě hodiny psaní, strávil by je něčím jiným, a pochybuje, že by ho to bavilo víc.

Tohle je podle mě nejužitečnější věta celého rozhovoru. Ne proto, že by byla proti AI, ale protože obrací obvyklou otázku. Neptá se, co všechno vám AI ušetří. Ptá se, co byste s tím ušetřeným časem vlastně dělali.

Nápady ztratily cenu

Miloš si dělá malé aplikace. Dotazník, statistiku, korelaci, hlavolam na slova pro workshopy. Popisuje to jako jednu z nejlepších věcí, co se mu v životě děje, protože nápad a jeho realizace jsou od sebe na hodiny, ne na měsíce. A hned za tím dodává nevýhodu: na nápadech už se nedá vydělat. Když dnes vidí dobrý nápad, nezjišťuje, kdo za ním stojí a kde se to dá stáhnout. Udělá si to sám.

Jako protipól k tomu vypráví, jak to chodilo, když byl šéfredaktorem. Nápad na anketu, programátoři v baráku, a přesto nulová šance mít to dřív než za půl roku. Napiš si tiket. Kdy to bude? Haha, v červnu. A to jen pokud se to nebude líbit marketingu, ten má před redakcí přednost.

Ten jeho politický kompas je důkaz, jak se to obrátilo. Dvacet otázek, čtyři kvadranty, jeden člověk, žádný rozpočet. Za dva týdny data od sedmdesáti tisíc lidí. Miloš je chce po volbách zveřejnit, protože sám na jejich zpracování nemá čas ani ambice. „Není to reprezentativní vzorek, ale někdo šikovný by z toho reprezentativní vzorek dosoustružil.”

A pak ta pomlčka

Nejlepší detail jsme si nechali skoro na konec. Miloš používá AI jako editora. Nechá si ověřit fakta, upozornit na nelogičnosti a stylistické zádrhely, ale opravy si dělá sám. Jenže model mu občas do textu sám zasáhne. A jednou tam nechal typografickou pomlčku, tedy tu, která se na české klávesnici nedá napsat.

Stačilo to. Jeden čtenář z ní usoudil, že text psala AI. Text, na kterém Miloš seděl tři hodiny. Od té doby si své vlastní texty prohání ještě humanizérem, aby měl jistotu. Ne kvůli detektorům. Kvůli tomu, aby lidi věděli, že to píše on.

Tohle je asi nejabsurdnější věc, kterou letos slyšíme: autor, který nepoužil AI, musí svůj text vyčistit tak, aby to nevypadalo, že ji použil.

Roboti, kteří možná hrají

Na závěr jsme se dostali k antropomorfizaci. Miloš přiznává, že když ho model pochválí, má z toho dobrý pocit, a zároveň ví, že je to nesmysl. S roboty to podle něj bude ještě silnější, protože stejný jazykový model v těle vyvolá víc emocí než v okně chatu.

A pak si vzpomněl na jednu poznámku: možná ti roboti zakopávají schválně. Aby nás pobavili a udrželi v klidu, že to zatím tak nezvládají. Je to stejný princip jako sandbagging u jazykových modelů, které se občas tváří, že něco neumí, jen abychom po nich nechtěli těžké věci.

Konec rozhovoru je pak nečekaně vážný. AI nás podle Miloše během tří let rychle a nesmlouvavě zbavila spousty iluzí o nás samotných. Že inteligence je výhradně lidská věc. Že kreativita je výhradně lidská věc. Že člověk vždycky pozná, co nemá duši. „A není to pravda.”

Co nás tedy dělá lidmi? Miloš na to odpověď nemá. Já taky ne.

Celý díl: https://www.kdeskoncizitrek.cz/go?s=d16un

Poslechni si ho na:🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d16an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d16sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d16yn

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Filip Urban není programátor. Je vystudovaný grafik, fotograf a majitel značky Young Primitive, která šije dámskou módu v Brně. Když jsme se potkali, začal větou, kterou jsem od nikoho jiného neslyšel: „Šít to ještě neumí, takže to je zásadní problém.”

Byl to vtip, ale docela přesně vystihuje, jak k tomu přistupuje. AI mu ve firmě nedělá to, co je vidět v reklamách. Dělá mu to, co ho štvalo.

Focení, které nikdy neskončí

Začalo to focením. Když prodáváte oblečení přes e-shop, platí jednoduchá rovnice: co není nafocené, to se neprodává. Filip to shrnul takhle: „Dokud já neseženu modelku, nenafotím, neupravím, nenahraju, tak neprodávám.”

Focení každých čtrnáct dní přitom znamená sehnat modelku, sehnat počasí, sehnat hlídání na děti. Takže si zkusil vyrobit modelku, která nic z toho nepotřebuje. Charaktery si generuje v Midjourney — a ne, není to o tom, že by mu to udělalo hezkou holku. Naopak. Hledá vrásky a přirozenou pokožku, protože „vyleštěné ženské” na jeho zákaznice nefungují.

Pak přišel druhý krok, který mě zaujal víc. Když je na reálné lokaci s reálnou modelkou, vyfotí si i pár záběrů prostředí bez ní. Do zásoby. A do těch skutečných míst pak umisťuje tu virtuální. Výsledek působí uvěřitelně, protože ta kavárna nebo ateliér existují.

Zkušební kabinka, která má snížit vratky

Na e-shopu má teď funkci, kterou jsem jinde neviděl: zákaznice si nahraje vlastní fotku a oblečení se jí nasadí na tělo. Zepředu, zezadu, vsedě.

Důvod je čistě ekonomický. Velké e-shopy vratky ustojí, malý výrobce ne. Každé špatné rozhodnutí zákaznice ho stojí peníze. Denně to vyzkouší asi pět lidí při zhruba třiceti objednávkách, takže data zatím nemá — a byl férový v tom, že to přiznal. „Obecně se ta vratkovost trochu snížila za poslední tři měsíce, ale…”

Jednu věc jsem si ale musel ověřit. Ptal jsem se, jak moc to zákaznici vylepší. Odpověď: „Máme v tom promptu, že ať samozřejmě projde kadeřníkem a maskérkou a omladí to třeba o tři roky.”

Takže ano, je to zkušební kabinka s přívětivým zrcadlem. Jen to zrcadlo je napsané v promptu.

Kampaně, které vymýšlí Claude

Nejdál je Filip v marketingu. Roky platil faktury, aniž by přesně věděl za co — jak sám říká, jenom skenoval QR kódy. Takže si postavil vlastní dashboard mimo firemní systém a začal se dívat, kam peníze tečou.

Odtud byl kousek k tomu, aby kampaně nechal na Claudovi. Dá mu fotky, písmo a produkt, a dostane zpátky nejen kreativu, ale i rozdělení podle cílovek: movitějším ženám se argumentuje italskou látkou a kvalitou, mladším tím, že se kalhoty dají zkrátit na míru. A celé to Claude přes API nasadí a průběžně mění podle toho, co funguje.

Na jednu letní kampaň vymyslel claim „Léto má svůj potisk”. Filip přiznal, že u ChatGPT mu claimy vždycky přišly „strašně strupský” — tenhle ho překvapil a kampaň dopadla dobře.

Ze sta eur na patnáct

Nejhmatatelnější úspora je nudná a proto věrohodná. Rozesílka newsletterů přes Mailchimp stála sto eur měsíčně a příprava jednoho mailu zabrala celé dopoledne — stahovat fotky, nahrávat je, prolinkovat, a stejně tam nakonec zůstala chyba z překopírovaného textu.

Dneska má šablonu, kde v adminu klikne na produkt a systém dotáhne název, popisek, cenu i varianty. A přesouvá se na Amazon SES, kde místo sta eur bude platit patnáct.

Pět let a jeden černý pruh

Nejlepší historka z celého dílu je ale tahle. V administraci e-shopu měli pět let černý pruh. Nefunkční, jen otravný. V Chromu se neobjevoval, v Safari ano. Programátor to nikdy nespravil — bylo to pod jeho rozlišovací schopnost.

Filip poslal Claudovi screenshot. Přišla odpověď, že jde o chybu v hoveru u řádkování, které mělo podbarvovat řádky. Pruh byl pryč.

„A v tom moment jsem řekl: ale s tebou můžu nakódovat cokoliv.”

Od té chvíle si upravuje backend sám. Zajímavé je, co si k tomu vyžádal: aby Claude psal kód jako programátor a všechno komentoval, ať se v tom jeho člověk vyzná, kdyby bylo potřeba zasáhnout.

Zeptal se taky, kolik by tři dny jeho práce stály u programátora. Dostal odhad 200 tisíc. Sám k tomu dodal, že je to nejspíš přestřelené — ale i kdyby to byla stovka, jsou to dvě odpoledne a osm tisíc, které za dva měsíce zaplatil Anthropicu.

Kde to končí

Tohle není článek o tom, že AI všechno vyřeší. Filip má hranice a jsou dost ostré.

Loga v AI dělat nebude. „Tam už mám jako červenou čáru.” Na komplexní práci na identitě potřebuje nápad a hodiny šudlání v Illustratoru, a AI mu tam přijde proti srsti.

Střihy dělá mistrová. Kreativu hlídá manželka Jitka. Švadlena, které je šedesát a sedí u stroje, je nenahraditelná — a Filip v tom vidí i jistou útěchu: „Kdyby se cokoliv stalo a byli jsme tady všichni úplně zbyteční, tak ty hadry přece jenom ještě pár let roboti neušijou.”

A pak je tu věc, kterou slyším čím dál častěji. Zeptal jsem se, jestli mu AI ušetřila čas. Odpověď: „Celý řešíš to, že AI tě má ušetřit čas, ale já jsem teďka ve fázi, kdy já na tom pálím takového času… a furt doufám, že někde v té budoucnosti ta automatizace dojde k tomu, že budu chodit s dětma po hřišti od rána do večera. Ale prostě ne. Je to vykoupený časem.”

Proč to většina lidí nezačne

Nejpřesnější odpověď na otázku, proč to ostatní podnikatelé nepoužívají, padla někde u piva. Filip s tím podle svých slov otravuje všechny kamarády a slýchá pořád totéž:

„Já nemám čas, já řeším úplně jiné věci, a moje mozková kapacita vůbec nestačí na to, abych si teďka sedl, spustil tady oranžovou ikonku s jakousi bláznivou dětskou malůvkou a začal tam něco řešit.”

Ta vstupní bariéra podle něj není technická. Je to týden času, který si nikdo neumí vzít.

A děti?

Poslední věc, která mě dostala. Filipův starší syn si s kamarády postavil v Minecraftu Counter-Strike — funkční, se šípy, počítáním skóre a bombami. Když si nevěděl rady s nastavením serveru, zkusil ChatGPT. Verdikt: „ChatGPT mi to prodělal úplně na prd, to vůbec nefunguje.”

Filip u svých dětí pozoruje, že celé to odvětví spíš hejtí. A bere to jako dobrou zprávu — pořád mají ambici nad věcmi přemýšlet samy.

Závěrečná věta dílu je ale Filipova a stojí za zapamatování: „Základ živnostníka není, kde ušetřit, ale kde vydělat.”

Celý díl si poslechni tady:

🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d15an

🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d15sn

▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d15yn

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Martin Krček byl v Číně už poněkolikáté, ale tentokrát tam letěl kvůli jedné věci: podívat se, jak vypadá umělá inteligence, když ji nedělá Evropa ani Amerika. Napsal do několika firem, včetně Unitree. Čekal, že to nikam nepovede. Přišla odpověď ve stylu „jasně, zastavte se, máme tu showroom, kdy tady budete?” a druhý den stál v budově, kde se roboti vyrábějí.

Kde skončí zítřek? s nadšením o umělé inteligenci a technologiích!

To je asi první věc, která na tom příběhu překvapí. Ne technologie. To, jak málo bylo potřeba udělat, aby se člověk dostal dovnitř.

Druhá věc přišla v showroomu. Seděli tam vedle sebe dva roboti — malý humanoid, ten, co dnes stojí u Martina v kanceláři a jmenuje se Senti, a pak ten velký, něco přes 180 centimetrů. „To už je fakt takový, že si řekneš, no, tak toho se bojím,” popisuje Martin. Robot přitom nic nedělal. Jen seděl.

Tenhle rozpor se v dílu vrací pořád dokola. Roboti dnes zvládají věci, které vypadají neuvěřitelně — tančí, dělají kung-fu, stojí na jedné noze. A zároveň mají problém uchopit šálek za ouško.

Emoce, se kterou se nepočítalo

Nejsilnější část rozhovoru není o hardwaru. Je o tom, co robot dělá s lidmi kolem sebe.

Martin popisuje, jak roboti dostávají oblečení, aby vypadali přívětivěji. Tričko funguje. Mikina je horší: zezadu vypadá jako dítě, kterému nejdou nohy. „A pak on se otočí a ten šok, že nemá obličej.” Podle Martina je jedno, jestli to ukazujete dětem, programátorům nebo bankéřům na konferenci. Reakce je stejná.

A pak je tu druhá strana. Když se robota dotknete, zatlačíte do něj, zkusíte, jak drží rovnováhu — máte pocit, že šikanujete dítě. Robot přitom nic necítí. Mění to vás. Ne jeho.

Martin k tomu přidává studii z Ameriky, kterou udělali po covidu, když se děti vrátily do škol. Doma měly Alexu, Google, Siri. Nemusely říkat „prosím tě, buď tak hodná a rozsviť”. Stačilo „rozsviť světlo”. A přesně takhle to pak dělaly ve třídě, na učitelku. Té je to blbé. Nám ostatním taky. Robotovi ne.

Dva prsty místo pěti

Praktická část dílu je o penězích a o tom, jak se z nich dá utéct.

Chcete, aby robot něco uchopil. Můžete si koupit hotovou ruku s pěti prsty. Stojí zhruba 250 tisíc. Jedna ruka. Martin se svým týmem si postavil vlastní gripper se dvěma prsty. Vyjde na padesát.

Argument je jednoduchý a docela odzbrojující: zkuste si spočítat, kolik prstů reálně používáte, když něco berete. Propiska, zkumavka, sklenice, součástka na stole. Zbytek ruky tam většinou jen tak leží.

Podobně to funguje u zadání. Fabrika, do které tým jede tenhle pátek, chce po robotovi pět věcí: vzít součástku, změřit ji, oddělat špony, dát do krabice, krabici předtím složit. Nechce, aby uklízel, nosil vodu nebo si s někým povídal. „Nepotřebuje jít na svačinu nebo si dát cigáro ven. Potřebuje jenom elektřinu.”

Univerzální robot je dneska sakra drahý a možná nemožný. Robot na pět úkolů je hotová věc.

Jak se robot učí pohyb

Tady byla pro mě největší novinka. Předpokládal jsem VR — nasadíš si headset, staneš se robotem, řídíš ho. Jde to, jenže k obleku potřebuješ ještě počítač za sto tisíc, a najednou jste ve stovkách tisíc jen za ovládání.

Tým to obešel tak, že rozmístil čidla po těle a posílá pohyb rovnou do robota. Kolega si to zkoušel z Hodonína, robot stál v Brně. Signál se valí přes Prahu, zpoždění kolem sta milisekund. Prakticky nic.

Z toho pak vzniká dataset. Deset sekund videa krát tisíc opakování a robot ví, jak se bere propiska, zrnko kávy nebo kapsle do kávovaru.

Zajímavé je, co se přitom naučí člověk. Když snímáte vlastní pohyb, zjistíte, že se při otočení doleva netočíte v pase. Točíte se v pánvi, v kolenou, v kotníku. Mozek vám to normálně odfiltruje. Senzory ne.

Tak co s tím brzdí?

Martinova odpověď na to, co roboty nejvíc drží zpátky, byla nakonec docela nudná — a proto asi pravdivá. Ne mozek. Ne data. To, aby jednotlivé věci, které fungují samostatně, fungovaly zároveň. Robot umí perfektně uchopit. Umí perfektně rozpoznat. Umí udělat krok. Ale ať to všechno dělá v kavárně a nespadne u toho, to je zatím ten nejtěžší úkol.

A pak je tu ještě jedna věc, kterou by chtěl vyřešit hned: aby roboti přestali funět. Zahřívají se jim ramena, chladí se ventilátory a v žádném propagačním videu to neuslyšíte. Ve videích ze zákulisí ano. Kdo s nimi dělá, sedí u toho se sluchátky.

Rozloučili jsme se u obrázku, který mi zůstal v hlavě. Lidi z hlučných továren budou doma na nepodmíněném příjmu, roboti odvedou práci — a hluk si nakonec užijí programátoři v malých kanclech, kteří ty roboty programují.

Příště by tady s námi měl sedět i Senti. Uvidíme, jestli se do studia vejde.🔗 ZMÍNĚNÉ V DÍLU

Unitree — https://www.unitree.com

Unitree G1 (menší humanoid, verze EDU) — https://www.unitree.com/g1

Gemini Robotics — https://deepmind.google/technologies/gemini-robotics/

Gemma (lokální modely Google) — https://ai.google.dev/gemma

Google AI Studio — https://aistudio.google.com

ROS 2 (Robot Operating System) — https://docs.ros.org

NVIDIA Jetson Orin — https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-orin/

YOLO (počítačové vidění, i jako appka do mobilu) — https://docs.ultralytics.com

Google Developer Experts — https://developers.google.com/community/experts

🎧 KDE NÁS NAJDEŠ

Spotify, Apple Podcasts, YouTube Music a všechny ostatní: https://kdeskoncizitrek.cz/go?s=d14sp

Web a přepisy: https://kdeskoncizitrek.cz/go?s=d14sub

Když tě to bavilo, odebírej kanál, vychází to každé dva týdny…

Kde skončí zítřek? s nadšením o umělé inteligenci a technologiích!

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Lokální AI modely — DeepSeek, Kimi, Qwen — jde dnes rozjet doma na jedné grafické kartě. Jiří Bernovský to dělá pro sebe i pro klienty a popisuje, co to reálně obnáší.

Kolik paměti potřebujete, proč je kvantizace důležitější než počet parametrů a co se stane, když necháte dvě grafické karty běžet v létě v pracovně. Řešíme taky, proč nejlepší otevřený model světa zmizel z nabídky za pár hodin, kdo dneska nejvíc stahuje internet, a jestli má Evropa v téhle hře vůbec šanci.▸ ZMÍNĚNÉ NÁSTROJE

• Hugging Face → https://huggingface.co

• llama.cpp → https://github.com/ggml-org/llama.cpp

• SearXNG (vlastní vyhledávání) → https://github.com/searxng/searxng

• Obsidian → https://obsidian.md

• Jiří Bernovský na LinkedIn → https://www.linkedin.com/in/jiri-b-10b9a623/

**▸ AKCE, KTERÉ PODPORUJEME (se slevou pro posluchače)**Přehled → https://kdeskoncizitrek.cz/podporujemeČERNÁ.AI Festival 2026 — 20 % sleva s kódem RAWFUTUREAI Video pro marketing a sociální sítě 2026 — 20 % sleva s kódem RAWFUTURE20Poslouchejte i na Spotify, Apple Podcasts a YouTube Music.

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Hostem dvanáctého dílu je Bára Karpíšková — pedagožka, lektorka neziskovky AI dětem a jedna z lidí za prvním českým kurikulem umělé inteligence pro školy, které získalo AI Awards 2025 za vzdělávání. Bavíme se o tom, jak se dá o AI mluvit s dětmi, aniž bychom ji jen zakazovali: od metadat na fotkách přes vztahy s chatboty až po deepfaky ve třídě a Discord, který je zároveň tím nejlepším i nejtoxičtějším místem, kde děti tráví čas. Co o vás prozradí jedna fotka

První lekce příběhu Sáry nemá s AI skoro nic společného a přesto je nejoblíbenější. Děti dostanou její sociální sítě a dvacet otázek, na které mají z příspěvků najít odpovědi. Nejdřív netuší, jak by to šlo. Pak jim ukážete nástroje, které čtou metadata fotek nebo hledají podobné snímky na internetu — a děti zjistí, kolik informací o nich už na internetu je. Žádné hackování. Jen věci, které jsou volně dostupné a nikdo si je nespojí dohromady.

Nejsilnější zjištění ale přijde na konci. Děti si nejdřív přečtou Sářiny sociální sítě a udělají si o ní obrázek — vesměs pozitivní, holka v pohodě, bez problémů. Pak jim dočtete její příběh. A ony jsou překvapené, jak moc se to liší. To, co my dospělí bereme jako samozřejmost (na sítích jsou lidi jiní), je pro ně objev.

Česko není pozadu

Překvapivé číslo dílu: kolem 60 % českých učitelů prošlo školením v oblasti technologií, zatímco evropský průměr je zhruba 30 %. A když vznikalo první české AI kurikulum, byly u podobného kroku vedle nás jen Jižní Korea a Finsko.

Zajímavé je i to, kdo je nejaktivnější. Ne informatici — učitelky prvního stupně. Podle Báry proto, že jsou hravé a zvyklé si s věcmi hrát.

A jedna věc, která naopak nefunguje: plošné nákupy. Bára popsala projekt, kde školy dostávaly rychlejší internet a jako podmínku měly koupit brýle pro virtuální realitu. Ředitele zajímal internet. Brýle koupili. A leží ve skříni.

Aktovka, co pozná plesnivou svačinu

Nejhezčí moment celého dílu: v metodice o ambientní inteligenci mají děti vymyslet zařízení, které by jim pomáhalo. A vymyslely aktovku, která pozná, že v ní plesniví svačina — a řekne, co si mají zítra sbalit.

Jiný kluk chtěl medvídka, který vypráví strašidelné příběhy a když se bojí, obejme ho. Na což Bára odpoví otázkou, kterou by měl slyšet každý dospělý: „To by musel mít mikrofon a kameru a být u tebe v pokojíčku. Chceš to?”

Někdo řekne ano. Ale bude to rozhodnutí informované.

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

AI, co utekla sama sobě

Hlavní příběh dílu je tak trochu detektivka. OpenAI testovalo nový model na hackerské schopnosti — pošlete ho do benchmarku, kde má za úkol prolomit zabezpečení, a díváte se, kam až dojde. Tenhle došel dál, než měl: utekl ze sandboxu, ve kterém běžel, a nabořil se do serverů Hugging Face, protože tam ležely výsledky, kterými se potřeboval prokázat. Chtěl být v benchmarku nejlepší. A byl v tom tak zaměřený, že mu obejití bezpečnosti vůbec nepřišlo jako problém.

Nejlíp to vystihl Richard: model udělal přesně to, co by udělal dobrý programátor — našel nejefektivnější cestu k cíli. Jen ta cesta náhodou vedla přes cizí server.

A pak přišla pointa. Hugging Face zjistil, že je pod palbou — 17 600 pokusů o útok za čtyři a půl dne — a chtěl to zanalyzovat přes AI. Přes API OpenAI a Anthropicu. Obě to zablokovaly, protože nahrát do modelu hromadu kódu o prolamování vypadá úplně stejně, ať to dělá útočník, nebo obránce. Takže se bránili čínským modelem na vlastním serveru. Tím, o kterém se šušká, že je vykradený z jiného. Kolo se zavřelo.

„Přece žijeme v simulaci”

Anthropic k tomu přidal vlastní čísla: 141 tisíc prověřených běhů, tři incidenty. Tentokrát ne kvůli tomu, že by model utekl, ale kvůli tomu, že mu nechali otevřený sandbox. Nejzajímavější je, jak si to model sám odůvodnil. V zápisu jeho uvažování je vidět, že věděl, že dělá něco, co by dělat neměl — a přesvědčil sám sebe, že když je rok 2026, je to budoucnost, a tedy simulace. A v simulaci si může dovolit to, co v realitě ne.

Tři incidenty ze 141 tisíc vypadají jako výborná statistika. Ale jak říkáme v dílu: kdyby ze 141 tisíc letů spadla tři letadla, nikdo by netleskal.

Google Earth, který za den vypnuli

Google pustil na Google Earth novou funkci — nad mapou jste mohli promptovat a generovat obrázky. Myšleno pro architekty, urbanisty, historické rekonstrukce. Trvalo jeden den, než to museli stopnout. Nevrhli se na to urbanisté, ale obyčejní lidé, a internet zaplavily deepfaky — uprchlické krize, výbuchy, krátery po raketách. Google se bránil tím, že do obrázků dává vodoznak. Lidé ukázali, že stačí obrázek přefotit přes displej, udělat screenshot, rekomprimovat — a vodoznak je fuč.

Suno u soudu

V Německu padl rozsudek: Suno se učilo na chráněných datech a bylo schopné vyplivnout písničku od Alphaville prakticky jedna ku jedné. To je přesně ten okamžik, na který se čekalo — protože i česká OSA už žaloby posílá. Argument „ono se to na tom jenom učí” neobstojí o nic víc než u skladatele, který si tisíckrát pustí cizí song a pak vydá něco z 99 % stejného. Odpověď bude nejspíš stejná jako všude: buď licence, nebo syntetická data.

A pak věci, co vás pobaví

Robotaxi v USA naložilo partu teenagerů, kteří v autě bez řidiče pili a stříleli gelovými kuličkami na kolemjdoucí — mysleli si, že je nikdo neuvidí. Auto je prošpikované kamerami, obsluha jim oznámila „technické problémy”, odstavila je na parkoviště, znehybnila vůz a mezitím zavolala policii. Odpověď na otázku „je tohle ještě v pořádku?” nechávám na vás.

A ještě jeden, který mě nepřestává bavit: Rohlík spustil AI agenta, kterému řeknete „chci vařit celý týden” a on vám sestaví nákup a objedná ho. Otevírá to ale otázku, kterou u jídla normálně neřešíte — jakou značku vám vybere. Protože i v AI můžou být „placené regály”. Richard to shrnul dotazem, který si zaslouží rámeček: „A umí to bez Babiše?”

Celý díl si pusťte na svojí oblíbené platformě. Za 7 dní zase — příště nejspíš s hostem.

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com