Proč právě USA a Čína patří mezi hlavní mocnosti ve vývoji umělé inteligence? A co se stane, když se technologický pokrok promění v závod, ze kterého nikdo nechce vystoupit?

Ve čtvrtém dílu podcastu SUPERINTELIGENCE se právě na to podíváme. Vysvětlujeme, jak se liší jejich technologické prostředí, jak státy ovlivňují soukromé firmy a proč je AI důležitá nejen pro ekonomiku, ale také pro armádu a mocenské postavení ve světě. Jenže to se může vymknout lidské kontrole.

Ondřej Krása tento problém přirovnává k cestě k útesu. Proč je tak těžké zastavit závod, když jednotliví aktéři mohou mít pocit, že zpomalit si nemohou dovolit? A je dohoda mezi USA a Čínou vůbec reálná?

Podcastem provázejí Amálie Kovářová, režisérka a spoluzakladatelka IBAI, a Ondřej Krása, ředitel IBAI a vedoucí Katedry filosofie a religionistiky Univerzity Pardubice.

🎧 Poslouchejte náš podcast SUPERINTELIGENCE, dejte odběr a zůstaňte v obraze.

Kdo jsou lidé, kteří dnes rozhodují o směřování umělé inteligence? A co je žene dopředu - touha po poznání, víra v technologický pokrok, peníze, nebo strach, že je předběhne konkurence?

Ve třetím dílu podcastu SUPERINTELLIGENCE se podíváme na příběh moderní AI a na lidi v čele firem, které ji vyvíjejí. Od Geoffreyho Hintona, jednoho z průkopníků neuronových sítí, přes Sama Altmana až po Daria Amodeie. Proč někteří z nich začali na rizika AI upozorňovat, a přesto jejich firmy pokračují ve vývoji stále schopnějších systémů?

Rozebíráme také, jak do hry vstupují ekonomická a vojenská konkurence, proč ani dobré úmysly nemusí stačit a co se stane, když firma musí volit mezi bezpečností a tím, aby nezůstala pozadu. Protože možná nejde jen o to, kdo sedí v ředitelském křesle. Ale také o to, jakou hru je nucen hrát.

Podcastem provázejí Amálie Kovářová, režisérka a spoluzakladatelka IBAI, a Ondřej Krása, ředitel IBAI a vedoucí katedry filosofie a religionistiky Univerzity Pardubice.

Nepropadejte panice, ale zůstaňte v obraze a sdílejte nás dál, díky!

Co se stane, když zadáme AI cíl, ale nemáme úplně pod kontrolou cestu, kterou si k němu najde?

Ve druhém dílu podcastu SUPERINTELIGENCE se pouštíme do scénářů budoucnosti. Vysvětlujeme, proč může i zdánlivě nevinný úkol vést velmi schopný systém k nečekanému chování, proč se mu může hodit zabránit vlastnímu vypnutí a jak se od rezervace do fitka dostaneme až k otázce ztráty lidské kontroly nad superinteligencí.

Co je instrumentální konvergence? Co znamená alignment faking? Proč nestačí AI jednoduše říct, co smí a nesmí? A jak by mohl vypadat svět, ve kterém lidé postupně ztratí ekonomickou a mocenskou páku? Existuje i dobrý scénář?

Podcastem provázejí Amálie Kovářová, režisérka a spoluzakladatelka IBAI, a Ondřej Krása, ředitel IBAI a vedoucí Katedry filosofie a religionistiky Univerzity Pardubice.

Nepropadejte panice, zůstaňte v obraze, sdílejte a dejte odběr. Děkujeme.

DÍL 1: Co je superinteligence?

Co přesně myslíme, když mluvíme o superinteligenci? Jak se liší od dnešní AI a od obecné umělé inteligence (AGI)? A jak by vůbec mohla vypadat?

V prvním dílu podcastu SUPERINTELIGENCE začínáme od základů. Superinteligence nemusí být jeden vševědoucí počítač jako ze sci-fi. Jednou z možností je systém mnoha AI agentů, kteří spolupracují, rozdělují si úkoly a společně dokážou víc než každý zvlášť.

Dostaneme se proto i k tomu, jak se dnešní AI agenti testují, co je to „sandbox“ neboli virtuální pískoviště a proč nemusí být tak jednoduché udržet velmi schopný systém uvnitř předem stanovených hranic.

A samozřejmě přijde i otázka, kterou by si v určité chvíli položil asi každý:

Když by se něco pokazilo, nešlo by AI prostě vypnout?

Krátká odpověď: je to složitější.

V prvním dílu si povídáme o tom:
• co je inteligence, AGI a superinteligence,
• proč superinteligence nemusí mít podobu jednoho systému,
• jak fungují AI agenti a jejich testovací prostředí,
• co se může stát, když začnou agenti spolupracovat,
• kde mohou být limity současných bezpečnostních opatření,
• a hlavně: víme vůbec, jak daleko od superinteligence jsme?

SUPERINTELIGENCE zatím neexistuje. A právě proto je dobrá chvíle začít se ptát, jak zajistit, aby případný vznik systémů schopnějších než lidé zůstal pod demokratickou a lidskou kontrolou.

Bez paniky. Bez robotů s červenýma očima. Zato s otázkami, které je lepší položit o něco dřív než o něco později.

🎧 Poslechněte si první díl podcastu SUPERINTELIGENCE.

Podcast vzniká v rámci Iniciativy pro bezpečnost AI (IBAI).