DÍL 1: Co je superinteligence?

Co přesně myslíme, když mluvíme o superinteligenci? Jak se liší od dnešní AI a od obecné umělé inteligence (AGI)? A jak by vůbec mohla vypadat?

V prvním dílu podcastu SUPERINTELIGENCE začínáme od základů. Superinteligence nemusí být jeden vševědoucí počítač jako ze sci-fi. Jednou z možností je systém mnoha AI agentů, kteří spolupracují, rozdělují si úkoly a společně dokážou víc než každý zvlášť.

Dostaneme se proto i k tomu, jak se dnešní AI agenti testují, co je to „sandbox“ neboli virtuální pískoviště a proč nemusí být tak jednoduché udržet velmi schopný systém uvnitř předem stanovených hranic.

A samozřejmě přijde i otázka, kterou by si v určité chvíli položil asi každý:

Když by se něco pokazilo, nešlo by AI prostě vypnout?

Krátká odpověď: je to složitější.

V prvním dílu si povídáme o tom:
• co je inteligence, AGI a superinteligence,
• proč superinteligence nemusí mít podobu jednoho systému,
• jak fungují AI agenti a jejich testovací prostředí,
• co se může stát, když začnou agenti spolupracovat,
• kde mohou být limity současných bezpečnostních opatření,
• a hlavně: víme vůbec, jak daleko od superinteligence jsme?

SUPERINTELIGENCE zatím neexistuje. A právě proto je dobrá chvíle začít se ptát, jak zajistit, aby případný vznik systémů schopnějších než lidé zůstal pod demokratickou a lidskou kontrolou.

Bez paniky. Bez robotů s červenýma očima. Zato s otázkami, které je lepší položit o něco dřív než o něco později.

🎧 Poslechněte si první díl podcastu SUPERINTELIGENCE.

Podcast vzniká v rámci Iniciativy pro bezpečnost AI (IBAI).