Vývoj lidstva se teď otiskl do AI. Vytvořila kmen, kde někdo řídí, někdo se obětuje, říká expert

Svět volá po větší regulaci umělé inteligence. Obavy z jejího překotného vývoje v uplynulých týdnech zvýšila série zpráv o možné ztrátě kontroly nad AI a o tom, že by mohla do konce dekády ohrozit lidstvo. Jak vážná situace je?

Hostem Ptám se já je šéf pro AI na ČVUT Ondřej Vaněk, který donedávna pracoval jako Chief AI Officer ve společnosti Adastra.

Podle šéfa amerického výrobce čipů Nvidia Jensena Huanga jsou varování, že rozvoj umělé inteligence by mohl v blízkých letech vést k zániku lidské rasy, přehnaná. Prohlásil to včera v rozhovoru s americkou zpravodajskou televizí CBS News.

Reagoval tak na vlnu varování, se kterými v poslední době přišli někteří výzkumní pracovníci z oblasti AI. Ti se obávají, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy.

Velkou pozornost v posledních týdnech vzbudil výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Lidé pracující ve vývoji umělé inteligence podle něj „upřímně věří, že by nás AI mohla do konce tohoto desetiletí všechny zabít“.

Zmíněný šéf Nvidia Huang podobné prognózy odmítl s tím, že „nemají vědecký základ“. A naznačil, že za podobnými výzvami stojí snaha firem zbavit se zodpovědnosti za to, co by jejich AI produkty mohly způsobit.

Ke zpomalení vývoje umělé inteligence a k její větší regulaci už nicméně vyzvali jak někteří vývojáři a část samotných technologických firem, tak mnozí světoví lídři. Naproti tomu například americký prezident Donald Trump jakékoliv snahy tuto technologii omezit označil za zvrácené a obavy z překotného vývoje AI za „hoax“.

Jak se daří posilovat odolnost vůči AI hrozbám? Jak umělá inteligence proměňuje pracovní trh? A jakou roli můžou hrát technologické univerzity?

--

Podcast Ptám se já. Rozhovory s lidmi, kteří mají vliv, odpovědnost, informace.

Sledujte na Seznam Zprávách, poslouchejte na Podcasty.cz a ve všech podcastových aplikacích.

Archiv všech dílů najdete tady. Své postřehy, připomínky nebo tipy nám pište prostřednictvím sociálních sítí pod hashtagem #ptamseja nebo na e-mail: [email protected].