Takovou „chytrost“ umělých systémů nikdo nečekal, říká odborník

Zastavte vývoj umělé inteligence, jde to moc rychle,
vyzvaly včera v prohlášení světové hvězdy v IT včetně Elona
Muska. Chtějí, aby svět pro nový fenomén nejprve stanovil
pravidla. Jaká? A proč se máme umělé inteligence
bát?


Hostem Ptám se já byl odborník na informační
technologie a spoluautor podcastu Kanárci v síti Josef Holý.


Ve středu obletěla svět zpráva, která nejspíš nenechala v klidu
ani úplné laiky v IT oboru. Přední světoví odborníci na umělou
inteligenci (AI) vyzvali k pozastavení jejího vývoje. Stovky
akademiků, expertů a podnikatelů zapojených do vývoje umělé
inteligence ve svém otevřeném dopise požadují alespoň půlroční
pauzu s ohledem na možná „hluboká rizika pro společnost a
lidstvo“.



S tím, jak jde vývoj rychle kupředu, nervozita mezi odborníky a
vědci roste. Jen za jeden týden bylo představeno hned několik
převratných novinek, včetně velkého jazykového modelu GPT-4. V
řadě ohledů může tato umělá inteligence nečekaně dobře soupeřit s
lidmi: třeba složitou zkoušku pro právníky zvládne lépe než 90 %
lidských řešitelů.


Mezi signatáři výzvy jsou i podnikatel Elon Musk, spoluzakladatel
firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad
Mostaque nebo prezidentka neziskové organizace Bulletin of the
Atomic Scientists Rachel Bronsonová. Šestiměsíční pauzu by podle
nich měl svět využít hlavně k tomu, aby se dohodl na
bezpečnostních pravidlech a zavedl postupy vedoucí ke smysluplné
a transparentní regulaci tohoto rychle se rozvíjejícího odvětví.


V čem může umělá inteligence změnit náš svět? Jaká
pravidla pro její užívání jsou potřeba? A máme se obávat rychlého
rozvoje umělé inteligence?





---
Ptám se já. Rozhovory s lidmi, kteří mají vliv,
odpovědnost, informace.


Sledujte na Seznam Zprávách, poslouchejte na Spotify, v Apple
Podcasts a dalších podcastových aplikacích nebo na Podcasty.cz.


Archiv všech dílů najdete tady, ostatní podcasty Seznam Zpráv
tady. Své postřehy, připomínky nebo tipy nám pište
prostřednictvím sociálních sítí pod hashtagem #ptamseja nebo na
e-mail audio@sz.cz.