Geoffrey Hinton varuje, že existuje 10-20% šance, že umělá inteligence povede během nadcházejících tří desetiletí k likvidaci lidstva: změny probíhají rychle
Britsko-kanadský počítačový vědec, který je často označován za „kmotra“ umělé inteligence, zvýšil pravděpodobnost, že umělá inteligence v příštích třech desetiletích vyhubí lidstvo, a varoval, že tempo změn v této technologii je „mnohem rychlejší“, než se očekávalo.
Profesor Geoffrey Hinton, který letos obdržel Nobelovu cenu za fyziku za svou práci v oblasti umělé inteligence, uvedl, že existuje „10 až 20“ procentní šance, že umělá inteligence povede v příštích třech desetiletích k vyhynutí lidstva.
Předtím Hinton uvedl, že existuje 10% pravděpodobnost, že tato technologie způsobí katastrofu pro lidstvo.
Na otázku, zda změnil svou analýzu potenciální apokalypsy umělé inteligence a šance jedna ku deseti, odpověděl v pořadu BBC Radio 4 Today: „Ani ne, 10 až 20 procent.“
Hintonův odhad přiměl hostujícího redaktora pořadu Today, bývalého britského ministra financí Sajida Javida, aby řekl: „Vy tu pravděpodobnost zvyšujete?“, na což Hinton odpověděl: „ Víte, nikdy předtím jsme se nemuseli zabývat věcmi inteligentnějšími, než jsme my sami.“
A dodal: „A kolik znáte příkladů, kdy inteligentnější věc byla ovládána méně inteligentní věcí? Těch příkladů je velmi málo. Je tu matka a dítě. Evoluce si dala hodně práce s tím, aby dítě mohlo ovládat matku, ale to je asi jediný příklad, který znám.“
Hinton, emeritní profesor Torontské univerzity, narozený v Londýně, uvedl, že lidé by byli jako batolata ve srovnání s inteligencí vysoce výkonných systémů umělé inteligence.
„Rád o tom přemýšlím takto: představte si sebe a tříleté dítě. My budeme ty tříleté děti,“ řekl.
Umělou inteligenci lze volně definovat jako počítačové systémy provádějící úkoly, které obvykle vyžadují lidskou inteligenci.
V loňském roce se Hinton dostal na titulní stránky novin poté, co odstoupil ze své práce ve společnosti Google, aby mohl otevřeněji hovořit o rizicích, která představuje neomezený vývoj umělé inteligence, a uvedl obavy, že „zlí hráči“ budou tuto technologii využívat k poškozování ostatních. Klíčovou obavou bojovníků za bezpečnost umělé inteligence je, že vytváření umělé obecné inteligence neboli systémů, které jsou chytřejší než lidé, by mohlo vést k tomu, že by tato technologie mohla představovat existenční hrozbu, protože by se vyhnula lidské kontrole.
Když se Hinton zamýšlel nad tím, kam by podle jeho názoru vývoj umělé inteligence dospěl, když na této technologii začal pracovat, řekl: „Nemyslel jsem si, že to bude tam, kde jsme teď. Myslel jsem si, že se sem dostaneme až někdy v budoucnu.“
Dodal: „Protože situace, ve které se nyní nacházíme, je taková, že většina odborníků v této oblasti si myslí, že někdy, pravděpodobně během příštích 20 let, vyvineme umělou inteligenci, která bude chytřejší než lidé. A to je velmi děsivá představa.“
Hinton řekl, že tempo vývoje je „velmi, velmi rychlé, mnohem rychlejší, než jsem očekával“, a vyzval k vládní regulaci této technologie.
„Obávám se, že neviditelná ruka nás neochrání. Takže ponechat to jen na ziskovém motivu velkých společností nebude stačit k tomu, aby zajistily bezpečný vývoj,“ řekl. „Jediná věc, která může tyto velké společnosti donutit k většímu výzkumu bezpečnosti, je vládní regulace.“
Hinton je jedním ze tří „kmotrů umělé inteligence“, kteří za svou práci získali cenu ACM AM Turing - obdobu Nobelovy ceny za informatiku. Jeden z této trojice, Yann LeCun, hlavní vědecký pracovník pro umělou inteligenci ve společnosti Meta Marka Zuckerberga, však existenční hrozbu zlehčuje a prohlásil, že umělá inteligence „by ve skutečnosti mohla zachránit lidstvo před vyhynutím“.
Žádné komentáře:
Okomentovat