ČLánek Physics Nobel awarded to neural network pioneers who laid foundations for AI vyšel na webu The Converzation dne 8. 10. 2024.

Christine Olsson / TT / EPA

Nobelova cena za fyziku za rok 2024Česky byla udělena vědcům Johnu Hopfieldovi a Geoffreymu Hintonovi „za zásadní objevy a vynálezy, které umožňují strojové učení pomocí umělých neuronových sítí“.

Hopfield a Hinton se inspirovali myšlenkami z fyziky a biologie a vyvinuli počítačové systémy, které si dokáží zapamatovat vzorce v datech a učit se z nich. Přestože spolu nikdy přímo nespolupracovali, navázali na svou práci a vytvořili základy současného rozmachu strojového učení a umělé inteligence (AI).

Co jsou neuronové sítě? (A co mají společného s fyzikou?)

Umělé neuronové sítě stojí za většinou technologií umělé inteligence, které dnes používáme.

Stejně jako váš mozek má neuronové buňky propojené synapsemi, umělé neuronové sítě mají digitální neurony propojené v různých konfiguracích. Každý jednotlivý neuron toho moc nedělá. Kouzlo spočívá ve vzorcích a síle spojení mezi nimi.

Neurony v umělé neuronové síti jsou „aktivovány“ vstupními signály. Tyto aktivace se kaskádovitě přenášejí z jednoho neuronu na druhý způsobem, který dokáže transformovat a zpracovat vstupní informace. Výsledkem je, že síť může provádět výpočetní úlohy, jako je třídění, předpovídání a rozhodování.

Infografika srovnávající přirozené a umělé neurony.
Johan Jarnestad / The Royal Swedish Academy of Sciences

Většinu historie strojového učení tvoří hledání stále sofistikovanějších způsobů, jak tato spojení mezi umělými neurony vytvářet a aktualizovat.

Zatímco základní myšlenka propojení systémů uzlů za účelem ukládání a zpracování informací pochází z biologie, matematika používaná k vytváření a aktualizaci těchto spojení pochází z fyziky.

Sítě, které si pamatují

John Hopfield (nar. 1933) je americký teoretický fyzik, který během své kariéry významně přispěl k rozvoji biologické fyziky. Nobelovu cenu za fyziku však získal v roce 1982 za práci na vývoji Hopfieldových sítíČesky.

Hopfieldovy sítě byly jedním z prvních druhů umělých neuronových sítí. Tyto systémy, inspirované principy z neurobiologie a molekulární fyziky, poprvé ukázaly, jak může počítač využívat „síť“ uzlů k zapamatování a vyvolání informací.

Hopfieldovy sítě si dokázaly zapamatovat data (například soubor černobílých obrázků). Tyto obrázky mohly být „vyvolány“ na základě asociace, když byla síť požádána o podobný obrázek.

Ačkoli měly Hopfieldovy sítě omezené praktické využití, ukázaly, že tento typ ANN (Artificial Neural Networks / umělé neurovové sítě) může ukládat a vyvolávat data novými způsoby. Položily základ pro pozdější Hintonovy práce.

Infografika ukazující, jak může neuronová síť ukládat informace jako druh „krajiny“.
Johan Jarnestad / The Royal Swedish Academy of SciencesČesky

Stroje, které se umí učit

Geoff Hinton (nar. 1947), někdy označovaný za jednoho z „kmotrů umělé inteligenceČesky“, je britsko-kanadský počítačový vědec, který se zasloužil o řadu významných přínosů v této oblasti. V roce 2018 mu byla spolu s Yoshuou Bengiem a Yannem LeCunem udělena Turingova cena (nejvyšší ocenění v oblasti počítačových věd) za jeho úsilí o rozvoj strojového učení obecně a konkrétně jeho odvětví zvaného hluboké učení.

Nobelovu cenu za fyziku však získal konkrétně za práci, kterou v roce 1984 spolu s Terrencem Sejnowskim a dalšími kolegy vykonal při vývoji Boltzmannových strojůČesky. Ty jsou rozšířením Hopfieldovy sítě, která demonstrovala myšlenku strojového učení – systému, který umožňuje počítači učit se nikoli od programátora, ale z příkladů dat. Na základě myšlenek energetické dynamiky statistické fyziky Hinton ukázal, jak se tento raný generativní počítačový model může naučit ukládat data v průběhu času tím, že mu budou ukázány příklady věcí, které si má zapamatovat.

Infografika zobrazující různé typy neuronových sítí.
Johan Jarnestad / The Royal Swedish Academy of Sciences

Boltzmannův stroj, stejně jako předtím Hopfieldova síť, neměl bezprostřední praktické využití. Nicméně modifikovaná forma (nazývaná omezený Boltzmannův stroj) byla užitečná v některých aplikovaných problémech.

Důležitější byl koncepční průlom, že umělá neuronová síť se může učit z dat. Hinton tuto myšlenku dále rozvíjel. Později publikoval vlivné práce o zpětném šířeníČesky (proces učení používaný v moderních systémech strojového učení) a konvolučních neuronových sítíchČesky (hlavní typ neuronové sítě používaný dnes pro systémy umělé inteligence, které pracují s obrazovými a video daty).

Proč tato cena až nyní?

Hopfieldovy sítě a Boltzmannovy stroje se ve srovnání s dnešními výkony umělé inteligence zdají být bizarní. Hopfieldova síť obsahovala pouhých 30 neuronů (pokusil se vytvořit síť se 100 uzly, ale na tehdejší výpočetní prostředky to bylo příliš mnoho), zatímco moderní systémy, jako je ChatGPT, jich mohou mít miliony. Dnešní Nobelova cena však zdůrazňuje, jak důležité byly tyto rané příspěvky k oboru.

I když se může zdát, že nedávný rychlý pokrok v oblasti umělé inteligence, který většina z nás zná z generativních systémů umělé inteligence, jako je ChatGPT, je pro první zastánce neuronových sítí ospravedlněním, Hinton alespoň vyjádřil obavy. V roce 2023, poté, co opustil desetileté působení v pobočce AI společnosti Google, řekl, že ho rychlost vývoje děsí, a připojil se k rostoucímu počtu hlasů volajících po aktivnější regulaci AI.

Po převzetí Nobelovy ceny Hinton řeklČesky, že umělá inteligence bude „jako průmyslová revoluce, ale místo našich fyzických schopností překoná naše intelektuální schopnosti“. Uvedl také, že se stále obává, že důsledkem jeho práce mohou být „systémy, které jsou inteligentnější než my a které by nakonec mohly převzít kontrolu“.

Aaron-J-SnoswellAaron J. Snoswell je počítačový vědec a výzkumný pracovník v oblasti odpovědnosti za umělou inteligenci ve Středisku excelence Australské výzkumné rady pro automatizované rozhodování a společnost (ADM+S), které sídlí na QUT v Brisbane v Austrálii. Doktorát „Modelling and explaining behaviour with Inverse Reinforcement Learning“ / „Modelování a vysvětlování chování pomocí inverzního zesíleného učení“ byl udělen v roce 2022 na Queenslandské univerzitě.
Před nástupem na akademickou půdu pracoval v průmyslu jako mezioborový mechatronický inženýr při provádění výzkumu a vývoje zdravotnických přístrojů, výcviku pilotů a kosmonautů, robotiky a softwarového inženýrství.



[VB]