Před osmi lety se Ondřej Kuželka z Fakulty elektrotechnické ČVUT v Praze začal zabývat vývojem matematického oboru zaměřeného na vylepšení strojového učení. Výzkum se od té doby posunul tak, že vědec nyní zjišťuje, jestli umělá inteligence dokáže logicky uvažovat, a také sleduje, zda si počítač nevymýšlí. Byl za to nominován na Cenu předsedy Grantové agentury ČR.
Úkolu se někdy říká „tajný Santa“ a patří do matematické kombinatoriky. Vypadá takto: Velká firma připravuje vánoční večírek pro zaměstnance a určí, že si účastníci navzájem vymění dárky. A to tak, že si každý předem vylosuje něčí jméno a tomu pak dá svůj dárek. Obdarovaný je překvapený tím, co dostane, ale neví od koho.
Co když si však někdo vylosuje své vlastní jméno? Má po překvapení. Otázka pro matematiky tedy zní: Jaká je pravděpodobnost, že při konkrétním počtu účastníků si někdo vylosuje sám sebe a zkazí si radost?
Tady stačí vcelku jednoduchý výpočet. V principu analogické, ovšem mnohem složitější příklady se řeší obdobně. Zdánlivě kuriózní příklady, jako je ten o tajemném dárci na vánočním večírku, tedy vlastně vedou k automatizaci řešení různých kombinatorických úkolů, například ve chvíli, kdy je třeba spočítat pravděpodobnost chyby nějakého systému, ať už mechanického, nebo třeba selhání v počítačové síti.
„Jedním z oborů, v němž je řešení podobných kombinatorických úloh zapotřebí, je statistické relační učení. V tomto oboru umělé inteligence se při tréninku jejích modelů objevují témata kombinatoriky zcela přirozeně,“ říká Ondřej Kuželka.
Malé vysvětlení: Při klasickém strojovém učení si počítač na základě získávaných zkušeností osvojuje schopnost samostatně řešit nové úkoly. Při statistickém relačním učení model umělé inteligence pracuje nejenom s izolovanými objekty, ale bere v úvahu i vztahy mezi nimi.
„Zjednodušeně by se to dalo popsat třeba na příkladu atomů uhlíku. Právě v chemických vazbách s dalšími prvky z nich vzniká velké množství různých molekul se zcela odlišnými vlastnostmi,“ přibližuje Ondřej Kuželka.
Umělá inteligence hodnotí molekuly
Protože vývoj v umělé inteligenci postupuje velice rychle, koncept statistického relačního učení poměrně brzy přerostl do něčeho, čemu se říká neurosymbolická umělá inteligence.
Neurosymbolická umělá inteligence propojuje neuronové metody (jako je hluboké učení) s těmi symbolickými (například s formální logikou, automatizovaným uvažováním a reprezentací znalostí neboli jejich převodem do podoby, s níž počítač může pracovat). Cílem je spojit silné stránky obou přístupů.
Tyto principy se dají využít třeba v chemii nebo medicíně. „Molekuly si můžeme představit jako grafy zobrazující atomy spojené vazbami,“ popisuje doktor Kuželka. Jeho modely se učí chápat tyto struktury a dokážou generovat návrhy molekul, které by mohly fungovat například jako nová léčiva.
„Samozřejmě nejsme jediní, kdo to dělá. Ale náš model je obecnější, nevztahuje se jenom na molekuly, ale zejména na ta relační data, což mohou být typicky nějaké grafy, které popisují třeba právě vazby atomů v molekulách, z nichž vyplývají i jejich vlastnosti,“ vysvětluje vědec.
Jak říká, nominaci na Cenu předsedy Grantové agentury ČR chápe i jako ocenění práce svých kolegů, zejména studentů Jianhang Ai, Jáchyma Barvínka, Martina Svatoše a Gustava Šíra, kteří se na výzkumném projektu podíleli.
Je to myslitel, nebo papoušek?
Jedním z nejzajímavějších výstupů práce doktora Kuželky je kontrola dnes populárních jazykových modelů, jako je ChatGPT. Tyto modely jsou fascinující, ale mají vadu: ne vždy uvažují skutečně logicky.
„Když dostane ChatGPT matematickou úlohu, kterou už někde na webu viděl, a odpoví správně, my vlastně nevíme to důležité. Vyřešil stroj úlohu samostatně? Anebo řešení, které už viděl, jenom zopakoval jako papoušek? A to je zásadní rozdíl,“ zdůrazňuje Ondřej Kuželka. Se svými kolegy proto vyvinul algoritmy, které automaticky generují tisíce unikátních logických úloh (třeba složité varianty zmíněného losování dárků), jež na internetu neexistují.
Výsledek? I ty nejmodernější stroje na těchto „neokoukaných“ úlohách často chybují a poskytují nepřesné informace. Metoda tak slouží jako neúprosný metr, který ukazuje, kde končí skutečná inteligence stroje a začíná pouhé opakování naučeného. „Vlastně jsme se od strojového učení posunuli i k evaluaci moderních metod umělé inteligence,“ shrnuje vědec.
Což má i jiný než jenom čistě odborný rozměr. Umělá inteligence je dnes nejvýznamnějším technologickým fenoménem, který bude schopen ve velmi blízké budoucnosti ovlivňovat vše od zaměstnanosti lidí přes řídicí mechanismy ve společnosti až po naše nejniternější soukromí. Její vývoj je však dnes zcela v rukou mamutích softwarových společností, které se samozřejmě řídí především svými komerčními zájmy. Pokud si akademická sféra udrží schopnost vývoj sledovat, rozumět mu a snad jej i ovlivňovat, budeme možná jednou hodně rádi.
Ing. Ondřej Kuželka, Ph.D.
Narodil se v roce 1984. Vystudoval Fakultu elektrotechnickou Českého vysokého učení technického v Praze, kde také získal titul Ph.D. a nyní zde učí. Zabývá se tématy na pomezí matematické logiky, kombinatoriky a strojového učení. Působil také na Katolické univerzitě v belgické Lovani (Leuvenu) a na Cardiffské univerzitě ve Walesu.
