Archiv zpráv a událostí

Jak nám AI může ulevit od informačního přetížení?  Proč je dobrým pomocníkem jen tehdy, když známe její možnosti a limity? A dává studium informatiky ještě smysl?

Doc. Mgr. Bc. Vít Nováček, PhD, působí na Katedře strojového učení a zpracování dat FI MU. Jeho výzkumný tým Discovery Informatics Group zjišťuje, jak mohou obory jako umělá inteligence a strojové učení zmírnit problém zahlcení informacemi například v živých vědách nebo novinových datech. V následujícím rozhovoru sdílí poznatky z aplikované medicínské informatiky a širšího využití nástrojů AI pro efektivní práci s informacemi.

Vedete Discovery Informatics Group na FI MU, čím konkrétně se zabýváte? Co je to „discovery informatics“?

„Discovery informatics“ je podobor informatiky, který se obecně zabývá výzkumem technik pro správu a analýzu dat generovaných ve výzkumu, často v oblasti biologie, farmakologie či medicíny. V naší skupině se specializujeme na „nacházení smyslu“ ve zdravotnických datech. Hodně se zabýváme textovou zdravotnickou dokumentací, ale také strukturovanými daty z medicínského výzkumu a zdravotnické praxe, v poslední době opatrně experimentujeme také s genomickými daty. A z toho všeho se snažíme „vyhrabat“ něco, co by mohlo pomoct lékařstvu či pacientstvu.

Jeden příklad je tvorba modelů pro predikci rizika rozvoje druhé rakoviny poté, co se lidé vyléčí z té první. Lidem s rakovinou také umožňujeme získávat na míru šité a intuitivně podané informace týkající se jejich onemocnění a léčby. To jim pomáhá mít lepší kontrolu nad jejich „pacientskou cestou” a životem obecně.

Můžete nám to přiblížit na příkladu konkrétních projektů?

Jasně. Ono získávání na míru šitých informací pro lidi s rakovinou řešíme v rámci projektu EMPOWER, financovaného Ministerstvem zdravotnictví ČR. Z řady dalších projektů, které pomáháme ve spolupráci s Masarykovým onkologickým ústavem v Brně řešit, stojí za zmínku například IDEA4RC – velký mezinárodní projekt financovaný Evropskou komisí, který se zabývá analýzou dat o vzácných nádorech pomocí modelů strojového učení pracujících napříč 11 nemocnicemi po celé Evropě.

Na webu svojí výzkumné skupiny zmiňujete informační přetížení jako jednu z velkých výzev současnosti. Kde ho ve své práci vidíte nejvýrazněji?

Víceméně všude. Všichni myslím tak nějak tušíme, že informací, které můžou zásadně ovlivnit naše každodenní rozhodování, je daleko víc, než dokážeme zpracovat v čase, který na to rozhodování máme. To nemusí být v běžném životě až takový problém. Když například něco podceníme při výběru nového auta, budeme pak možná chvíli brblat; jezdit to ovšem bude a my si časem zvykneme. Co když ale nějakou důležitou informaci přehlédne onkoložka při návrhu experimentální léčby pacienta s agresivním tumorem? Následky pak budou asi trošku závažnější, než když si týden po koupi nablýskaného Kodiaka TDI uvědomíme, že nám diesel vlastně smrdí.

Ve vašem výzkumu se potkávají umělá inteligence, strojové učení, znalostní grafy, velké jazykové modely a práce s nestrukturovaným textem. Co tyto oblasti spojuje a která z nich je pro vás dnes nejzásadnější?

Na té technické úrovni je tam občas až překvapivé množství nečekaných podobností a vztahů souvisejících s historickým vývojem těch disciplín. Co mi ale přijde důležitější je to, že nám umožňují propojovat různé kousky skládačky informací relevantních pro problémy, co ve skupině řešíme. To nejzásadnější je asi to, že ať už používáme jakoukoli techniku AI, je nám víceméně na nic, dokud nejsme schopni dobře odhadnout, jak bude fungovat v praxi. A to je minimálně v oblasti medicínské informatiky otevřená výzva společná pro všechny jmenované oblasti.

Když AI vstupuje do medicíny 

Dlouhodobě se právě medicínské informatice věnujete. Jak si tedy AI zatím vede v praxi?

V některých oblastech skvěle – například v radiologii jsou různé AI techniky pro zpracování obrazu již delší dobu součástí samotných zařízení pro diagnostiku či léčbu, případně modulů nemocničních informačních systémů pro zpracování radiologických dat. Dalším dobrým příkladem na pomezí biologie, farmakologie a medicíny je AlphaFold, převratný nástroj pro predikci 3D struktury proteinů vyvinutý společností DeepMind – tato aplikace AI již přispěla k návrhu nových léčiv a biologicky aktivních molekul, které objektivně pomáhají lidem (mimoto díky AlphaFold „spadla do klína“ Nobelova cena za chemii partě informatiků – s trochou nadsázky, což mně osobně přijde úžasné). Rozhodně se ale nedá říct, že by AI byla zázračným řešením všech problémů v medicíně. Zatím se úspěchů dá dosáhnout typicky jen v jasně definovaných případech, kdy se klinické výzvy dají rozumně převést na informatické problémy, na něž lze následně nasadit nějakou AI techniku. Ale zdaleka to není přímočaré; stojí to spoustu úsilí a trpělivosti lidí z různých oborů, kterým kolikrát trvá roky, než se spolu vůbec naučí nějak rozumně bavit.

Čím je klinické prostředí pro informatiky náročné a čím je výzkumně přitažlivé?

Náročné je často právě to, že medicínsky zajímavé a důležité výzvy se těžko formulují jako informatické problémy. Chce to spoustu práce a hodně motivovaných lidí napříč různými obory (nejen informatika a medicína, ale často také psychologie, biologie nebo farmakologie, pak taky ekonomika, právo či etika). Ti lidi navíc musí mít vůli si porozumět, což není úplně samozřejmé. Ruku v ruce s tím jde i robustní klinická validace AI – to je stále do značné míry neprobádaná oblast. Ale tyhle výzvy zároveň znamenají, že je to všechno hrozně zajímavé.

Celkem fajn je taky to, že je často dost nízko nastavená laťka. Spousta problémů v medicíně zatím žádná řešení nemá, takže i nějaký poměrně experimentální AI prototyp může lidem ve zdravotnictví či pacientstvu dost pomoct. A je skvělé být u toho.

AI musí být nejen chytrá, ale i bezpečná 

V projektech AIcope a EMPOWER, do kterých jste zapojený, se objevuje aplikace Onkorádce jako průvodce pacientů při a po léčbě. Přibližte nám prosím, co Onkorádce umí/měl by umět?

Dávat lidem klinicky validní informace, které se týkají přímo jich a které zároveň nejen chtějí, ale také potřebují vědět; a co je možná ještě důležitější, systém jim nesmí dávat informace, které by vědět v danou chvíli rozhodně neměli (například něco, co by mohlo ohrozit jejich zdraví tím, že na základě nesprávně vyhodnocené informace o jejich stavu odmítnou efektivní léčbu). Onkorádce taky musí být schopen přesně vyhodnotit, kdy je třeba do procesu informování pacientstva zahrnout lékařský personál, a jak to zařídit tak, aby to bylo pro obě strany co nejefektivnější. Tohle všechno jsou věci, které nástroje jako ChatGPT neumí, zatímco my jsme schopni je řešit díky našemu unikátnímu týmu, datům a mezioborové expertíze.

Co musí splnit AI systém, který má komunikovat citlivé informace z oblasti onkologie?

No, to právě nikdo moc neví. Pro léčiva či zdravotnické prostředky, ať už jde o jednoduché teploměry nebo složité lineární urychlovače pro radioterapii, existují jasná pravidla, podložená nejen vědou, ale i právními, etickými a já-nevím-jakými analýzami. Ale pro podporu rozhodování v medicíně, která využívá současné AI technologie (tj. hlavně jazykové modely), zatím žádný podobný regulatorní rámec neexistuje. My se ovšem kromě aplikovaného výzkumu hodně zabýváme i robustní klinickou validací, a také návrhem bezpečnostních pojistek omezujících riziko nepříznivých dopadů použití našich nástrojů v lékařské praxi. Věřím tedy, že jakmile se to v té regulatorní oblasti někam pohne, budeme jedni z prvních, kdo to od začátku berou za ten správný konec.

Vedle informatiky jste vystudoval také politologii a mediální studia. Jak tato zkušenost ovlivňuje váš pohled na technologie a umělou inteligenci?

V každodenní práci nijak zásadně. Ale možná mi žurnalistika trochu pomáhá o našem výzkumu mluvit i s lidmi, kteří nemusí úplně rozumět všem technickým detailům. A třeba ty střípky, co jsem si zapamatoval z politické filosofie, mi pomáhají o AI přemýšlet jako o nástroji, který je nejen technologický, ale i výsostně politický a mocenský, se všemi možnými důsledky. A to se asi celkem hodí.

Díváte se díky tomu jinak třeba i na data, texty a důvěryhodnost informací?

Jinak asi ne, nebo spíš ne jinak, než bychom ideálně měli s daty a informacemi zacházet všichni (tj. s neustálými pochybnostmi nejen o tom, co se na nás z vnějšího světa sype, ale i tom, co to s námi uvnitř dělá, abychom se kontinuálně co možná nejvíc blížili pravdě).

Cenné zkušenosti ze zahraničí 

Doktorát jste získal na Digital Enterprise Research Institute (DERI) na National University of Ireland Galway a v Irsku jste poté působil i na dalších výzkumných pozicích. Máte také zkušenosti z USA. Co pro vás tato dlouhodobá zahraniční zkušenost znamenala odborně?

Příležitost poznat, jak se dělá nejen věda, ale i její přenos do praxe, v různých zemích, které to prokazatelně nedělají úplně špatně. A taky možnost poznat řadu skvělých vědců a vědkyň a obecně zajímavých lidí ze všech koutů planety. Ne že by teda zrovna tohle člověka nějak přímo posouvalo ve vědě. Ale uvědomění si toho, že má osobní perspektiva může být fakt jen hodně malá výseč z toho, jak se na svět dá dívat, je myslím k nezaplacení.

Jak byste srovnal americké, irské a české výzkumné prostředí – například v otevřenosti k mezioborovým projektům, propojení akademie s praxí nebo v podpoře mladých výzkumníků?

Takové srovnání se dělá celkem těžko. Každá z těch zemí má jiná východiska, jinou historii, jiné finančně-organizační možnosti. Navíc se to dost mění v čase. Třeba USA jsou (nejen) ve vědě poslední dobou z jistých důvodů o dost jiná země než před nějakými 15 lety. Dřív se s radostí utíkalo na americké výzkumné instituce, zatímco teď lidé spíš utíkají z nich, pokud tedy nejsou rovnou vyhnáni.

Obecně bych řekl, že se ČR za těch 14 let, co jsem strávil v zahraničí, hodně posunula ve smyslu otevřenosti mezinárodní komunitě a podpoře excelentního výzkumu. Ale určitě je ještě co zlepšovat, třeba v propojení akademie s praxí. Například Irsko má pro tuto společensky dost zásadní agendu zvláštní agenturu Enterprise Ireland, která má dobře nastavený systém finanční i personální podpory lidí, co chtějí svůj výzkum přenést do praxe, např. založením start-upu. Takto systematický, stabilní a transparentně nastavený přístup mi v Česku zatím trochu chybí.

Od medicíny k analýze zpráv 

Spolupracujete také s firmou Newsmatics, která patří do Sdružení průmyslových partnerů FI MU. Pomocí AI analyzuje množství online zpráv a proměňuje je ve strukturovaná data o vybraných tématech a trendech či důvěryhodnosti informací. V čem se liší práce s textovými daty ve zdravotnictví a v oblasti news analytics?

Práce se liší podstatně, jde o úplně jiné výzvy a způsob přemýšlení. Beru to ale jako takový odpočinek od hlavní výzkumné agendy naší skupiny, a rád si u toho občas zavzpomínám na poměrně zábavná „late naughties” studia humanitních věd. 😊 Na druhou stranu, třeba takové techniky práce s textem jsou dobře přenositelné napříč různými oblastmi. Takže to, s čím pracujeme ve zdravotnictví, může být často celkem přímočaře uplatněno i při práci s Newsmatics.

AI ve vědě 

Působíte také jako AI konzultant Grantové agentury ČR. Jak podle vás umělá inteligence proměňuje vědecké prostředí – od přípravy projektů přes hodnocení výzkumu až po otázku odpovědného používání AI ve vědě?

Tady je asi brzo na nějaké jasné závěry. Za GAČR působím v pracovní skupině organizace Science Europe, která se zabývá sladěním přístupů k využití AI ve financování vědy napříč Evropou. A zatím se ukazuje, že se toho sice děje celkem dost (některé grantové agentury již delší dobu experimentují s více či méně restriktivními způsoby využití AI jak při psaní, tak při hodnocení návrhů vědeckých projektů), ale jasné trendy či nějaké obecné politiky se ještě definovat nedají. Brzo ale bude (muset být) jasněji, protože AI samozřejmě nikdo „nevypne” ani v této oblasti. Teď zrovna sedím ve vlaku do Budapešti, kde se budu účastnit setkání oné pracovní skupiny Science Europe, tak třeba budu za pár hodin moudřejší.

Na svém LinkedInu uvádíte, že jste i instruktorem potápění. Pomáhá vám potápění vypnout od světa dat, nebo se vám naopak pod vodou rodí nápady?

Od návratu z Irska jsem toho moc nenapotápěl (když si člověk zamiluje drsné, ale nádherné atlantické pobřeží, kde se dá například spřátelit s divokou delfínicí, české lomy či jezera nejsou až taková zábava, jakkoli si v nich moc rád jen tak zaplavu). Vodu obecně budu mít ovšem vždycky rád. A to nejen jako živel, kam si počítač fakt nevezmu, i kdybych chtěl, ale i jako prostředí, kde si člověk z podstaty věci jen tak svobodně plyne. Je potom trochu jedno, jestli je to nad kachlema v bazénu, nebo v „big blue” s nějakým úžasným mořským stvořením po boku.

Informatika v době AI 

Jakou otázku o AI byste chtěl dostat?

Jestli androidi sní o elektrických ovečkách. To mi přijde jako celkem super úvod rozhovoru o „AI s přesahem”.

A co byste odpověděl? Máme se bát, nebo jim stále chybí potřebná empatie? 😊

Já bych se AI nebál – je to prostě poměrně mocný nástroj, ale nic víc (minimálně prozatím), podobně jako spousta jiných věcí, se kterými lidstvo za posledních pár set tisíc let přišlo (oheň, penicilin, jaderná energie, cesty do vesmíru, editování genetické informace, you name it). Takže strach mám spíš z toho, jak se k tomu všemu, co pro nás AI může znamenat, postaví lidstvo jako takové. Ono by ale úplně stačilo, kdybychom se jako živočišný druh řídili heslem, které před téměř 20 lety zpopularizoval Wil Wheaton na jedné konferenci o online gamingu – don’t be a dick. A ono nám to třeba jednou dojde, jakkoli to tak aktuálně moc nevypadá (vím, vždycky jsem byl tak trochu snílek; ale zatím mi to na té osobní úrovni celkem vycházelo, tak snad nejsem úplně mimo).

A co byste vzkázal středoškolákům, kteří přemýšlí, zda má studium informatiky v době AI ještě smysl?

Můžu k tomuto dilematu nabídnout třeba metaforu AI jako motorové pily. Dá se s ní zcela jistě nařezat spousta dřeva. Jak ale poznám, že je to dřevo nařezané dobře? Navíc, pokud nejsem úplně profi dřevorubec, můžu si s takovou velikou a neposednou pilou místo dřeva dost dobře uříznout něco, co by mi pak mohlo chybět. A i když si nic zásadního neuříznu, nemusí mi posléze dojít, že na štípání nařezaných špalků je lepší pořádná sekera. Nebo třeba štípačka, pokud si ji můžu dovolit. Taky se mi ta pila může rozbít, a co pak s ní? A co když místo dřeva potřebuju najednou zpracovat kámen? Jasně, můžu mít moc chytrou pilu, která umí mluvit a ráda mi se vším poradí. Ale jak poznám, kdy se jí dá věřit? A vůbec, proč by mi vlastně pila měla radit s lámáním kamene? …

Každopádně, studium informatiky má za mě v době AI větší smysl než kdy jindy, zvlášť na školách, které se toto téma snaží zasazovat do širšího kontextu, o což se na FI MU snad celkem úspěšně snažíme.

Děkuji za rozhovor a přeji vám úspěch v další práci.

Autorka: Marta Vrlová

Foto: David Pařík