Tomáš Foltýnek se podílel na výzkumu testování detekčních nástrojů pro text generovaný AI
Nový výzkum provedený v oblasti umělé inteligence otevírá důležité otázky
ohledně detekce textů generovaných umělou inteligencí (AI). Studie se
zaměřovala na hodnocení funkčnosti detekčních nástrojů a jejich schopnosti
rozpoznat rozdíl mezi textem generovaným AI a textem napsaným člověkem.
Výzkum zahrnuje 12 veřejně dostupných nástrojů a dva komerční systémy
(Turnitin a PlagiarismCheck), které se běžně používají v akademickém prostředí.
Výsledky jsou překvapivé, protože bylo zjištěno, že stávající detekční nástroje
nejsou dostatečně přesné a spolehlivé. Často klasifikují obsah generovaný AI
(ChatGPT) jako text psaný člověkem, navíc techniky obfuskace obsahu výrazně
zhoršují výkonnost těchto nástrojů. Ve vědeckém článku jsou shrnuty aktuální
podobné vědecké i nevědecké snahy v této oblasti a představuje se v něm
výsledek jednoho z nejrozsáhlejších dosud provedených testů, který je založen
na přísné metodice výzkumu, originálním souboru dokumentů a širokém
záběru.
Studie, která byla citována i v prestižním časopise MIT Technology Review,
poskytuje důležité poznatky o současných výzvách v detekci textů generovaných
umělou inteligencí. Nyní víme, že je třeba vyvinout spolehlivější metody pro
rozpoznání takového obsahu a zajistit tak bezpečné využívání AI v akademickém i
širším kontextu. Výzkumy v této problematice jsou klíčové pro posun vědy a
technologií vpřed v moderním světě. Věříme, že se na základě cenných informací
z výzkumu podaří vylepšit nejen detekční technologie, ale i zajistit větší
ochranu proti zneužití obsahů generovaných umělou inteligencí. Gratulujeme
celému výzkumnému týmu, jehož členem byl i Mgr. Tomáš Foltýnek, Ph.D. z FI
MUNI.
Odkaz na celou studii najdete zde: https://muni.cz/go/de3f70.
Původní zpráva na Vývěsce v IS.
ohledně detekce textů generovaných umělou inteligencí (AI). Studie se
zaměřovala na hodnocení funkčnosti detekčních nástrojů a jejich schopnosti
rozpoznat rozdíl mezi textem generovaným AI a textem napsaným člověkem.
Výzkum zahrnuje 12 veřejně dostupných nástrojů a dva komerční systémy
(Turnitin a PlagiarismCheck), které se běžně používají v akademickém prostředí.
Výsledky jsou překvapivé, protože bylo zjištěno, že stávající detekční nástroje
nejsou dostatečně přesné a spolehlivé. Často klasifikují obsah generovaný AI
(ChatGPT) jako text psaný člověkem, navíc techniky obfuskace obsahu výrazně
zhoršují výkonnost těchto nástrojů. Ve vědeckém článku jsou shrnuty aktuální
podobné vědecké i nevědecké snahy v této oblasti a představuje se v něm
výsledek jednoho z nejrozsáhlejších dosud provedených testů, který je založen
na přísné metodice výzkumu, originálním souboru dokumentů a širokém
záběru.
Studie, která byla citována i v prestižním časopise MIT Technology Review,
poskytuje důležité poznatky o současných výzvách v detekci textů generovaných
umělou inteligencí. Nyní víme, že je třeba vyvinout spolehlivější metody pro
rozpoznání takového obsahu a zajistit tak bezpečné využívání AI v akademickém i
širším kontextu. Výzkumy v této problematice jsou klíčové pro posun vědy a
technologií vpřed v moderním světě. Věříme, že se na základě cenných informací
z výzkumu podaří vylepšit nejen detekční technologie, ale i zajistit větší
ochranu proti zneužití obsahů generovaných umělou inteligencí. Gratulujeme
celému výzkumnému týmu, jehož členem byl i Mgr. Tomáš Foltýnek, Ph.D. z FI
MUNI.
Odkaz na celou studii najdete zde: https://muni.cz/go/de3f70.
