Obecná umělá inteligence (AGI) a temná stránka ChatGPT
Ing. Mgr. Jan Romportl, Ph.D., kybernetik, filosof, AI konzultant
Přednáška vás seznámí s nejdůležitějšími otázkami tzv. AI alignment, tedy snahy o to, aby budoucí obecná umělá inteligence (AGI) byla bezpečná, v souladu s lidskými hodnotami a prospěšná pro společnost. Přednáška je strukturována do tří částí: 1) Proč jsou velké jazykové modely (Large Language Models, LLM), jako je GPT, rozhodně mnohem více než jen „smart autocomplete“ (tedy „chytré automatické doplňování textu“) a jaké jsou jejich inherentní bezpečnostní problémy. 2) Stručná historie velkých úspěchů Reinforcement Learningu (RL) v letech 2015 – 2020, tj. od AlphaGo po AlphaStar, a proč se tato trajektorie na nějakou dobu zastavila. 3) Jak může LLM přinést nové palivo pro RL, co to znamená pro AGI, proč to může být nebezpečné a kde se současný výzkum v oblasti AI alignmentu potýká s problémy.
1:34 LLM není agentem!
6:12 OpenAI ChatGPT a Shoggoth
18:30 Inteligence / Obecná umělá inteligence
23:51 Reinforcement Learning
29:58 AGI Alignment
31:27 Polarizace AI komunity
34:55 Hlavní cíl a instrumentální cíle
47:24 Závěr
50:20 Diskuse
