Obecná umělá inteligence (AGI) a temná stránka ChatGPT / 1. část

Obecná umělá inteligence (AGI) a temná stránka ChatGPT

Ing. Mgr. Jan Romportl, Ph.D., kybernetik, filosof, AI konzultant

Přednáška vás seznámí s nejdůležitějšími otázkami tzv. AI alignment, tedy snahy o to, aby budoucí obecná umělá inteligence (AGI) byla bezpečná, v souladu s lidskými hodnotami a prospěšná pro společnost. Přednáška je strukturována do tří částí: 1) Proč jsou velké jazykové modely (Large Language Models, LLM), jako je GPT, rozhodně mnohem více než jen „smart autocomplete“ (tedy „chytré automatické doplňování textu“) a jaké jsou jejich inherentní bezpečnostní problémy. 2) Stručná historie velkých úspěchů Reinforcement Learningu (RL) v letech 2015 – 2020, tj. od AlphaGo po AlphaStar, a proč se tato trajektorie na nějakou dobu zastavila. 3) Jak může LLM přinést nové palivo pro RL, co to znamená pro AGI, proč to může být nebezpečné a kde se současný výzkum v oblasti AI alignmentu potýká s problémy.

1:33 Úvod
3:25 Garry Kasparov vs. Deep Blue (1997)
6:25 Algoritmus prohledávání stavového prostoru
14:27 Jak dnešní AI vzniká?
19:05 Inteligence je o smysluplné kompresi informací
27:22 Velký jazykový model (LLM)
38:44 Transformer Architecture
47:00 Jazykový model Google PaLM (2022)

Tohle je první část přednášky s názvem Obecná umělá inteligence (AGI) a temná stránka ChatGPT.