Gridworlds - набор обучающих сред подкрепления, иллюстрирующих различные защитные свойства интеллектуальных агентов и классифицирующих проблемы безопасности ИИ, связанные с надежностью (прерывания, побочные эффекты, отсутствующий супервизор, надежность для самомодификации).



#youtubeдня



AI Gridworlds

https://www.youtube.com/watch?v=eElfR_BnL5k&list=PLzH6n4zXuckquVnQ0KlMDxyT5YE-sA8Ps&index=12



EXTRA BITS: AI Gridworlds

https://www.youtube.com/watch?v=py5VRagG6t8&list=PLzH6n4zXuckquVnQ0KlMDxyT5YE-sA8Ps&index=13