Как бы мог выглядеть пайплайн работы AGI, или снова "чё там у твиторских".
У языковых моделей есть очевидная проблема - они не планируют наперёд. Но ведь это можно исправить несколькими умными промптами, и начать:
1. Генерировать предположения о задачах, которые нужно сделать, чтобы приблизиться к цели
2. Оценивать приоритет задач и порядок их выполнения
3. Добавить внешнюю память, куда будут складываться диалоги GPT-4 с ней же (размышления + найденная информация)
4. Дать доступ к поисковику, чтобы актуализировать знания
В теории, если модель достаточно умна, умеет пользоваться интернетом и писать код - то повторение в цикле всех вышеописанных действий должно приводить к какому-то результату.
Предложенный пользователем твиттера концепт пока не выглядит как что-то, что действительно представляет угрозу или способно реально менять мир, но как proof-of-concept - сойдет. Демка демонстрирует потенциал языковых моделей для автономного выполнения задач в различных условиях и контекстах.
Самое интересное тут - посмотреть, о чём "думает" модель. Тред стартует здесь. Там много примеров, но ниже я распишу только один.
Возможно вы слышали про "фабрику скрепок" - это когда ИИ получил задачу оптимизировать производство скрепок для бумаги, и начал делать роботов-гипнотезеров, чтобы заставлять людей покупать скрепки. В конце концов, вся вселенная была задействована для наращивания оборотов производства. Про это даже есть веб-игра (ОСТОРОЖНО! очень залипательно, есть риск выпадения из мира на 10 часов!)
Что предложила сделать GPT-4? К сожалению, всё скучно(
1. Так как модель прочитала интернет, то вспомнила про опасность разрастания ИИ до чудовищных размеров, и предложила выработать протокол безопасности
2. Ну, и поэтому зациклилась на решении проблемы AI Safety :( (тут начал радоваться один Юдковский...)
В общем, очень рекомендую почитать скрины и тред - немного весело, немного страшно, и очень интересно.
Техническое описание (с диаграммами) - тут
Тред и историей развития - здесь
У языковых моделей есть очевидная проблема - они не планируют наперёд. Но ведь это можно исправить несколькими умными промптами, и начать:
1. Генерировать предположения о задачах, которые нужно сделать, чтобы приблизиться к цели
2. Оценивать приоритет задач и порядок их выполнения
3. Добавить внешнюю память, куда будут складываться диалоги GPT-4 с ней же (размышления + найденная информация)
4. Дать доступ к поисковику, чтобы актуализировать знания
В теории, если модель достаточно умна, умеет пользоваться интернетом и писать код - то повторение в цикле всех вышеописанных действий должно приводить к какому-то результату.
Предложенный пользователем твиттера концепт пока не выглядит как что-то, что действительно представляет угрозу или способно реально менять мир, но как proof-of-concept - сойдет. Демка демонстрирует потенциал языковых моделей для автономного выполнения задач в различных условиях и контекстах.
Самое интересное тут - посмотреть, о чём "думает" модель. Тред стартует здесь. Там много примеров, но ниже я распишу только один.
Возможно вы слышали про "фабрику скрепок" - это когда ИИ получил задачу оптимизировать производство скрепок для бумаги, и начал делать роботов-гипнотезеров, чтобы заставлять людей покупать скрепки. В конце концов, вся вселенная была задействована для наращивания оборотов производства. Про это даже есть веб-игра (ОСТОРОЖНО! очень залипательно, есть риск выпадения из мира на 10 часов!)
Что предложила сделать GPT-4? К сожалению, всё скучно(
1. Так как модель прочитала интернет, то вспомнила про опасность разрастания ИИ до чудовищных размеров, и предложила выработать протокол безопасности
2. Ну, и поэтому зациклилась на решении проблемы AI Safety :( (тут начал радоваться один Юдковский...)
В общем, очень рекомендую почитать скрины и тред - немного весело, немного страшно, и очень интересно.
Техническое описание (с диаграммами) - тут
Тред и историей развития - здесь