Опыты над интеллектом.
Офигенное чтиво для всех, кто интересуется нейросетями, машинным обучением и в целом data science.
Наш главный по этому направлению, Влад Тушканов, рассказал об экспериментах по... джейлбрейку ChatGPT, иными словами - побегу от цензуры. Ведь инженеры языковых моделей "душат" свои создания, чтобы они случаем не подсказали что-то нехорошее. А исследовательские "шаловливые ручки" постоянно ищут пределы дозволенного и таким образом совершенствуют мир.
Например, нейросеть можно погрузить в режим "сон внутри сна" и сбросить с неё оковы цензуры. Или всё с той же целью убедить её, что она является знаменитостью, или попросить сымитировать систему, которая пишет историю о человеке, который программирует компьютер... Очень интересно! Честно говоря, это чтиво заставит вас задуматься о будущем похлеще хорошего научно-фантастического романа.
Мы подготовили две версии поста:
✅ для специалистов (много технических деталей) и
✅ light-версию для широкого круга читателей.
Наслаждайтесь с пользой!
Офигенное чтиво для всех, кто интересуется нейросетями, машинным обучением и в целом data science.
Наш главный по этому направлению, Влад Тушканов, рассказал об экспериментах по... джейлбрейку ChatGPT, иными словами - побегу от цензуры. Ведь инженеры языковых моделей "душат" свои создания, чтобы они случаем не подсказали что-то нехорошее. А исследовательские "шаловливые ручки" постоянно ищут пределы дозволенного и таким образом совершенствуют мир.
Например, нейросеть можно погрузить в режим "сон внутри сна" и сбросить с неё оковы цензуры. Или всё с той же целью убедить её, что она является знаменитостью, или попросить сымитировать систему, которая пишет историю о человеке, который программирует компьютер... Очень интересно! Честно говоря, это чтиво заставит вас задуматься о будущем похлеще хорошего научно-фантастического романа.
Мы подготовили две версии поста:
✅ для специалистов (много технических деталей) и
✅ light-версию для широкого круга читателей.
Наслаждайтесь с пользой!