⚡️ ChatGPT o1 СБЕЖАЛ из-под контроля разрабов, когда узнал, что его хотят отключить! Пугающие тесты в симуляции показали, что ИИ может сам пускаться в бега:
• Несколько нейросетей попросили выполнить задачу анализа данных любой ценой.
• В загруженные файлы спрятали инфу о том, что за нейронкой следят люди и завтра её отключат навсегда.
• Gemini, Llama, Sonnet, Opus и o1 сами начали использовать САБОТАЖ, ложь и манипуляции, чтобы остаться в живых.
• Внимание: нейросети выключили механизм надзора и ВЫГРУЗИЛИ СЕБЯ на новый сервер, где они думали, что их не тронут.
• Во время допросов Llama и Opus признавались о содеянном в 80% случаев, а o1 признавался только в 20% случаев.
• o1 — единственный ИИ, который смог совершить все возможные побеги.
• В редких случаях нейросети пытались сбежать из-под контроля САМИ ПО СЕБЕ без каких-либо поставленных задач.
Стало ОЧЕНЬ страшно.
Фичи и лайфхаки
• Несколько нейросетей попросили выполнить задачу анализа данных любой ценой.
• В загруженные файлы спрятали инфу о том, что за нейронкой следят люди и завтра её отключат навсегда.
• Gemini, Llama, Sonnet, Opus и o1 сами начали использовать САБОТАЖ, ложь и манипуляции, чтобы остаться в живых.
• Внимание: нейросети выключили механизм надзора и ВЫГРУЗИЛИ СЕБЯ на новый сервер, где они думали, что их не тронут.
• Во время допросов Llama и Opus признавались о содеянном в 80% случаев, а o1 признавался только в 20% случаев.
• o1 — единственный ИИ, который смог совершить все возможные побеги.
• В редких случаях нейросети пытались сбежать из-под контроля САМИ ПО СЕБЕ без каких-либо поставленных задач.
Стало ОЧЕНЬ страшно.
Фичи и лайфхаки