🧠🤖 Когда ИИ слишком умный, но не слишком полезный
Нейросети обещают решать сложные задачи, но что, если они… думают слишком много? Новое исследование показало, что большие языковые модели, которые должны логично рассуждать, в интерактивных средах впадают в ступор. Они анализируют, моделируют, снова анализируют… и в итоге забывают действовать.
⚡️ Учёные называют это "чрезмерным мышлением" и предупреждают: ИИ может зациклиться в своих размышлениях, игнорируя обратную связь от реального мира. Это ставит перед моделями "дилемму рассуждений и действий" — думать или делать?
📊 Чтобы измерить степень зацикленности, исследователи запустили модели на агентских задачах и выяснили, что у Claude 3.5 Sonnet и GPT-4o-mini это проявляется особенно сильно. Чем больше контекстное окно (до 200k токенов), тем выше шанс, что ИИ просто "утонет" в размышлениях.
НейроМозг
Нейросети обещают решать сложные задачи, но что, если они… думают слишком много? Новое исследование показало, что большие языковые модели, которые должны логично рассуждать, в интерактивных средах впадают в ступор. Они анализируют, моделируют, снова анализируют… и в итоге забывают действовать.
⚡️ Учёные называют это "чрезмерным мышлением" и предупреждают: ИИ может зациклиться в своих размышлениях, игнорируя обратную связь от реального мира. Это ставит перед моделями "дилемму рассуждений и действий" — думать или делать?
📊 Чтобы измерить степень зацикленности, исследователи запустили модели на агентских задачах и выяснили, что у Claude 3.5 Sonnet и GPT-4o-mini это проявляется особенно сильно. Чем больше контекстное окно (до 200k токенов), тем выше шанс, что ИИ просто "утонет" в размышлениях.
НейроМозг