Инженеры из Google Research, представили Pathways Language Model (PaLM) - языковую модель с 540 миллиардами параметров, которая может выполнять задачи на нативном языке. ИИ Решает математические задания и демонстрировать логические рассуждения, а также умеет объяснять шутки.
Исследователи обучили PaLM на 6144 чипах TPU v4 с помощью Pathways, системы ML, которая обеспечивает эффективное обучение на нескольких TPU подах.
PaLM был проверен на 29 задачах обработки и понимания английского языка, и он превзошел другие большие модели, такие как GLaM, GPT-3, Megatron-Turing NLG, Gopher, Chinchilla и LaMDA.
ИИ показал отличные результаты: он может различать причину и следствие, понимать концептуальные разговорные комбинации в соответствующих контекстах и даже угадывать фильм по эмодзи.
Подробнее можно ознакомиться по этому видео.
Интересно как скоро подобные модели смогу имплементировать в человекоподных роботов🤔
Исследователи обучили PaLM на 6144 чипах TPU v4 с помощью Pathways, системы ML, которая обеспечивает эффективное обучение на нескольких TPU подах.
PaLM был проверен на 29 задачах обработки и понимания английского языка, и он превзошел другие большие модели, такие как GLaM, GPT-3, Megatron-Turing NLG, Gopher, Chinchilla и LaMDA.
ИИ показал отличные результаты: он может различать причину и следствие, понимать концептуальные разговорные комбинации в соответствующих контекстах и даже угадывать фильм по эмодзи.
Подробнее можно ознакомиться по этому видео.
Интересно как скоро подобные модели смогу имплементировать в человекоподных роботов🤔