🗂 СМИ: Google использовала для обучения модели PaLM 2 в пять раз больше данных чем при тренировке ее предшественницы.



Журналисты CNBC просмотрели внутренние документы компании. Согласно им, при тренировке PaLM 2 инженеры использовали 3,6 трлн токенов текстовых данных. Также выяснилось, что алгоритм содержит 340 млрд параметров.



⚙️ Для сравнения первую версию PaLM разработчики обучили на 780 млрд токенов. Нейросеть использует 540 млрд параметров.



———

Новости в области искусственного интеллекта - @GPTMainNews