🛠 Gemma 3 — это новая модель искусственного интеллекта с открытым исходным кодом от Google, выпущенная 12 марта 2025 года, разработанная для эффективной работы на устройствах, таких как телефоны и рабочие станции. Она доступна в размерах от 1 миллиарда до 27 миллиардов параметров (точнее: 1B, 4B, 12B, 27B), причем версия 27B конкурирует с гораздо более крупными моделями, такими как модели с 400B или 600B параметров от LLama и DeepSeek.
📈 На изображении выше сравнение Gemma 3 27B в Chatbot Arena Elo. Точками отмечены требуещееся кол-во карт H100 под fp32 версию.
- 128 000 токенов (модели 4B, 12B, 27B)
- 32 000 токенов (модель 1B)
🌳 Способность модели с 27B параметрами конкурировать с гигантами свидетельствует о том, что ИИ может быть одновременно мощным и эффективным в использовании ресурсов.
📚 Обучение Gemma 3 включает обширные этапы предварительного и последующего обучения. Огромный и разнообразный набор данных, значительно больше, чем набор данных Gemma 2. Включает значительное количество многоязычных данных (одноязычных и параллельных) для усиления межъязыковых возможностей. Модель 27B обучается на 14 триллионах токенов; 12T для 12B; 4T для 4B; 2T для 1B.
Как попробовать эту модель:
Обновить lmstudio.
Скачать модель Gemma 3 27b
Точность можно выбрать Q4_K_M - 17Гб ( скорость на 4090 - 11,4 tok/sec)
На 16Гб тоже запустится, на 12Гб сами расскажите.
НАШИ РЕСУРСЫ
telegramСhat, Youtube, Rutube, курсы stabledif.ru