
💻 Это еще цветочки: языковая модель BLOOM
Разработка и обучение языковых моделей ИИ стоит миллионы долларов. До сих пор этим занимались только IT-гиганты. Теперь их монополия нарушена. 1000 ученых-волонтеров со всего мира разработали большую лингвистическую модель BLOOM. Видимо, в честь Леопольда Блума из «Улисса» — на это указывает и дата запуска модели: 17 июня, сразу после Блумсдэя.
BLOOM соперничает по масштабу с Google и OpenAI (у модели 176 млрд параметров), но при этом ее обучающие массивы и исходный код скоро будут доступны всем, у кого руки дотянутся.
Уже появились первые желающие воспользоваться халявой: биологи хотят использовать модель для построения родственных классификаций, историки — для извлечения информации из переписки купцов эпохи Возрождения.
Тут, правда, нужно оговориться, что полностью обученная модель BLOOM потребует колоссальных вычислительных мощностей, которые смогут себе позволить, увы, немногие. Но будет и облегченный вариант: менее требовательная к железу версия, а также распределенная система, которая позволит лабораториям использовать ее совместно, шеря на своих серверах. В планах даже создание веб-приложения, которое позволит запрашивать BLOOM, не загружая его.
Разработка и обучение языковых моделей ИИ стоит миллионы долларов. До сих пор этим занимались только IT-гиганты. Теперь их монополия нарушена. 1000 ученых-волонтеров со всего мира разработали большую лингвистическую модель BLOOM. Видимо, в честь Леопольда Блума из «Улисса» — на это указывает и дата запуска модели: 17 июня, сразу после Блумсдэя.
BLOOM соперничает по масштабу с Google и OpenAI (у модели 176 млрд параметров), но при этом ее обучающие массивы и исходный код скоро будут доступны всем, у кого руки дотянутся.
Уже появились первые желающие воспользоваться халявой: биологи хотят использовать модель для построения родственных классификаций, историки — для извлечения информации из переписки купцов эпохи Возрождения.
Тут, правда, нужно оговориться, что полностью обученная модель BLOOM потребует колоссальных вычислительных мощностей, которые смогут себе позволить, увы, немногие. Но будет и облегченный вариант: менее требовательная к железу версия, а также распределенная система, которая позволит лабораториям использовать ее совместно, шеря на своих серверах. В планах даже создание веб-приложения, которое позволит запрашивать BLOOM, не загружая его.