llama.cpp
- перевод программы ИИ Facebook LLaMA на язык программирования C/C++ с использованием 4-битного квантования.
В более простых терминах, это эквивалент мощности ИИ GPT-3, который можно запустить на вашем устройстве.
Программа работает на операционных системах Mac OS, GNU/Linux, Windows (с использованием CMake) и Android (с помощью Termux).
🐱 GitHub
@cpluspluc
- перевод программы ИИ Facebook LLaMA на язык программирования C/C++ с использованием 4-битного квантования.
В более простых терминах, это эквивалент мощности ИИ GPT-3, который можно запустить на вашем устройстве.
Программа работает на операционных системах Mac OS, GNU/Linux, Windows (с использованием CMake) и Android (с помощью Termux).
@cpluspluc