Tips AI | IT & AI

🧠 ChatGPT у вас на компьютере



1️⃣ Загружаем файл koboldcpp.exe с GitHub

2️⃣ Теперь нам нужна ям, если у вас она есть, можете использовать её. Либо выбрать одну из этих по ссылке:

➖ LLaMA — слитая модель от Meta. Не обучена и практически без цензуры;

➖ GPT4xAlpaca — дотренированная на данных с инструкциями версия LLaMA;

➖ Vicuna — натренированная на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.

3️⃣ Запускаем koboldcpp.exe и в появившимся окне указываем путь к загруженной модели

4️⃣После загрузки модели переходим на http://localhost:5001/. Готово!



Там есть куча разных настроек, включая целых персонажей. Но хочу вас предупредить что не стоит ожидать чего-то сравнимого с GPT4, это намного более простой вариант!



@tips_ai #гайды