Всё, что вы хотели узнать о ChatGPT, за 30 минут.
Выпускник Стэнфорда поделился своими знаниями о внутренних механизмах ChatGPT. Самое важное —процесс работы этой модели сводится к предсказанию следующего слова в тексте. Его можно свести к нескольким этапам:
1. Токенизация текста: модель разбивает текст на токены: слова, части слов или комбинации символов.
2. Определение значения токенов: модель определяет значение каждого токена на основе контекста и его положения в предложении.
3. Множество вопросов: модель задает каждому токену множество вопросов, чтобы лучше понять его роль в тексте.
4. Выбор следующего слова: модель формирует список слов, которые наиболее вероятно могут следовать в тексте далее, и выбирает слово с наивысшей "степенью вероятности".
Так ChatGPT предсказывает, какие слова должны идти в тексте, итеративно добавляя их и повторяя процесс, пока не сгенерирует весь текст.
➡️ Смотрим полное видео
INCUBEAI.Подписка
Выпускник Стэнфорда поделился своими знаниями о внутренних механизмах ChatGPT. Самое важное —процесс работы этой модели сводится к предсказанию следующего слова в тексте. Его можно свести к нескольким этапам:
1. Токенизация текста: модель разбивает текст на токены: слова, части слов или комбинации символов.
2. Определение значения токенов: модель определяет значение каждого токена на основе контекста и его положения в предложении.
3. Множество вопросов: модель задает каждому токену множество вопросов, чтобы лучше понять его роль в тексте.
4. Выбор следующего слова: модель формирует список слов, которые наиболее вероятно могут следовать в тексте далее, и выбирает слово с наивысшей "степенью вероятности".
Так ChatGPT предсказывает, какие слова должны идти в тексте, итеративно добавляя их и повторяя процесс, пока не сгенерирует весь текст.
➡️ Смотрим полное видео
INCUBEAI.Подписка