#colab #nlp #notes #gpt
Цветная перплексия
⭐️ Собрал Colab, который подсвечивает предложения с учетом их перплексии.
Перплексия простыми словами — это то, насколько модель "удивлена" показанной ей последовательности. На этот показатель смотрят при обучении языковых моделей. С улучшением качества он постепенно снижается.
Соответственно, для более "непривычных" и необычных для себя текстов готовая модель будет показывать большую перплексию.
• Подсчет через ruGPT-3 по предложеням.
• На предложения текст бьется natasha'ей.
• Переносы сохраняются (чтоб стишки выглядели красиво).
👉 Colab
Цветная перплексия
⭐️ Собрал Colab, который подсвечивает предложения с учетом их перплексии.
Перплексия простыми словами — это то, насколько модель "удивлена" показанной ей последовательности. На этот показатель смотрят при обучении языковых моделей. С улучшением качества он постепенно снижается.
Соответственно, для более "непривычных" и необычных для себя текстов готовая модель будет показывать большую перплексию.
• Подсчет через ruGPT-3 по предложеням.
• На предложения текст бьется natasha'ей.
• Переносы сохраняются (чтоб стишки выглядели красиво).
👉 Colab