Yandex for ML

🔧 Как мы боремся с галлюцинациями нейросетей



Не секрет, что большие языковые модели любят сочинять внешне правдоподобные, но неправильные ответы на вопросы. Вот реальный кейс из нашей практики:



— Приведи пример стиха Бальмонта.



— «Безглагольность» — стихотворение Константина Бальмонта, начинается со слов «Как океан, безбрежный и глубокий, / Душа молчит, хоть слышит всё вокруг».



У Бальмонта действительно есть стихотворение с таким названием — только текст там другой. И это даже не строки другого поэта, которые нейросеть случайно подписала именем Константина Дмитриевича, а просто выдумка модели.



📤 В большой статье на Хабре Александр Кайгородов и Светлана Маргасова рассказывают, как внешняя информация помогает нейросетям меньше галлюцинировать, что такое Retrieval Augmented Generation и как наладить фактологическую оценку имеющихся генераций. Статья подготовлена по материалам выступления на Practical ML Conf, почитать её можно здесь.



Подписывайтесь:

💬 @Yandex4ML

📹 @YandexforML