Новый взгляд на log-simoid pair-ranking loss.
Тут ребятки наделали шума простой модификацией, которая даёт весомый буст , ещё и память экономит во всех смыслах. И на батче и в целом моделька меньше, а делает по качеству ту, что больше.
https://t.me/lovedeathtransformers/6477
Я даже немного возбудился.
Вру, очень даже возбудился.
Пойду попробую модификацию от log sigmoid в своём пайпе.
прямая ссылка: https://teletype.in/@alexwortega/sYpRYOfkDYz
Тут ребятки наделали шума простой модификацией, которая даёт весомый буст , ещё и память экономит во всех смыслах. И на батче и в целом моделька меньше, а делает по качеству ту, что больше.
https://t.me/lovedeathtransformers/6477
Я даже немного возбудился.
Вру, очень даже возбудился.
Пойду попробую модификацию от log sigmoid в своём пайпе.
прямая ссылка: https://teletype.in/@alexwortega/sYpRYOfkDYz