Если вы думаете, что вы не очень умные, у меня есть для вас хорошая новость: всемогущий AI все еще тупее вас. Тут ресерчеры из CMU выкатили алгоритм под названием Probabilistic Neighborhood Components Analysis, который позволяет исследовать уверенность сеток в разных предсказаниях (explainable AI — это модно). Для примера они использовали COVID датасет с Kaggle, и показали как сетка неверно определяет котика как грудную клетку с ковидом 👀
В защиту алгоритма скажу, что это, вообще-то, out-of-domain data, и спрашивать такое у сетки — неприлично.
В защиту алгоритма скажу, что это, вообще-то, out-of-domain data, и спрашивать такое у сетки — неприлично.