Новость для тех, кто хочет понять силу и слабость искусственного интеллекта и машинного обучения:
https://www.newscientist.com/article/2222907-ai-can-predict-if-youll-die-soon-but-weve-no-idea-how-it-works/
В чем суть - нейросеть, обученная на результатах почти 2 миллионов электрокардиограмм и историях болезни 400.000 пациентов научилась предсказывать их смерть (по анализу исторических данных контрольной группы) в течение ближайшего года, с достаточно большой вероятностью.
Теперь самое главное. Никто, включая самих разработчиков модели, не понимает как она это делает. Нет ни одного очевидного фактора в результатах ЭКГ который бы могли бы заметить даже очень опытные доктора. Люди вообще не видят закономерностей, которые как-то «видит» алгоритм. А сама идеология нейросети не позволяет понять что именно она «видит» и как принимает решения.
Очевидно, нам надо начинать готовиться к новой парадигме - когда нам придётся верить алгоритмам (в том числе в HR), абсолютно не понимая на чем они основаны.
О дивный новый мир!
https://www.newscientist.com/article/2222907-ai-can-predict-if-youll-die-soon-but-weve-no-idea-how-it-works/
В чем суть - нейросеть, обученная на результатах почти 2 миллионов электрокардиограмм и историях болезни 400.000 пациентов научилась предсказывать их смерть (по анализу исторических данных контрольной группы) в течение ближайшего года, с достаточно большой вероятностью.
Теперь самое главное. Никто, включая самих разработчиков модели, не понимает как она это делает. Нет ни одного очевидного фактора в результатах ЭКГ который бы могли бы заметить даже очень опытные доктора. Люди вообще не видят закономерностей, которые как-то «видит» алгоритм. А сама идеология нейросети не позволяет понять что именно она «видит» и как принимает решения.
Очевидно, нам надо начинать готовиться к новой парадигме - когда нам придётся верить алгоритмам (в том числе в HR), абсолютно не понимая на чем они основаны.
О дивный новый мир!