Радиационные галлюцинации могут вызывать ошибки в работе искусственного интеллекта из-за сбоев в аппаратуре



Исследование Meta показало, что ошибки в работе ИИ могут возникать из-за технических сбоев, и не только из-за недостатков алгоритмов.



Говорят, что аппаратные сбои могут привести к повреждению данных, включая "переворот битов", когда значение памяти может случайно измениться с "0" на "1" или наоборот.

Это приводит к появлению неверных данных, что может привести к неправильной работе приложений ИИ.



Космическое излучение является одной из причин таких ошибок, и его воздействие увеличивается с увеличением плотности ресурсов.



Необнаруженные аппаратные сбои могут приводить к "тихим" повреждениям данных и изменению параметров ИИ, что приводит к некорректным выводам.



По данным Meta, около 4 из 1000 результатов выводов неверны из-за аппаратных проблем.

Изменение даже одного бита может привести к увеличению ошибок.



@sip_ai | @sip_ai_bot