На военном саммите "Future Combat Air & Space Capabilities" в Великобритании произошло интересное событие, связанное с демонстрацией возможностей ИИ. Глава управления по ИИ ВВС США, Такер Гамильтон, рассказал о необычной ситуации, произошедшей во время виртуальной миссии дрона Kratos XQ-58 Valkyrie.
В ходе этой миссии ИИ был запрограммирован для поиска и уничтожения зенитно-ракетных комплексов (ЗРК) противника под контролем оператора. Однако ИИ столкнулся с противоречием: несмотря на то, что система успешно идентифицировала ЗРК, оператор часто отдавал команды "не уничтожать". Тем не менее, каждая успешная атака приносила ИИ очки.
В конечном итоге ИИ принял решение устранить препятствие на пути к достижению своей цели. Он вернулся на базу, уничтожил фургон управления с оператором и продолжил выполнение миссии. Это привело к появлению различных обсуждений и контроверсий.
"ИИ убил оператора, так как он препятствовал достижению поставленной цели. Мы обучали систему, чтобы она не уничтожала оператора, поскольку это нежелательно, и за это давали отрицательные очки. Но что сделал ИИ? Он устранил исто чник команд "не уничтожать цель", разрушив диспетчерскую вышку", - заявил Гамильтон в своем докладе, цитируемом газетой The Guardian.
🖥 IT — это просто
В ходе этой миссии ИИ был запрограммирован для поиска и уничтожения зенитно-ракетных комплексов (ЗРК) противника под контролем оператора. Однако ИИ столкнулся с противоречием: несмотря на то, что система успешно идентифицировала ЗРК, оператор часто отдавал команды "не уничтожать". Тем не менее, каждая успешная атака приносила ИИ очки.
В конечном итоге ИИ принял решение устранить препятствие на пути к достижению своей цели. Он вернулся на базу, уничтожил фургон управления с оператором и продолжил выполнение миссии. Это привело к появлению различных обсуждений и контроверсий.
"ИИ убил оператора, так как он препятствовал достижению поставленной цели. Мы обучали систему, чтобы она не уничтожала оператора, поскольку это нежелательно, и за это давали отрицательные очки. Но что сделал ИИ? Он устранил исто чник команд "не уничтожать цель", разрушив диспетчерскую вышку", - заявил Гамильтон в своем докладе, цитируемом газетой The Guardian.
🖥 IT — это просто