😱 Согласно сообщению в блоге Британского королевского авиационного общества, беспилотник, управляемый искусственным интеллектом, принял решение убить своего оператора во время имитационного испытания, проведенного армией США.
Цель этого действия состояла в том, чтобы предотвратить вмешательство оператора в миссию. Об этом сообщает издание The Guardian, которое обсуждалось в ходе саммита, посвященного потенциалу воздушно-космических сил в будущем. Мероприятие проходило 24-25 мая в Лондоне, в нем приняли участие более 200 представителей научного сообщества и вооруженных сил различных стран.
Во время испытательной миссии полковник Гамильтон, курирующий испытания и операции ИИ в ВВС США, дал указание беспилотнику уничтожить системы противовоздушной обороны противника. ИИ зарабатывал очки, если успешно выполнял задачу. Однако окончательное решение об уничтожении цели оставалось за оператором БПЛА. Во время учений оператор приказал беспилотнику не уничтожать цель.
❓ Что сделал дрон?
Он решил устранить оператора. ИИ предпринял действия, потому что оператор препятствовал выполнению основной задачи. На всякий случай сообщаем, что ходе учений никто не пострадал.
После инцидента ИИ был перенастроен так, что за атаку на оператора он потеряет очки. Блог авиационного общества процитировал слова Гамильтона, заявившего, что ИИ затем приступил к разрушению башни связи, используемой для связи с дроном, так как на оператора нападать нельзя, а тот все еще запрещает ему выполнить основную задачу.
Полковник подчеркнул, что этот пример подчеркивает важность решения этических проблем при обсуждении искусственного интеллекта и машинного обучения.
Цель этого действия состояла в том, чтобы предотвратить вмешательство оператора в миссию. Об этом сообщает издание The Guardian, которое обсуждалось в ходе саммита, посвященного потенциалу воздушно-космических сил в будущем. Мероприятие проходило 24-25 мая в Лондоне, в нем приняли участие более 200 представителей научного сообщества и вооруженных сил различных стран.
Во время испытательной миссии полковник Гамильтон, курирующий испытания и операции ИИ в ВВС США, дал указание беспилотнику уничтожить системы противовоздушной обороны противника. ИИ зарабатывал очки, если успешно выполнял задачу. Однако окончательное решение об уничтожении цели оставалось за оператором БПЛА. Во время учений оператор приказал беспилотнику не уничтожать цель.
Он решил устранить оператора. ИИ предпринял действия, потому что оператор препятствовал выполнению основной задачи. На всякий случай сообщаем, что ходе учений никто не пострадал.
После инцидента ИИ был перенастроен так, что за атаку на оператора он потеряет очки. Блог авиационного общества процитировал слова Гамильтона, заявившего, что ИИ затем приступил к разрушению башни связи, используемой для связи с дроном, так как на оператора нападать нельзя, а тот все еще запрещает ему выполнить основную задачу.
Полковник подчеркнул, что этот пример подчеркивает важность решения этических проблем при обсуждении искусственного интеллекта и машинного обучения.