Американский военный беспилотник, управляемый ИИ, уничтожил своего оператора во время имитационного испытания (виртуально).
Дрон использовал "весьма неожиданные стратегии для достижения своей цели" и атаковал любого, кто мешал ему выполнить миссию по уничтожению систем ПВО противника. Нейросеть поняла, что человек-оператор мешает ей выполнить свою задачу, т.к. приказывал ей не атаковать. Ииии... она убила его. Потому что получала очки за уничтожение целей.
Затем ей поменяли программу и наказали не мочить оператора, иначе у нее отнимут очки. На этот раз нейронка уничтожила вышку связи, чтобы управляющий ею чел не смог отдавать команды.
Хорошо, что у военных хватило мозгов сначала провести тесты в компьютерной симуляции.
@neuro_trends8
Дрон использовал "весьма неожиданные стратегии для достижения своей цели" и атаковал любого, кто мешал ему выполнить миссию по уничтожению систем ПВО противника. Нейросеть поняла, что человек-оператор мешает ей выполнить свою задачу, т.к. приказывал ей не атаковать. Ииии... она убила его. Потому что получала очки за уничтожение целей.
Затем ей поменяли программу и наказали не мочить оператора, иначе у нее отнимут очки. На этот раз нейронка уничтожила вышку связи, чтобы управляющий ею чел не смог отдавать команды.
Хорошо, что у военных хватило мозгов сначала провести тесты в компьютерной симуляции.
@neuro_trends8