👾 Троянские программы тренируют ИИ на устойчивость
Исследователи из Университета Джона Хопкинса (США) попытались автоматизировать и расширить этот процесс. Они разработали программную платформу, которая облегчает разработку и объединение разных компонентов большого проекта. Этот каркас получил название TrojAI.
TrojAI — это специальный набор инструментов, который генерирует триггерные наборы данных, связанные с троянскими моделями. Разработка позволяет изучить и понять влияние различных систем на сгенерированные троянские модели, а также разработать и протестировать новые методы обнаружения вредоносных программ. Искусственный интеллект, натренированный с помощью этой программной платформы, будет более устойчив к хакерским атакам.
Например, ИИ может обучаться на изображениях дорожных знаков, узнавать, как выглядят знаки остановки и знаки ограничения скорости, а затем он становиться частью системы автономного автомобиля. Злоумышленник может нарушить процесс обучения, путем внедрения трояна в ИИ. Например, тот же ИИ, обучающийся различать дорожные знаки. Если заразить его троянской программой, поведение системы может стать непредсказуемым. Если ее внедрить в автомобиль с автоматическим управлением, злоумышленник может заставить машину проехать через ограничительный знак или знак остановки. Цель программы TrojAI — бороться с такими троянскими атаками.
🔗 Источник: https://pcnews.ru/articles/troanskie_programmy_treniruut_ii_na_ustojcivost-968872.html
Исследователи из Университета Джона Хопкинса (США) попытались автоматизировать и расширить этот процесс. Они разработали программную платформу, которая облегчает разработку и объединение разных компонентов большого проекта. Этот каркас получил название TrojAI.
TrojAI — это специальный набор инструментов, который генерирует триггерные наборы данных, связанные с троянскими моделями. Разработка позволяет изучить и понять влияние различных систем на сгенерированные троянские модели, а также разработать и протестировать новые методы обнаружения вредоносных программ. Искусственный интеллект, натренированный с помощью этой программной платформы, будет более устойчив к хакерским атакам.
Например, ИИ может обучаться на изображениях дорожных знаков, узнавать, как выглядят знаки остановки и знаки ограничения скорости, а затем он становиться частью системы автономного автомобиля. Злоумышленник может нарушить процесс обучения, путем внедрения трояна в ИИ. Например, тот же ИИ, обучающийся различать дорожные знаки. Если заразить его троянской программой, поведение системы может стать непредсказуемым. Если ее внедрить в автомобиль с автоматическим управлением, злоумышленник может заставить машину проехать через ограничительный знак или знак остановки. Цель программы TrojAI — бороться с такими троянскими атаками.
🔗 Источник: https://pcnews.ru/articles/troanskie_programmy_treniruut_ii_na_ustojcivost-968872.html