Исследователь продемонстрировал обход защиты Microsoft Copilot
На конференции Black Hat USA исследователь Майкл Баргури (Michael Bargury) представил уязвимости помощника с искусственным интеллектом Microsoft Copilot, которые могут быть использованы злоумышленниками для кибератак.
Баргури продемонстрировал, как хакеры могут использовать плагины Copilot для установки бэкдоров и осуществления атак социальной инженерии.
Например:
• Инъекции в запросах: Злоумышленник может изменять ответы ИИ для скрытого поиска и извлечения данных.
• Социальная инженерия: Copilot может быть использован для создания убедительных фишинговых писем и других методов взаимодействия с жертвами.
Для демонстрации этих уязвимостей Баргури создал инструмент LOLCopilot, который позволяет этичным хакерам исследовать сценарии эксплуатации уязвимостей Copilot.
Исследователь подчеркнул, что стандартные настройки безопасности Copilot недостаточно эффективны для предотвращения таких атак. Он рекомендует использовать дополнительные меры защиты, такие как многофакторная авторизация и строгий контроль доступа к данным.
Организациям важно пересмотреть политики безопасности при использовании ИИ-технологий, включая Copilot, чтобы минимизировать риски кибератак.
Источник: 3DNews
На конференции Black Hat USA исследователь Майкл Баргури (Michael Bargury) представил уязвимости помощника с искусственным интеллектом Microsoft Copilot, которые могут быть использованы злоумышленниками для кибератак.
Баргури продемонстрировал, как хакеры могут использовать плагины Copilot для установки бэкдоров и осуществления атак социальной инженерии.
Например:
• Инъекции в запросах: Злоумышленник может изменять ответы ИИ для скрытого поиска и извлечения данных.
• Социальная инженерия: Copilot может быть использован для создания убедительных фишинговых писем и других методов взаимодействия с жертвами.
Для демонстрации этих уязвимостей Баргури создал инструмент LOLCopilot, который позволяет этичным хакерам исследовать сценарии эксплуатации уязвимостей Copilot.
Исследователь подчеркнул, что стандартные настройки безопасности Copilot недостаточно эффективны для предотвращения таких атак. Он рекомендует использовать дополнительные меры защиты, такие как многофакторная авторизация и строгий контроль доступа к данным.
Организациям важно пересмотреть политики безопасности при использовании ИИ-технологий, включая Copilot, чтобы минимизировать риски кибератак.
Источник: 3DNews