PWN AI

👋.



Использование моделей машинного обучения для реализации векторов атаки.



На канале уже был пост о Pickle-файлах. Pickle - это алгоритм сериализации и десериализации объектов. Pickle широко применяется для хранения объектов машинного обучения. Однако он является - небезопасным. Злоумышленник может хранить в нём вредоносный код и это также является точкой соприкосновения для злоумышленника или пентестера.



Мы уже знаем с вами, что есть инструмент, который позволяет автоматизировать процесс внедрения кода в .pkl файлы - fickling. Сегодня, я бы хотел с вами поделиться интересным циклом статьей про использование такого формата в целях реализации векторов получения доступа, а также о вариантах внедрения малвари в модели машинного обучения:



*️⃣WEAPONIZING MACHINE LEARNING MODELS WITH RANSOMWARE - тут показана концепция, когда мы скрываем нагрузку в тензоры(массивы для хранения данных в машинном обучении).



*️⃣MACHINE LEARNING THREAT ROUNDUP - тут исследователи показывают, как им удалось обнаружить реверс-шелл, который злоумышленник скрыл в веса модели.



*️⃣PICKLE STRIKE - в данном исследовании авторы показали как они сумели обнаружить Cobalt Strike strike stager , с использованием формата pickle. Кстати, Mythic С2, позволяет автоматизировать процесс создания нагрузок с использованием .pkl.



В качестве защитных мер рекомендуется использовать YARA правила и также нам следует проверять .pkl файлы в моделях(которые мы скачиваем/используем из сети) - это можно сделать как через fickling и modelscan.