PWN AI

👋.



Машинно-генерируемый код .. его так много и все мы с вами понимаем что он небезопасен.



Но можно ли заставить машину искать небезопасный код?



И вы можете сказать - мол "вставлю в гпт, попрошу - 'перепиши безопасно' " - но к сожалению так не заработает ...



🤔 Почему ? - Модель обучалась на данных, которые не имеют отношение к безопасной разработке. Более того, к сожалению, нету в реальном мире LLM, которая обучалась бы на безопасном коде...



В этом посте, я хочу с вами поделиться инструментом, который использует машинное обучение и помогает прогнозировать и обнаруживать уязвимости в коде (написанном или который пишется) на крестах(c++) .. да-да если есть такое для питона, то пришлите в комментариях.



В общем, AIBughunter - это дополнение, которое может быть интегрировано в vscode. Обучали его на данных из NVD.



В чём его плюсы для плюсов:



✅ Он умеет прогнозировать в real-time уязвимости которые вы можете допустить и предлагает вам как их исправить.



✅ Более того, если он обнаружил недостаток - то сразу появляется линк на CWE, а также severity.



Последний коммит расширения произошёл в прошлом году, однако разработчики не забросили проект - даже недавно написали paper по нему.



[демо-видос]



#аппсековое #code