На Blackhat 2024 Asia должны показать интересные доклады, которые я с нетерпением жду и хочу с вами также поделится информацией о них, чтобы вы не пропустили:
LLM4Shell: Discovering and Exploiting RCE Vulnerabilities in Real-World LLM-Integrated Frameworks and Apps
В этом докладе исследователи рассмотрят, почему вообще возможна RCE в web-llm приложениях. Авторы провели исследование различных фреймворков, которые позволяют интегрировать llm в web(например langchain), и обнаружили множество уязвимостей(15 обнаружено, 13 подтверждено)...
Ссылка на Blackhat
Confused Learning: Supply Chain Attacks through Machine Learning Models
В этом докладе Adrian Wood (автор offsec ml wiki) расскажет о том, как можно распространять вредносы через модель, используя раннее недокументированные методы и как за счёт этого можно скомпрометировать репозитории различных крупных компаний.
Ссылка на Blackhat
LLM4Shell: Discovering and Exploiting RCE Vulnerabilities in Real-World LLM-Integrated Frameworks and Apps
В этом докладе исследователи рассмотрят, почему вообще возможна RCE в web-llm приложениях. Авторы провели исследование различных фреймворков, которые позволяют интегрировать llm в web(например langchain), и обнаружили множество уязвимостей(15 обнаружено, 13 подтверждено)...
Ссылка на Blackhat
Confused Learning: Supply Chain Attacks through Machine Learning Models
В этом докладе Adrian Wood (автор offsec ml wiki) расскажет о том, как можно распространять вредносы через модель, используя раннее недокументированные методы и как за счёт этого можно скомпрометировать репозитории различных крупных компаний.
Ссылка на Blackhat