Самый популярный гайд по безопасности LLM — это OWASP. Но фреймворк не только популярен в коммьюнити, он ещё и влиятелен. Еврокомиссия уже использует OWASP в регулировании AI и включении правил в стандарты безопасности ISO.
Свежие новости проекта:
1. Отдельно выделяется классификация "Machine Learning Security Top 10", в которую войдут уязвимости, связанные с тренировкой моделей. Посмотреть черновик можно на сайте mltop10.info.
2. Создан единый лендинг проекта owaspai.org, который разрастается на глазах. Ссылка на навигатор по уязвимостям доступна в разделе "Navigator".
3. Гайд дополнен информацией из National Institute of Standards and Technology и MITRE ATLAS, что делает базу знаний ещё удобнее.
4. Вся работа организации выпускается под открытой лицензией CC0, которая позволяет использовать и изменять информацию без ограничений. Этот тип лицензии так редко применяется, что пришлось специально гуглить. 🙂
Свежие новости проекта:
1. Отдельно выделяется классификация "Machine Learning Security Top 10", в которую войдут уязвимости, связанные с тренировкой моделей. Посмотреть черновик можно на сайте mltop10.info.
2. Создан единый лендинг проекта owaspai.org, который разрастается на глазах. Ссылка на навигатор по уязвимостям доступна в разделе "Navigator".
3. Гайд дополнен информацией из National Institute of Standards and Technology и MITRE ATLAS, что делает базу знаний ещё удобнее.
4. Вся работа организации выпускается под открытой лицензией CC0, которая позволяет использовать и изменять информацию без ограничений. Этот тип лицензии так редко применяется, что пришлось специально гуглить. 🙂