PWN AI

The Developer's Playbook for Large Language Model Security (early)Description:Large language models...

Crucible создали на платформе несколько задачек по атакам на LLM.

AttackGenИнструмент, который основываясь на ваших входных данных генерирует сценарии реагирования на...

Red Teaming for Large Language Models Using GiskardИнтересная статья с примерами кода о том, как зап...

вот его описание с линкдина:The more we rely on artificial intelligence (AI) and machine learning (M...

Хочу вам рассказать о том, что Protect AI выпустили несколько недель назад курс по MlSecOps. Называе...

🎧Обзорный подкаст "Red Team в больших языковых моделях". Всем отличного вечера пятницы 🙂

Всем бодрого дня, олигархи 😊. Хотелось бы вам напомнить немножко о полезном ресурсе по MlSecOps. Эт...

Наткнулся на реп с джейлбрейком лламы 3. Как понял идея в добавлении harmful префикс, который ллама3...

У каждого человека есть несколько целей в жизни .. Родить семью, посадить дерево .. именно так стоил...