Группа ученых провела атаку с использованием искусственного интеллекта. Они использовали модель Text-to-SQL (автоматически переводит текст в SQL-запросы) для создания вредоносного кода.
Данная схема позволяет злоумышленнику украсть из базы данных конфиденциальную информацию и проводить DoS-атаки.
Кибератака на 4 разные модели с открытым исходным кодом (BART-BASE, BART-LARGE, T5-BASE и T5-3B) достигла 100% успеха. Это подтверждает, что подобные проблемы трудно обнаружить в реальном мире.
Для того, чтобы защитить инфраструктуру от подобных атак, эксперты рекомендуют использовать инструменты защиты, которые работают с нейросетями. Они умеют работать на опережение – предсказывать действия хакеров, проверять подозрительные строки во входных данных. Также следует оценивать готовые модели для предотвращения угроз и соблюдать передовые методы разработки ПО.
#инфобез
Данная схема позволяет злоумышленнику украсть из базы данных конфиденциальную информацию и проводить DoS-атаки.
Кибератака на 4 разные модели с открытым исходным кодом (BART-BASE, BART-LARGE, T5-BASE и T5-3B) достигла 100% успеха. Это подтверждает, что подобные проблемы трудно обнаружить в реальном мире.
Для того, чтобы защитить инфраструктуру от подобных атак, эксперты рекомендуют использовать инструменты защиты, которые работают с нейросетями. Они умеют работать на опережение – предсказывать действия хакеров, проверять подозрительные строки во входных данных. Также следует оценивать готовые модели для предотвращения угроз и соблюдать передовые методы разработки ПО.
#инфобез