🛠 Компания Microsoft выпустила инструмент с открытым исходным кодом Counterfit для тестирования безопасности систем искусственного интеллекта.
По словам разработчиков, он предназначен для сканирования уязвимостей систем ИИ и создания журналов атак на целевую модель.
⚙️ Counterfit не зависит от среды, модели и данных. Его используют локально, на периферии, в облаке для тестирования любой модели искусственного интеллекта, которая зависит от входных данных практически в любой форме, включая текст и изображения.
https://forklog.com/?p=133969
#Microsoft
По словам разработчиков, он предназначен для сканирования уязвимостей систем ИИ и создания журналов атак на целевую модель.
⚙️ Counterfit не зависит от среды, модели и данных. Его используют локально, на периферии, в облаке для тестирования любой модели искусственного интеллекта, которая зависит от входных данных практически в любой форме, включая текст и изображения.
https://forklog.com/?p=133969
#Microsoft