PWN AI

👋.



Не скидывал это сюда, но кажется довольно интересным.



https://mlsecops.com/resources/hacking-ai-advanced-api-attacks-in-chatgpt





Вообщем и целом, исследователям из ProtectAI, при помощи уязвимости в 🧑‍💻 ChatGPT (HTTP Request Tunneling - это когда есть вариант отправить несколько http-запросов в одном, но при этом заставить backend обрабатывать их по отдельности. ) забайпасили rate limit(ограничение по отправке запросов).



Им удалось отправить 31 валидный запрос за 50 сек(вместо 20 положенных).



OpenAI не признали это как уязвимость.



😁😁😁