🧠Красная команда OpenAI: эксперты, нанятые, чтобы "сломать" ChatGPT.
🧪 Искусственный интеллект GPT-4 помог разработать нервно-паралитическое вещество.
Профессор химической инженерии Эндрю Уайт использовал ИИ GPT-4, созданный OpenAI, для предложения нового нервно-паралитического агента. Уайт был одним из 50 экспертов, привлеченных для тестирования и усовершенствования системы.
🔍Тестирование проводилось в рамках поиска проблем, таких как токсичность, предвзятость и лингвистические искажения. Эксперты также исследовали потенциал GPT-4 для содействия киберпреступлениям и нарушению национальной безопасности.
⚠️Опасные находки были переданы OpenAI для корректировки системы перед публичным запуском. Эксперты выразили опасения о рисках подключения модели к внешним источникам информации через плагины.
🔧OpenAI провела серьезную оценку безопасности перед запуском GPT-4, но работа над улучшением продолжается.
Изучить статью вы можете тут.
КиберХаб | БотGPT | Чат
Профессор химической инженерии Эндрю Уайт использовал ИИ GPT-4, созданный OpenAI, для предложения нового нервно-паралитического агента. Уайт был одним из 50 экспертов, привлеченных для тестирования и усовершенствования системы.
🔍Тестирование проводилось в рамках поиска проблем, таких как токсичность, предвзятость и лингвистические искажения. Эксперты также исследовали потенциал GPT-4 для содействия киберпреступлениям и нарушению национальной безопасности.
⚠️Опасные находки были переданы OpenAI для корректировки системы перед публичным запуском. Эксперты выразили опасения о рисках подключения модели к внешним источникам информации через плагины.
🔧OpenAI провела серьезную оценку безопасности перед запуском GPT-4, но работа над улучшением продолжается.
Изучить статью вы можете тут.
КиберХаб | БотGPT | Чат