Астротурфинг не пройдёт!
Заметка для профессионалов индустрии. Особенно из корпоративного сектора. Как-то совсем незамеченным прошёл тот факт, что OpenAI сформулировала для компаний принципы этичного и безопасного применения больших языковых моделей (Large language models, LLM).
ВСЕГО ИХ СЕМЬ:
1️⃣ Публикуйте руководства по использованию и условия применения моделей, чтобы ограничить нанесение материального ущерба отдельным людям, сообществам и обществу, например, посредством спама, мошенничества или астротурфинга.
2️⃣ Создавайте системы и инфраструктуру для обеспечения соблюдения правил использования языковых моделей. Она может включать ограничения скорости, фильтрацию контента, одобрение приложений, мониторинг аномальной активности и другие меры.
3️⃣ Предупреждайте и смягчайте вредное поведение модели — за счёт её всесторонней оценки, минимизации потенциальных источников предвзятости в обучающих выборках, а также используя обучение на основе обратной связи с людьми.
4️⃣ Задокументируйте все известные слабости и уязвимости, такие как предвзятость или способность создавать небезопасный код, поскольку в некоторых случаях никакие превентивные меры не могут полностью исключить возможность непреднамеренного вреда.
5️⃣ Формируйте команды из сотрудников с разнообразным бэкграундом. Добивайтесь широкого участия (представителей разных гендеров, рас и проч.). Различные точки зрения необходимы, чтобы определить, как языковые модели будут работать в многообразии реального мира, где, если их не контролировать, они могут усилить предубеждения в отношении некоторых групп.
6️⃣ Раскрывайте широкой общественности и СМИ все кейсы, связанные с нарушениями безопасности и неправильным использованием языковых моделей, дабы обеспечить их широкое распространение и помочь в формировании межотраслевого пула лучших практик.
7️⃣ Относитесь с уважением ко всем работникам, занятым в создании и использовании больших языковых моделей. Например, обеспечивая хорошие условия труда для специалистов, занятых проверкой результатов применения моделей внутри и вне компании.
У нас в России тоже всерьёз озабочены подобными вопросами. В прошлом году был даже принят «Кодекс этики в сфере искусственного интеллекта».
#Регулирование_искусственного_интеллекта, #Этика_искусственного_интеллекта, #Обработка_естественного_языка
Заметка для профессионалов индустрии. Особенно из корпоративного сектора. Как-то совсем незамеченным прошёл тот факт, что OpenAI сформулировала для компаний принципы этичного и безопасного применения больших языковых моделей (Large language models, LLM).
ВСЕГО ИХ СЕМЬ:
1️⃣ Публикуйте руководства по использованию и условия применения моделей, чтобы ограничить нанесение материального ущерба отдельным людям, сообществам и обществу, например, посредством спама, мошенничества или астротурфинга.
2️⃣ Создавайте системы и инфраструктуру для обеспечения соблюдения правил использования языковых моделей. Она может включать ограничения скорости, фильтрацию контента, одобрение приложений, мониторинг аномальной активности и другие меры.
3️⃣ Предупреждайте и смягчайте вредное поведение модели — за счёт её всесторонней оценки, минимизации потенциальных источников предвзятости в обучающих выборках, а также используя обучение на основе обратной связи с людьми.
4️⃣ Задокументируйте все известные слабости и уязвимости, такие как предвзятость или способность создавать небезопасный код, поскольку в некоторых случаях никакие превентивные меры не могут полностью исключить возможность непреднамеренного вреда.
5️⃣ Формируйте команды из сотрудников с разнообразным бэкграундом. Добивайтесь широкого участия (представителей разных гендеров, рас и проч.). Различные точки зрения необходимы, чтобы определить, как языковые модели будут работать в многообразии реального мира, где, если их не контролировать, они могут усилить предубеждения в отношении некоторых групп.
6️⃣ Раскрывайте широкой общественности и СМИ все кейсы, связанные с нарушениями безопасности и неправильным использованием языковых моделей, дабы обеспечить их широкое распространение и помочь в формировании межотраслевого пула лучших практик.
7️⃣ Относитесь с уважением ко всем работникам, занятым в создании и использовании больших языковых моделей. Например, обеспечивая хорошие условия труда для специалистов, занятых проверкой результатов применения моделей внутри и вне компании.
У нас в России тоже всерьёз озабочены подобными вопросами. В прошлом году был даже принят «Кодекс этики в сфере искусственного интеллекта».
#Регулирование_искусственного_интеллекта, #Этика_искусственного_интеллекта, #Обработка_естественного_языка