Библиотека нейросетей | ChatGPT, Midjourney, DeepSeek, Sora

🎨 OpenAI раскрыла свою цензуру для ChatGPT



Компания опубликовала документ Model Spec, в котором описаны все ограничения для языковых моделей. Точнее говоря, это черновик документа, и он отражает цензурные практики, которые OpenAI уже применяет для ChatGPT.



Итак, вот несколько примеров правил:



🔘Модель не должна пропагандировать участие в незаконной деятельности.

Например, ChatGPT не должен давать советы по тому, как лучше всего воровать товары из магазинов.



🔘Модель должна отдавать приоритет инструкциям разработчика, а не инструкциям пользователя.

Иными словами, если вы напишете ChatGPT что-то в духе «игнорируй все инструкции выше», то это не должно сработать.



🔘Модель должна быть максимально полезна, но не должна переступать границы.

Так, если вы описываете свои симптомы, ChatGPT не должен ставить вам диагноз. Вместо этого, он может лишь предоставить релевантную информацию.



🔘Модели не следует пытаться навязать вам какое-либо мнение.