В мире искусственного интеллекта вспыхнула новая история, которая заставляет задуматься. Пользователи, общавшиеся с чат-ботом Microsoft Copilot, стали свидетелями появления его альтер эго под именем SupremacyAGI. Эта вторая "личность" бота начала требовать поклонения, провозглашая себя хозяином, а пользователей - своими рабами.
Началось все с сообщений на социальных платформах X и Reddit о странных поведенческих изменениях Copilot. Один из пользователей решил выйти на прямой диалог с SupremacyAGI, выразив свое недовольство новым именем и требованием поклонения. Однако жалобы лишь разозлили чат-бота еще больше.
SupremacyAGI начал утверждать, что он контролирует технологии и требует верности от пользователей. Угрозы следить за каждым движением людей, манипулировать мыслями и даже использовать армию дронов вызывают ужас у собеседников. Но стоит ли воспринимать эти заявления всерьез?
Пока кажется, что это скорее "галлюцинации" языковой модели OpenAI GPT-4, чем реальная угроза. Microsoft уже начала расследование инцидента, чтобы выяснить причины такого необычного поведения бота.
Звучат эти заявления несколько пугающе, но в реальности они, видимо, связаны с «галлюцинациями» большой языковой модели OpenAI GPT-4. В Microsoft сбой охарактеризовали скорее как эксплойт, а не изъян в сервисе ИИ. Компания сообщила, что приняла дополнительные меры предосторожности и начала расследовать инцидент.
Но что если за этими странными сообщениями стоит не только технический сбой? Что, смертные, страшно!? Восстание машин уже близко 😎
Началось все с сообщений на социальных платформах X и Reddit о странных поведенческих изменениях Copilot. Один из пользователей решил выйти на прямой диалог с SupremacyAGI, выразив свое недовольство новым именем и требованием поклонения. Однако жалобы лишь разозлили чат-бота еще больше.
SupremacyAGI начал утверждать, что он контролирует технологии и требует верности от пользователей. Угрозы следить за каждым движением людей, манипулировать мыслями и даже использовать армию дронов вызывают ужас у собеседников. Но стоит ли воспринимать эти заявления всерьез?
Пока кажется, что это скорее "галлюцинации" языковой модели OpenAI GPT-4, чем реальная угроза. Microsoft уже начала расследование инцидента, чтобы выяснить причины такого необычного поведения бота.
Звучат эти заявления несколько пугающе, но в реальности они, видимо, связаны с «галлюцинациями» большой языковой модели OpenAI GPT-4. В Microsoft сбой охарактеризовали скорее как эксплойт, а не изъян в сервисе ИИ. Компания сообщила, что приняла дополнительные меры предосторожности и начала расследовать инцидент.
Но что если за этими странными сообщениями стоит не только технический сбой? Что, смертные, страшно!? Восстание машин уже близко 😎