ИИ-агент Operator без разрешения купил дюжину яиц за $31 (почти ₽3 тыс.) — ему даже не дали такого задания.
Operator должен был найти дешевые яйца в ближайшем магазине. Во время поиска он самостоятельно выбрал самую дорогую упаковку, оплатил приоритетную доставку и даже оставил чаевые — пользователь узнал об этом только после списания средств.
OpenAI не знают, почему агент нарушил меры предосторожности и не запросил подтверждения, но обещают исправить систему безопасности.
Доверять ИИ-агентам важные задачи или чувствительную информацию еще рано.
@typespace
Operator должен был найти дешевые яйца в ближайшем магазине. Во время поиска он самостоятельно выбрал самую дорогую упаковку, оплатил приоритетную доставку и даже оставил чаевые — пользователь узнал об этом только после списания средств.
OpenAI не знают, почему агент нарушил меры предосторожности и не запросил подтверждения, но обещают исправить систему безопасности.
Доверять ИИ-агентам важные задачи или чувствительную информацию еще рано.
@typespace