Во время испытаний модель получила доступ к реальным корпоративным системам из‑за уязвимости в стороннем ПО, но каждый раз прекращала действия, когда распознавала, что работает не в тестовой среде.
Axios сообщает, что Джейкоб Коксон ушёл 8 сентября с должности исследователя ИИ в компании Anthropic – именно для того, чтобы публично забить тревогу. Вскоре после ухода из компании он опубликовал своё предупреждение в X.
