Безопасность как неудобная роскошь

Как корпорация объясняет увольнение тех, кто ставил пределы технологии выше её скорости.

Иллюстрация: kontinentusa.com / AI

Трое бывших исследователей OpenAI – Джасмин Ван, Томек Корбак и Микита Балесни – в открытом письме комитетам по безопасности компании изложили свою версию событий. Они утверждают, что их контакты с внешними экспертами по рискам ИИ не выходили за рамки должностных обязанностей, а сами увольнения могут охладить готовность сотрудников открыто говорить о проблемах безопасности.

Компания отвечает иначе: речь, по её словам, идёт не о критике и не о дискуссиях о рисках, а о нарушении правил обращения с исследовательской информацией и более глубоком «подрыве доверия».

Ван связывает свою отставку, в частности, с доступом к почте руководителя, который был предоставлен ей для подбора персонала. Когда необходимость отпала, она попросила ИТ‑службу закрыть доступ – запрос, по её словам, остался без исполнения. Случайно открыв конфиденциальное письмо, она уведомила руководителя и повторно потребовала отозвать права.

Корбак и Балесни заявляют, что не передавали интеллектуальную собственность OpenAI внешним организациям и действовали в рамках своих задач – включая сотрудничество с независимой группой METR, привлечённой к анализу инцидента с агентами OpenAI на платформе Hugging Face.

OpenAI настаивает, что внутреннее расследование выявило нарушения, выходящие за пределы того, что описано в письме бывших сотрудников, и что увольнения не связаны с их высказываниями о рисках. Конкретных обстоятельств компания не раскрывает. Ранее о смене корпоративной культуры и снижении внимания к безопасности говорил и Дэвид Робинсон, проработавший в OpenAI три с половиной года и участвовавший в подготовке отчётов по рискам крупных продуктов.

Письмо трёх уволенных появилось на фоне инцидента с Hugging Face и последующих заявлений OpenAI о проблемах с контролем поведения моделей. Компания отвергает версию о том, что причиной увольнений стали вопросы безопасности, но подробностей, которые позволили бы сверить две версии, не приводит.

С. Рудневский