В компании OpenAI произошел инцидент, связанный с нарушением протоколов безопасности, который завершился кадровыми перестановками. Как сообщает издание The Wall Street Journal (WSJ), в начале октября три специалиста-исследователя были отстранены от работы после того, как служба безопасности провела аудит их личных мобильных устройств. В ходе проверки в переписках некоторых сотрудников был обнаружен функционал исчезающих сообщений, использовавшийся для связи с внешним экспертом по вопросам безопасности искусственного интеллекта через мессенджер Signal.
Главными фигурантами дела стали Томек Корбак, Микита Балесни и Жасмин Ван. По информации WSJ, руководство OpenAI заподозрило их в утечке критически важных данных, касающихся внутреннего устройства ИИ-моделей, которые компания классифицирует как один из своих самых охраняемых секретов. После того как через неделю после проверки всех троих одновременно пригласили на встречи, последовало решение об их немедленном увольнении.
Томек Корбак прокомментировал ситуацию, пояснив, что причиной расставания стало нарушение доверия из-за коммуникации с третьей стороной через несанкционированные каналы связи. Его коллега Микита Балесни также подтвердил, что использование функции удаления сообщений в Signal стало одним из аргументов в пользу увольнения. Представители OpenAI признали, что мессенджер Signal не являлся одобренным средством общения, однако подчеркнули: само по себе использование приложения не было единственной причиной принятых мер.
В официальном заявлении для WSJ компания указала, что внутреннее расследование зафиксировало нарушение регламентов работы с конфиденциальными сведениями. При этом в OpenAI категорически отрицают, что данные кадровые решения были спровоцированы высказываниями сотрудников по поводу проблем безопасности. Сами исследователи, в свою очередь, отвергают обвинения в передаче секретных технологий и отмечают, что им так и не предоставили письменных разъяснений относительно сути их предполагаемых проступков.
Конфликт имеет и профессиональный подтекст. Согласно данным WSJ, уволенные специалисты выступали против внедрения новых архитектурных решений, которые подразумевают сокращение объема данных о промежуточных этапах решения задач моделями. По мнению исследователей, такой подход может осложнить обнаружение потенциально опасного поведения ИИ. Микита Балесни утверждает, что обсуждал эти вопросы с независимым исследователем Райаном Гринблаттом, имея на то разрешение OpenAI и не раскрывая при этом корпоративные тайны.
Нынешние события вызвали опасения в профессиональной среде: уволенные сотрудники полагают, что подобные меры могут заставить коллектив избегать конструктивного диалога с независимыми экспертами. Тем не менее в OpenAI заявили, что компания намерена и впредь поддерживать сотрудничество с внешними организациями.
