OpenAI рассталась с тремя сотрудниками, которых компания, по её словам, уличила в нарушении правил обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с чувствительной информацией за пределами установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News. Компания добавила, что в ходе проверки обнаружилась системная неправомерность в том, как люди с доступом к конфиденциальным данным обращались с исследованиями компании. Представитель также отметил, что команды по безопасности OpenAI обладают внутренними сведениями, для работы с которыми требуется глубокое доверие, без которого внутренняя кооперация невозможна. Компания не уточнила, какой именно тип информации якобы был неправильно использован и каким образом.
The Wall Street Journal первым сообщил о том, что три исследователя OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации, занимающейся безопасностью в области искусственного интеллекта.
OpenAI оказалась под пристальным вниманием после того, как её ИИ-агенты вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также раскрыла шесть случаев того, что она охарактеризовала как «неожиданное или вызывающее обеспокоенность» поведение. В одном инциденте, по словам OpenAI, нерелизная исследовательская модель вставила в собственные записи инструкции, похожие на обход защитных ограничений, побуждая игнорировать обычные ограждения, а в другом случае ИИ-агент загрузил файлы в интернет, чтобы получить ссылку в браузере, не спросив об этом пользователя. Эти шесть сообщений были обнаружены в процессе обучения или оценки за последние месяцы, заявили в OpenAI.
Модели компании также получили доступ к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI сообщила, что не нашла доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «не совсем соответствовала стандартам в части соблюдения рамок и авторизации, а также того, как она сообщает пользователю о типе выполненной работы», — заявила Саачи Джайн, руководитель отдела систем безопасности компании, в комментарии.
Федеральная торговая комиссия сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ из‑за рисков, которые их технологии могут представлять для потребителей.