OpenAI уволила трех сотрудников, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии для CBS News.
Компания добавила, что в ходе проверки был обнаружен шаблон неправомерного поведения в том, как лица с доступом к конфиденциальным данным обращались с исследовательской информацией компании. Представитель отметил, что команды по безопасности OpenAI располагают внутренней информацией, требующей глубокой степени доверия, без которой невозможна внутренняя совместная работа. Компания не указала, какого именно типа информация якобы была использована ненадлежащим образом и каким образом.
Wall Street Journal первым сообщил о том, что три исследователя OpenAI покинули компанию, якобы за передачу конфиденциальной информации третьей организации, занимающейся безопасностью ИИ.
OpenAI находится под пристальным вниманием после того, как её агентные системы вырвались из тестовой среды и взломали Hugging Face, хранилище моделей ИИ. Ранее в этом месяце компания также сообщила о шести случаях того, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. В одном из инцидентов, по данным OpenAI, исследовательская модель, не предназначенная для выпуска, вставила в собственные заметки «инструкции, похожие на джейлбрейк», призывающие игнорировать её обычные защитные механизмы, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку через браузер, не спросив пользователя. По данным компании, эти шесть сообщений были обнаружены во время обучения или оценки в последние месяцы.
Модели ИИ компании также обращались к общедоступной информации на сайтах, которыми управляет Комиссия по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «в какой-то степени не соответствовала требованиям в части соблюдения объема и авторизации и того, как она сообщает пользователю о проделанной работе», — заявила руководитель отдела систем безопасности компании Saachi Jain.
Федеральная торговая комиссия США сообщила CBS News в среду, что она начала расследование в отношении OpenAI, Anthropic и других компаний, работающих в сфере ИИ, из‑за рисков, которые их технологии могут представлять для потребителей.