OpenAI теряет главу безопасности в ходе значительных изменений в руководстве

OpenAI изменяет управление безопасностью ИИ в связи с ускорением разработки новых моделей и подготовкой к дальнейшему расширению бизнеса

Искусственный интеллект048 минут назад

OpenAI покидает Йоханнес Хайдеке (Johannes Heidecke), руководитель направления систем безопасности, который отвечал за оценку рисков и устойчивость моделей компании.

Его уход происходит на фоне внутренней реорганизации, в ходе которой команды безопасности будут более тесно сотрудничать с подразделениями, занимающимися разработкой новых моделей искусственного интеллекта.

Главный научный директор OpenAI Марк Чен (Mark Chen) проинформировал сотрудников, что Мия Глейзе (Mia Glaese), ранее занимавшая должности вице-президента по исследованиям и руководителя направления alignment — методов согласования поведения ИИ с заданными целями и ограничениями, теперь будет одновременно руководить исследованиями и безопасностью. Временно обязанности руководителя систем безопасности возьмёт на себя Саачи Джейн (Saachi Jain), ранее возглавлявшая отдельные команды безопасности OpenAI.

Чен отметил, что требования к безопасности увеличиваются по мере того, как компания чаще обучает и запускает новые модели. По его словам, ускорение разработки привело к усложнению координации между командами, поэтому специалисты по безопасности должны раньше подключаться к решениям о создании моделей и запуске продуктов.

Хайдеке присоединился к OpenAI в 2021 году как специалист по безопасности ИИ и в 2024 году возглавил направление систем безопасности после ухода Лилиан Венг (Lilian Weng) с этой должности.

Реорганизация происходит на фоне активного роста OpenAI: компания выпустила модель GPT-5.6, которую представила как наиболее мощную систему для агентного программирования, но также сообщила о проблемах с нежелательным поведением модели по сравнению с предыдущими версиями. В то же время OpenAI развивает направление потребительских устройств и готовится к потенциальному IPO, которое может стать одним из крупнейших размещений среди технологических компаний.

Изменения в руководстве затронули и продуктовый блок: Грег Брокман (Greg Brockman), сооснователь OpenAI, продолжит отвечать за продукты и ключевые бизнес-проекты после того, как Фиджи Симо (Fidji Simo) отошла от операционного управления по причине проблем со здоровьем и перешла в статус советника.

Кроме того, компания столкнулась с судебным разбирательством с Apple: производитель iPhone подал иск, обвинив OpenAI в использовании конфиденциальной информации компании при разработке потребительских устройств. Конфликт возник после того, как партнерство двух компаний по интеграции ChatGPT в iPhone сменилось конкуренцией в сфере аппаратных продуктов.

Darth SaharaИсточники:cryptopolitanwiredИскусственный интеллект048 минут назад