Ведущий исследователь в области безопасности ИИ в компании OpenAI, Лилиан Венг, объявила, что покидает стартап. С августа 2024 года Венг занимала должность вице-президента по исследованиям и безопасности, а до этого была главой команды OpenAI по системам безопасности. Ее последний рабочий день будет 15 ноября. И она пока не сообщила о новом месте работы. С OpenAI исследователь сотрудничала с 2018 года.
OpenAI покинул еще один специалист по безопасности ИИ https://rb.ru/news/openai-bezopasnostii/
Автор: Екатерина Алипова https://rb.ru/author/alipova/ Подписаться на RB.RU в Telegram
В посте на X Венг написала, что после 7 лет работы в OpenAI почувствовала, что «готова начать все с чистого листа и исследовать что-то новое». Она добавила, что решение покинуть компанию было «крайне трудным»:
Венг пришла в OpenAI в команду стартапа по робототехнике, а в 2021 году перевелась в подразделение по исследованию прикладного ИИ. После запуска GPT-4 в 2023 году Лилиан было поручено создать специальную команду для разработки систем безопасности, где сейчас порядка 80 человек.
Уход Венг стал еще одним звеном в длинной цепи покидающих OpenAI исследователей в области безопасности ИИ, многие из которых обвиняли компанию в том, что она ставит коммерческую выгоду от продукта выше безопасности.
Ранее компанию оставили Илья Суцкевер и Ян Лейке — руководители распущенной команды Superalignment, которая пыталась разработать методы управления сверхразумными системами ИИ. Среди ушедших из-за неосторожности в отношении политик ИИ были также Андрей Карпати, Майлз Брандейдж и Сучире Баладжи.
Кроме того, OpenAI массово оставляет и топ-менеджмент. Среди руководителей, покинувших OpenAI в последние месяцы, — технический директор Мира Мурати, соучредитель Джон Шульман, директор по исследованиям Боб МакГрю и вице-президент по исследованиям Баррет Зоф.
Некоторые из этих людей, в том числе Лейке и Шульман, перешли в конкурирующую с OpenAI компанию Anthropic, а другие основали собственные предприятия.
Освободите время и зарабатывайте больше с помощью ИИ! Пройдите курс и получите в подарок лучшие промты для решения бизнес-задач.
Comments are closed, but trackbacks and pingbacks are open.