Ян Лейке: OpenAI на самом деле не готовится к появлению сверхразумного ИИ

В июле прошлого года OpenAI объявила о создании новой команды разработчиков, которая должна была обеспечить условия появления сверхразумного искусственного интеллекта. Ее главами стали Илья Суцкевер и один из сооснователей компании, Ян Лейке. Команда получила 20% вычислительной мощности OpenAI, https://arstechnica.com/ai/2024/05/what-happened-to-openais-... Ars Technica. Теперь этой команды уже нет, а результаты ее деятельности были переданы другим проектам.

Недавнее https://hightech.plus/2024/05/15/ilya-suckever-oficialno-pok... Суцкевера было связано с провалившейся попыткой захвата власти в компании полгода назад. Уход же Лейке не вызвал такого внимания СМИ, пока он не опубликовал в Х сообщение, в котором объяснил свое решение несогласием с приоритетами компании и объемом выделенных его команде ресурсов.

«Я продолжительное время не был согласен с руководством OpenAI относительно главных приоритетов компании и, в конце концов, мы не достигли переломной точки, - написал Лейке. – За последние несколько месяцев моя команда плыла против ветра. Иногда нам не хватало вычислительных мощностей, и становилось все труднее выполнять эти важные исследования».

«За последние годы культура и процессы безопасности была отодвинута назад в угоду блестящим товарам», - написал Лейке.

Напомним, что год назад в блоге этой команды появилось сообщение: «На сегодня мы не знаем, как управлять или контролировать потенциальный сверхразумный ИИ и как помешать ему выйти из-под контроля». Суцкевер неоднократно высказывался о необходимости соблюдения осторожности в разработке мощных ИИ, способности которых могут превосходить способности людей.

По мнению Лейке, начинать серьезно относиться к рискам универсального ИИ надо было давно. «Мы должны поставить в приоритет максимально эффективную подготовку к их появлению, - написал он на днях. – Только тогда мы сможем гарантировать, что УИИ будет приносить пользу человечеству».

За последние полгода команда Лейка лишилась еще троих инженеров: Леопольд Ашенбреннер и Павел Измайлов были уволены за утечку конфиденциальной информации, а Уильям Сондерс ушел в феврале сам. Сменили работу и несколько сотрудников из других отделов.

Руководство OpenAI не прокомментировало уход Лейка и других членов команды универсального ИИ, будущее этого проекта также неизвестно. Исследованиями рисков появления более мощных моделей ИИ займется теперь Джон Шульман, назначенный на место Суцкевера.

На днях президент OpenAI Грег Брокман  https://venturebeat.com/ai/openai-president-shares-first-ima... в своем аккаунте X первое общедоступное изображение, созданное с использованием новой модели компании GPT-4o. Иллюстрация выглядит реалистично, демонстрирует точность генерации текста и значительно превосходит по качеству DALL-E 3. Но пока функции создания изображений GPT-4o недоступны широкой публике.