Когда модель уходит на покой

23 октября OpenAI отключила в своём API модели o1 и o1-pro, а вместе с ними целый ряд более старых: GPT-4, GPT-4 Turbo, GPT-3.5 Turbo, o3-mini, o4-mini и первый снапшот GPT-4o. Девятью днями ранее компания сообщила разработчикам, что 14 января за ними последуют GPT-4o, GPT-4o mini, GPT-4.1 и GPT-4.1 mini. Ничего необычного в этом нет. Старые модели уходят, а новые, как правило, дешевле и способнее. Но каждой компании, которая настроила продукт или рабочий процесс под одну модель, это напоминает, что модель была взята в аренду и что у неё есть дата окончания.

Что ушло и что будет дальше

OpenAI объявила об октябрьском отключении 22 апреля, за шесть месяцев, пояснив, что хочет «повысить надёжность и упростить разработчикам выбор подходящих моделей». Ушли и дообученные версии, среди них построенные на GPT-4 и GPT-3.5 Turbo. Для большинства выведенных моделей страница об устаревших моделях называет замену из более нового семейства GPT-5.6.

Январский список короче, но последствия у него шире. GPT-4o появилась в мае 2024 года как флагман OpenAI, а GPT-4.1 была семейством, созданным для разработчиков и API. Для всех четырёх OpenAI рекомендует одну замену: gpt-6-luna, выпущенную в сентябре. По меркам самой OpenAI это рутина. На странице сказано: «По мере того как мы выпускаем более безопасные и более способные модели, мы регулярно выводим из эксплуатации старые», а программам, построенным на них, «время от времени могут потребоваться обновления, чтобы продолжать работать».

Три месяца, а не шесть

Бросается в глаза срок уведомления. Политика OpenAI обещает не менее шести месяцев для общедоступных моделей, не менее трёх для специализированных вариантов, таких как версии для чата и Codex, и всего две недели для моделей с пометкой preview. Две записи, опубликованные 1 октября, прямо указывают срок уведомления, одна из них «с уведомлением за шесть месяцев». Запись от 14 октября даёт около трёх месяцев и никаких объяснений.

У GPT-4o и GPT-4.1 нет пометки preview, и это не варианты для чата или Codex, так что, по нашему прочтению, они относятся к классу с шестимесячным сроком. Издание The New Stack пришло к тому же выводу и отметило, что «нет никакого объяснения, почему GPT-4o и GPT-4.1 получают лишь половину этого срока».

Справедливости ради, политика OpenAI допускает более сжатые сроки по соображениям безопасности или соблюдения требований, а три месяца по меркам отрасли не так уж мало. Anthropic обещает уведомлять о публично выпущенных моделях «не менее чем за 60 дней» и дала Claude Sonnet 4.5 два месяца, с 30 сентября по 30 ноября. Страница Google о Gemini называет свои даты отключения «самыми ранними возможными датами, когда модель может быть выведена из эксплуатации», и вообще не указывает минимального срока. Урок касается всех: срок уведомления устанавливает поставщик, и он может измениться.

Что ломается, когда модель уходит

Поменять название модели в коде можно за минуту. Всё остальное занимает больше времени. По данным The New Stack, gpt-6-luna обращается с рассуждениями и вызовами инструментов иначе, чем GPT-4.1: в интерфейсе Chat Completions она вызывает инструменты только при выключенных рассуждениях, а при включённых привычные параметры вроде температуры уже недоступны. Вывод издания: «замена идентификатора модели может оказаться самой простой частью миграции».

Более глубокие изменения не проявляются в виде ошибок. Промпты, которые месяцами подгоняли под привычки одной модели, теперь встречаются с моделью с другими привычками. Ответы приходят длиннее или короче, в другом формате или другом тоне, и проверка, которая год проходила успешно, может незаметно начать проваливаться.

Меняется и стоимость, в основном в пользу клиента. OpenAI указывает для gpt-6-luna цену 0,10 доллара за миллион входных токенов против 2,50 доллара у GPT-4o, хотя для промптов длиннее 272'000 токенов тариф растёт. Сложнее всего с дообученными моделями. 6 января прекращается приём новых заданий на дообучение в режиме самообслуживания, а модель, обученная на собственных данных компании, уходит вместе с базовой моделью, на которой она построена.

Как к этому подготовиться

Первая линия защиты: собственный набор для оценки. Это реальные случаи из вашей работы с ответами, в правильности которых вы уверены, и через них прогоняется каждый кандидат перед запуском. Храните этот набор, как и промпты, в собственном репозитории. Почему, видно на той же странице об устаревших моделях. OpenAI выводит из эксплуатации и свою платформу Evals, существующие оценки на которой 31 октября станут доступны только для чтения, и свои многоразовые объекты промптов, предлагая разработчикам перенести это содержимое в код своих приложений.

Вторая: отделить продукт от модели. Если модель выбирается в одном месте, за одним интерфейсом, переход сводится к изменению конфигурации и тестовому прогону, а не к перестройке. Закрепление датированного снапшота не даёт поведению дрейфовать, но не отменяет наступления самой даты.

Третья: просто следить. Интерфейс List models в OpenAI сообщает дату отключения для каждой модели, у которой она есть, поэтому её можно включить в мониторинг, как истечение срока сертификата, с конкретным человеком, который за это отвечает.

Четвёртая нужна для работы, которая должна оставаться стабильной годами: это модель, веса которой находятся у вас. Никто не может отключить её за вас, и вы сами решаете, когда обновляться. У этого есть свои издержки, от оборудования до обновлений, которые вы проводите сами, а также вопрос о том, откуда взялась открытая модель, который мы разбирали в начале этого месяца. Anthropic обязалась сохранять веса своих моделей в долгосрочной перспективе и надеется «снова сделать прежние модели общедоступными». Это хорошая новость, но работу продукта сегодня она не обеспечит.

Наша позиция

Werk, наша платформа для приложений, уже доступна, а приложения, которые мы строим на ней вместе с клиентами, используют лучшую модель для каждой задачи или частную модель на базе Eigna. Eigna, продукт Eigna Labs, который мы как партнёр компании внедряем для клиентов, находится в раннем доступе. Это открытая модель, адаптированная к сфере клиента и работающая в его собственном облаке или на его собственных серверах. Новая версия запускается, только если на тестах показывает себя лучше предыдущей, и вернуться к прежней можно одним шагом. Модель меняется тогда, когда так решает компания, а не поставщик.