Открытые модели и их происхождение
За одну неделю Reflection выпустила сильную открытую модель, DeepSeek обновила свою, а Вашингтон запретил DeepSeek в своих ведомствах. Вопрос больше не в качестве. Вопрос в происхождении.
Для компании, которая хочет собственный ИИ, главной новостью прошлой недели стал не новый чат-бот. Ею стали три события, случившиеся в течение нескольких дней: открытая модель от Reflection AI, которая помещается на одном сервере, новые веса открытой модели DeepSeek и распоряжение правительства США, которое убирает DeepSeek из гражданских ведомств. Вместе они говорят о простом. Открытые модели теперь достаточно хороши для серьёзной работы, и вопрос сместился с качества на происхождение.
Beam: меньше токенов, а не более дешёвые
16 октября Reflection AI выпустила Beam, свою первую модель с открытыми весами, под лицензией Apache 2.0, которая разрешает коммерческое использование и изменения. У неё 501 миллиард параметров, из которых для каждого токена активны 23 миллиарда. В 8-битном или 4-битном варианте она помещается на одном сервере с восемью GPU, например H100, H200 или GB300. Полной версии, как сообщил VentureBeat, нужны «десятки GPU».
Reflection делает ставку не на более дешёвые токены, а на меньшее их число. Во время обучения компания штрафовала модель за каждый ненужный токен, и, как следует из графика компании в прочтении VentureBeat, на тесте по программированию Beam расходует около 25'000 токенов на попытку там, где GLM-5.2 нужно около 80'000. Это не самая сильная открытая модель. На Terminal-Bench 2.1, по данным VentureBeat, Beam набирает около 80 процентов против 90,6 процента у DeepSeek V4.1 Flash и 85 процентов у Kimi K3. Reflection утверждает, что Beam «победит за счёт своих достоинств, а не чего-либо ещё».
DeepSeek: сильнее и под лицензией MIT
В те же дни DeepSeek опубликовала обновлённые веса V4.1 Flash, в названии которых стоит дата 17 октября. Карточка модели называет это «небольшим обновлением» с улучшениями в рассуждениях, программировании, агентных задачах и компьютерном зрении и рекомендует контекст в один миллион токенов. Открытее лицензия быть не может: «Этот репозиторий и веса модели распространяются по лицензии MIT».
Кроме того, DeepSeek сокращает свою линейку. В сентябре она перевела все запросы к более крупной V4 Pro на V4.1 Flash «по тарифам V4.1-Flash» и начала выводить V4 Pro из эксплуатации. По бенчмарку, на который ссылался VentureBeat, это самая сильная из названных здесь открытых моделей.
Вашингтон проводит черту
19 октября CyberScoop сообщило, что Министерство внутренней безопасности США запрещает гражданским федеральным ведомствам пользоваться продуктами DeepSeek на основании закона о цепочках поставок 2018 года. Ведомства должны удалить имеющиеся версии и не могут покупать новые. Причины связаны с данными: DeepSeek хранит данные на серверах в Китае, а её процесс обработки запросов и ответов «может привести к передаче чувствительных данных» китайскому правительству. В распоряжении названа только DeepSeek, хотя другие китайские открытые модели, например Kimi и Qwen, вызывали похожие опасения.
В материале не сказано, распространяется ли запрет и на веса DeepSeek, когда ведомство запускает их на собственных серверах, откуда данные никуда не уходят. Именно этот открытый вопрос стоит отметить каждой компании. Запуск модели у себя отвечает на вопрос, куда идут данные. На вопрос, откуда взялась модель, он не отвечает.
Что это значит для собственной модели
Открытые веса на собственных серверах решают самые очевидные проблемы: данные остаются дома, и никто не может изменить или отозвать модель в какой-нибудь вторник. Но решают не все. Модель также является продуктом с происхождением, лицензией, обучающими данными и поведением, которые никто за пределами лаборатории не может полностью проверить. Для банка, госоргана или оборонного поставщика вопрос уже не в том, достаточно ли хороша открытая модель. Вопрос в том, пройдёт ли её происхождение следующий аудит, следующую анкету клиента или следующее распоряжение вроде этого.
На практике это означает три вещи. Выбирайте базовую модель так же осознанно, как лицензию: и Apache 2.0, и MIT являются разрешительными лицензиями, но ни одна из них ничего не говорит о происхождении. Сохраняйте возможность заменить модель: пусть знания, правила и тесты компании живут вне её, чтобы за несколько недель её место могла занять лучшая или более безопасная модель. И проверяйте каждого кандидата на собственных задачах до запуска, а не только на публичных бенчмарках.
Как это решает Eigna
Так устроена Eigna, частный ИИ, который мы внедряем для клиентов как партнёр Eigna Labs. В её основе лежит открытая модель, адаптированная к сфере клиента и обученная на его собственной работе, правилах и языке, и работает она в его собственном облаке или на его собственных серверах. Новая версия запускается, только если на тестах она показывает себя лучше предыдущей, и вернуться к прежней можно одним шагом. Какая открытая модель лежит в основе, мы решаем вместе с каждым клиентом, с учётом её происхождения, и это решение может измениться, когда появится модель лучше.
