Технологический гигант Яндекс представил результат масштабной внутренней разработки — большую языковую модель Alice AI Foundation LLM. Как сообщили пресс-службе РБК в компании, этот проект был реализован полностью самостоятельно, без привлечения зарубежных программных или программно-аппаратных компонентов. Новинка получила открытый доступ: разработчики опубликовали веса модели под лицензией Apache 2.0, что позволяет использовать ее как в научных исследованиях, так и в коммерческих целях.
В основе Alice AI Foundation LLM лежит архитектура Mixture of Experts (MoE). Общий объем модели составляет 80 миллиардов параметров, однако в процессе генерации ответа одновременно задействуются лишь 3 миллиарда из них. Такая структура позволяет существенно экономить вычислительные мощности. Обучение нейросети проходило на колоссальном массиве данных — 18 триллионах токенов. По заявлениям представителей Яндекса, модель демонстрирует впечатляющую эффективность в написании программного кода и логических рассуждениях. Кроме того, при проверке знаний, важных для русскоязычной аудитории, она превосходит некоторые более массивные открытые аналоги.
Данная версия является экспериментальным фундаментом для создания будущей единой рассуждающей системы. Ее главная задача — стать базой для развития агентных функций в рамках сервиса «Алиса AI». Это позволит пользователям не просто получать информацию, а делегировать искусственному интеллекту выполнение конкретных прикладных задач.
Для объективной проверки способностей новой модели компания создала собственные инструменты оценки — бенчмарки WikiWebFacts и HardMultiQA. Если первый сосредоточен на проверке точности дат, имен и исторических событий, то второй проверяет глубину знаний в специализированных сферах, таких как право, медицина, искусство и IT. Все наборы тестов, включая протоколы оценки и эталонные решения, также переданы в открытый доступ.
Процесс создания модели сопровождался серьезной инженерной оптимизацией. Разработчикам удалось практически вдвое ускорить ключевые этапы обучения за счет эффективной настройки передачи данных между видеокартами. Также применение каскада классификаторов позволило в десятки раз уменьшить нагрузку на системы при фильтрации обучающей выборки.
Появление подобной разработки вписывается в текущий правовой контекст. Представитель аппарата вице-премьера Дмитрия Григоренко подчеркнул, что с 1 сентября вступил в силу закон № 243-ФЗ об искусственном интеллекте. Этот документ устанавливает строгие рамки для национальных ИИ-решений: компоненты суверенных моделей должны иметь исключительно отечественное происхождение. Стоит отметить, что развитие этого направления законодательно закреплено: ранее, 8 июля, Госдума приняла закон о развитии технологий ИИ, который был подписан президентом России Владимиром Путиным 26 июля.
