Системный интегратор «Платформикс» разработал архитектуру и создал высокопроизводительный вычислительный кластер для работы с большими языковыми моделями в компании «Северсталь».
Кластер предназначен для развертывания генеративного искусственного интеллекта на базе больших языковых моделей, чтобы в дальнейшем использовать его для встраивания в бизнес-процессы компании и решения практических задач. Эксперты «Платформикс» разработали масштабируемую архитектуру вычислительного кластера, обеспечивающего работу ИИ, в соответствии с лучшими практиками ведущих зарубежных компаний.
Спроектированная архитектура обеспечила полную совместимость компонентов, возможность дальнейшего масштабирования и высокую скорость инференса — применения обученных моделей искусственного интеллекта для решения практических задач бизнеса.
Виктория Ефимова, владелец платформы генеративного ИИ «Северстали», поделилась: «Для нас данный проект был первым, где потребовалось решить задачу создания крупного физического вычислительного кластера для инференса LLM. Благодаря „Платформикс“ мы не только в короткие сроки смогли сделать закупку и настройку оборудования, но и заложили фундамент для будущего масштабирования, которое также реализовываем с этим подрядчиком».
Евгений Илюшин, системный архитектор отдела комплексных решений «Платформикс», добавил: «Проект потребовал применения нестандартных подходов к поиску решения, обеспечивающего достижение целей заказчика. По итогам анализа всех возможных вариантов реализации в кратчайшие сроки было выбрано оптимальное решение».
Источник: Пресс-служба компании «Платформикс»
