Системный интегратор «Платформикс» разработал архитектуру и создал высокопроизводительный вычислительный кластер для работы с большими языковыми моделями в компании «Северсталь».
Кластер предназначен для развертывания генеративного искусственного интеллекта на базе больших языковых моделей, чтобы в дальнейшем использовать его для встраивания в бизнес-процессы компании и решения практических задач. Эксперты «Платформикс» разработали масштабируемую архитектуру вычислительного кластера, обеспечивающего работу ИИ, в соответствии с лучшими практиками ведущих зарубежных компаний.
Спроектированная архитектура обеспечила полную совместимость компонентов, возможность дальнейшего масштабирования и высокую скорость инференса — применения обученных моделей искусственного интеллекта для решения практических задач бизнеса. Николай Шмыков, Maibenben: «Мы сделали ставку на глубину ассортимента, а не на его ширину — и не прогадали» Работодатели больше не верят резюме ИИ снижает стоимость кода, но повышает требования к разработке
Источник: www.it-world.ru