Microsoft работает над снижением затрат на создание искусственного интеллекта (ИИ) и в целом над более эффективными вычислениями. В недавно опубликованном документе компания рассказывает о своем новом ИИ-сервисе под кодовым названием Singularity («сингулярность»). Сама статья называется «Singularity: глобальное гибкое планирование нагрузок ИИ», в ней описывается суть работы нового продукта в технических терминах.
Singularity — это полностью управляемая, глобально распределенная инфраструктура для работы с нагрузками ИИ от Microsoft с поддержкой различных аппаратных ускорителей. Singularity разработана с нуля для масштабирования глобального уровня в рамках сотен тысяч графических процессоров и других ускорителей ИИ. Singularity создана с одной ключевой целью: снижение стоимости ИИ путем максимизации совокупной полезной пропускной способности при заданном фиксированном пуле мощностей ускорителей в планетарном масштабе, при обеспечении жестких SLA для разных ценовых уровней.
—объясняют в своем документе специалисты Microsoft Azure и Research.
Если простым языком, то Singularity позволит тысячам графических процессоров и ускорителей ИИ работать вместе — это глобальная инфраструктура, которая повышает эффективность работы. Все устройства в рамках инфраструктуры работают как единый кластер, благодаря чему устройства могут использоваться на полную мощность.
Singularity также может приоритизировать нагрузки: «По возможности используя свободные мощности, Singularity также обеспечивает изоляцию, соблюдая SLA на уровне заданий, — уточняет Microsoft, — так, Singularity адаптируется к возрастающей нагрузке вывода, высвобождая мощности за счет гибкого уменьшения масштаба или вытеснения задач обучения».
По сравнению с другими системами, которым при сбое требуется перезапускаться, Singularity может вернуться к тому моменту, когда работа прервалась. Это значительно сокращает лишние затраты энергии, поскольку обучение DNN может занимать несколько недель.
Microsoft уже не первый год интенсивно финансирует разработки ИИ — например, в 2019 году компания инвестировала 1 млрд. долларов в OpenAI. Azure — один из самых мощных суперкомпьютеров в мире на ноябрь 2021 года. Системы Azure используются для масштабных вычислений и машинного обучения.
Как отмечает портал ZDNet, Microsoft уже использовал название Singularity для другого проекта раньше — им должна была стать микроядерная операционная система.