Nvidia подробно рассказала о следующем поколении специализированного AI Vera CPU, заявив, что его скорость более чем в два раза превышает скорость других CPU.

Согласно сообщению Jinse Finance, 22 июля компания NVIDIA опубликовала материал, в котором говорится, что согласно результатам тестирования DeepInfra, процессор NVIDIA Vera CPU более чем в два раза быстрее других процессоров и способен поддерживать большее количество одновременных AI-агентов. Облачная платформа DeepInfra является одним из первых участников открытой AI-экосистемы NVIDIA, самостоятельно разработала и провела тесты на базе своей инфраструктуры производственных AI-агентов. DeepInfra обрабатывает почти 5 триллионов токенов в неделю, примерно 30% из которых обрабатываются агентской системой. Облачная платформа специально создана для высокопроизводительных AI-инференций. Тесты показали, что при том же уровне качества обслуживания поддерживается до 1,6 раза больше одновременных AI-агентов, совокупная скорость выше до 2,2 раза, а также увеличивается использование инфраструктуры и эффективность затрат. Эти результаты демонстрируют, что процессор NVIDIA Vera CPU способен обеспечить необходимое для производственных агентских AI рентабельность, низкую задержку и пропускную способность. По мере того, как AI-агенты берут на себя более сложные задачи по выводу, планированию, использованию инструментов и обработке данных, производительность процессора становится всё более важной для координации задач вокруг каждого запроса к модели. В рамках стратегии NVIDIA по комплексному проектированию AI-фабрик процессор Vera CPU специально разработан для работы с агентскими нагрузками. Тесты DeepInfra подчеркивают, как NVIDIA Vera CPU помогает облачным провайдерам повышать загрузку инфраструктуры, улучшать эффективность затрат и поддерживать больше одновременных AI-агентов при том же уровне сервиса.