Как и зачем мерить FLOPSы
Как известно, FLOPS – это единица измерения вычислительной мощности компьютеров в (попугаях) операциях с плавающей точкой, которой часто пользуются, чтобы померить у кого больше. Особенно важно померяться FLOPS’ами в мире Top500 суперкомпьютеров, чтобы выяснить, кто же среди них самый-самый. Однако, предмет измерения должен иметь хоть какое-нибудь применение на практике, иначе какой смысл его замерять и сравнивать. Поэтому для выяснения возможностей супер- и просто компьютеров существуют чуть более приближенные к реальным вычислительным задачам бенчмарки, например, SPEC: SPECint и SPECfp. И, тем не менее, FLOPS активно используется в оценках производительности и публикуется в отчетах. Для его измерения давно уже использовали тест Linpack, а сейчас применяют открытый стандартный бенчмарк из LAPACK. Что эти измерения дают разработчикам высокопроизводительных и научных приложений? Можно ли легко оценить производительность реализации своего алгоритма в FLOPSaх? Будут ли измерения и сравнения корректными? Обо всем этом мы поговорим ниже.
Давайте сначала немного разберемся с терминами и определениями. Итак, FLOPS – это количество вычислительных операций или инструкций, выполняемых над операндами с плавающей точкой (FP) в секунду. Здесь используется слово «вычислительных», так как микропроцессор умеет выполнять и другие инструкции с такими операндами, например, загрузку из памяти. Такие операции не несут полезной вычислительной нагрузки и поэтому не учитываются.
Значение FLOPS, опубликованное для конкретной системы, – это характеристика прежде всего самого компьютера, а не программы. Ее можно получить двумя способами – теоретическим и практическим. Теоретически мы знаем сколько микропроцессоров в системе и сколько исполняемых устройств с плавающей точкой в каждом процессоре. Все они могут работать одновременно и начинать работу над следующей инструкцией в конвеере каждый цикл. Поэтому для подсчета теоретического максимума для данной системы нам нужно только перемножить все эти величины с частотой процессора – получим количество FP операций в секунду. Все просто, но такими оценками пользуются, разве что заявляя в прессе о будущих планах по построению суперкомпьютера.
Практическое измерение заключается в запуске бенчмарка Linpack. Бенчмарк осуществляет операцию умножения матрицы на матрицу несколько десятков раз и вычисляет усредненное значение времени выполнения теста. Так как количество FP операций в имплементации алгоритма известно заранее, то разделив одно значение на другое, получим искомое FLOPS. Библиотека Intel MKL (Math Kernel Library) содержит пакет LAPAСK, — пакет библиотек для решения задач линейной алгебры. Бенчмарк построен на основе этого пакета. Cчитается, что его эффективность находится на уровне 90% от теоретически возможной, что позволяет бенчмарку считаться «эталонным измерением». Отдельно Intel Optimized LINPACK Benchmark для Windows, Linux и MacOS можно качать здесь, либо взять в директории composerxe/mkl/benchmarks, если у вас установлена Intel Parallel Studio XE.
Очевидно, что разработчики высокопроизводительных приложений хотели бы оценить эффективность имплементации своих алгоритмов, используя показатель FLOPS, но уже померянный для своего приложения. Сравнение измеренного FLOPS с «эталонным» дает представление о том, насколько далека производительность их алгоритма от идеальной и каков теоретический потенциал ее улучшения. Для этого всего-навсего нужно знать минимальное количество FP операций, требуемое для выполнения алгоритма, и точно измерить время выполнения программы (ну или ее части, выполняющей оцениваемый алгоритм). Такие результаты, наряду с измерениями характеристик шины памяти, нужны для того, чтобы понять, где реализация алгоритма упирается в возможности аппаратной системы и что является лимитирующим фактором: пропускная способность памяти, задержки передачи данных, производительность алгоритма, либо системы.
Ну а теперь давайте покопаемся в деталях, в которых, как известно, все зло. У нас есть три оценки/измерения FLOPS: теоретическая, бенчмарк и программа. Рассмотрим особенности вычисления FLOPS для каждого случая.
Теоретическая оценка FLOPS для системы Чтобы понять, как подсчитывается количество одновременных операций в процессоре, давайте взглянем на устройство блока out-of-order в конвеере процессора Intel Sandy Bridge.
Здесь у нас 6 портов к вычислительным устройствам, при этом, за один цикл (или такт процессора) диспетчером может быть назначено на выполнение до 6 микроопераций: 3 операции с памятью и 3 вычислительные. Одновременно могут выполняться одна операция умножения (MUL ) и одна сложения (ADD ), как в блоках x87 FP, так и в SSE, либо AVX. С учетом ширины SIMD регистров 256 бит мы может получить следующие результаты:
8 MUL (32-bit) и 8 ADD (32-bit): 16 SP FLOP/cycle, то есть 16 операций с плавающей точкой одинарной точности за один такт. 4 MUL (64-bit) и 4 ADD (64-bit): 8 DP FLOP/cycle, то есть 8 операций с плавающей точкой двойной точности за один такт.
Теоретическое пиковое значение FLOPS для доступного мне 1-сокетного Xeon E3-1275 (4 cores @ 3.574GHz) составляет: 16 (FLOP/cycle)*4*3.574 (Gcycles/sec)= 228 GFLOPS SP 8 (FLOP/cycle)*4*3.574 (Gcycles/sec)= 114 GFLOPS DP
Запуск бенчмарка Linpack Запускам бенчмарк из пакета Intel MKL на системе и получаем следующие результаты (порезано для удобства просмотра):
Здесь нужно сказать, как именно учитываются FP операции в бенчмарке. Как уже упоминалось, тест заранее «знает» количество операций MUL и ADD, которые необходимы для перемножения матриц. В упрощенном представлении: производится решение системы линейных уравнений Ax=b (несколько тысяч штук) путем перемножения плотных матриц действительных чисел (real8) размером MxK, а количество операций сложения и умножения, необходимых для реализации алгоритма, считается (для симметричной матрицы) Nflop = 2*(M^3)+(M^2). Вычисления производятся для чисел с двойной точностью, как и для большинства бенчмарков. Сколько операций с плавающей точкой действительно выполняется в реализации алгоритма, пользователей не волнует, хотя они догадываются, что больше. Это связано с тем, что выполняется декомпозиция матриц по блокам и преобразование (факторизация) для достижения максимальной производительности алгоритма на вычислительной платформе. То есть нам нужно запомнить, что на самом деле значение физических FLOPS занижено за счет неучитывания лишних операций преобразования и вспомогательных операций типа сдвигов.
Оценка FLOPS программы Чтобы исследовать соизмеримые результаты, в качестве нашего высокопроизводительного приложения будем использовать пример перемножения матриц, сделанный «своими руками», то есть без помощи математических гуру из команды разработчиков MKL Performance Library. Пример реализации перемножения матриц, написанный на языке С, можно найти в директории Samples пакета Intel VTune Amplifier XE. Воспользуемся формулой Nflop=2*(M^3) для подсчета FP операций (исходя из базового алгоритма перемножения матриц) и померим время выполнения перемножения для случая алгоритма multiply3 при размере симметричных матриц M=4096. Для того, чтобы получить эффективный код, используем опции оптимизации –O3 (агрессивная оптимизация циклов) и –xavx (использовать инструкции AVX) С-компилятора Intel для того, чтобы сгенерировались векторные SIMD-инструкции для исполнительных устройств AVX. Компилятор нам поможет узнать, векторизовался ли цикл перемножения матрицы. Для этого укажем опцию –vec-report3. В результатах компиляции видим сообщения оптимизатора: «LOOP WAS VECTORIZED» напротив строки с телом внутреннего цикла в файле multiply.c.
На всякий случай проверим, какие инструкции сгенерированы компилятором для цикла перемножения. $icl –g –O3 –xavx –S По тэгу __tag_value_multiply3 ищем нужный цикл — инструкции правильные.
$vi muliply3.s 
Результат выполнения программы (
7 секунд) 
нам дает следующее значение FLOPS = 2*4096*4096*4096/7[s] = 19.6 GFLOPS Результат, конечно, очень далек от того, что получается в Linpack, что объясняется исключительно квалификционной пропастью между автором статьи и разработчиками библиотеки MKL.
Ну, а теперь дессерт! Собственно то, ради чего я затеял свое исследование этой, вроде бы скучной и давно избитой, темы. Новый метод измерения FLOPS.
Измерение FLOPS программы Существуют задачи в линейной алгебре, программную имплементацию решения которых очень сложно оценить в количестве FP операций, в том смысле, что нахождение такой оценки само является нетривиальной математической задачей. И тут мы, что называется, приехали. Как считать FLOPS для программы? Есть два пути, оба экспериментальных: трудный, дающий точный результат, и легкий, но обеспечивающий приблизительную оценку. В первом случае нам придется взять некую базовую программную имплементацию решения задачи, скомпилировать ее в ассемблерные инструкции и, выполнив их на симуляторе процессора, посчитать количество FP операций. Звучит так, что резко хочется пойти легким, но недостоверным путем. Тем более, что если ветвление исполнения задачи будет зависеть от входных данных, то вся точность оценки сразу поставится под сомнение.
Идея легкого пути состоит в следующем. Почему бы не спросить сам процессор, сколько он выполнил FP инструкций. Процессорный конвеер, конечно же, об этом не ведает. Зато у нас есть счетчики производительности (PMU – вот тут про них интересно), которые умеют считать, сколько микроопераций было выполнено на том или ином вычислительном блоке. С такими счетчиками умеет работать VTune Amplifier XE.
Несмотря на то, что VTune имеет множество встроенных профилей, специального профиля для измерения FLOPS у него пока нет. Но никто не мешает нам создать наш собственный пользовательский профиль за 30 секунд. Не утруждая вас основами работы с интерфейсом VTune (их можно изучить в прилагающимся к нему Getting Started Tutorial), сразу опишу процесс создания профиля и сбора данных.
Далее мы просто подсчитываем значения FLOPS по формулам. Данные у нас были собраны для всех процессоров, поэтому умножение на их количество здесь не требуется. Операции данными двойной точности выполняются одновременно над четырмя 64-битными DP операндами в 256-битном регистре, поэтому умножаем на коэффициент 4. Данные с одинарной точностью, соответственно, умножаем на 8. В последней формуле не умножаем количество инструкций на коэффициент, так как операции сопроцессора x87 выполняются только со скалярными величинами. Если в программе выполняется несколько разных типов FP операций, то их количество, умноженное на коэффициенты, суммируется для получения результирующего FLOPS.
FLOPS = 4 * SIMD_FP_256.PACKED_DOUBLE / Elapsed Time FLOPS = 8 * SIMD_FP_256.PACKED_SINGLE / Elapsed Time FLOPS = (FP_COMP_OPS_EXE.x87) / Elapsed Time
В нашей программе выполнялись только AVX инструкции, поэтому в результатах есть значение только одного счетчика SIMD_FP_256.PACKED_DOUBLE. Удостоверимся, что данные события собраны для нашего цикла в функции multiply3 (переключившись в Source View):
FLOPS = 4 *34.6Gops/7s = 19.7 GFlops Значение вполне соответствует оценочному, подсчитанному в предыдущем пункте. Поэтому с достаточной долей точности можно говорить о том, что результаты оценочного метода и измерительного совпадают. Однако, существуют случаи, когда они могут не совпадать. При определенном интересе читателей, я могу заняться их исследованием и рассказать, как использовать более сложные и точные методы. А взамен очень хочется услышать о ваших случаях, когда вам требуется измерение FLOPS в программах.
Заключение FLOPS – единица измерения производительности вычислительных систем, которая характеризует максимальную вычислительную мощность самой системы для операций с плавающей точкой. FLOPS может быть заявлена как теоретическая, для еще не существующих систем, так и измерена с помощью бенчмарков. Разработчики высокопроизводительных программ, в частности, решателей систем линейных дифференциальных уравнений, оценивают производительность реализации своих алгоритмов в том числе и по значению FLOPS программы, вычисленному с помощью теоретически/эмпирически известного количества FP операций, необходимых для выполнения алгоритма, и измеренному времени выполнения теста. Для случаев, когда сложность алгоритма не позволяет оценить количество FP операций алгоритма, их можно измерить с помощью счетчиков производительности, встроенных в микропроцессоры Intel.
Производительность железа, измеряемая во флопсах: что это и с чем едят?
Авторизуйтесь
Производительность железа, измеряемая во флопсах: что это и с чем едят?
Новейшее поколение игровых консолей достигло отметки в десяток терафлопс. Но что именно означает эта величина?
Производительность, измеряемая во FLOPS — это количество операций с плавающей запятой, которое может выполнить устройство за одну секунду. Отсюда и название: FLoating-point Operations Per Second. Сравнивать вычислительную мощность по флопсам намного проще, чем по тактовой частоте или чему-либо ещё.
График роста производительности суперкомпьютеров
Современная техника имеет колоссальную мощность. Поэтому, что бы не использовать большое количество нолей, к флопсам добавляют приставки СИ: гигафлопсы, терафлопсы, петафлопсы.
Краткий список железа и его производительности:
Самым слабым компьютером можно назвать Z3. Его вычислительная мощность составляет 2 флопса. Да, верно — он осиливает всего 2 операции в секунду. Но это простительно, ведь Z3 — первая работоспособная программируемая вычислительная машина, собранная ещё в 1940 г.
Вычислительная машина Z3
Cамым мощным компьютером на момент 2020 года можно назвать Фугаку — японский суперкомпьютер. Его заявленная мощность составляет 0,54 эксафлопса (для 64-разрядных вычислений). Это 540 000 терафлопс.
Хинт для программистов: если зарегистрируетесь на соревнования Huawei Cup, то бесплатно получите доступ к онлайн-школе для участников. Можно прокачаться по разным навыкам и выиграть призы в самом соревновании.
Перейти к регистрации
| килограмм ФЛОПЫ | kFLOPS | 10 3 |
| мега шлепки | MFLOPS | 10 6 |
| гига FLOPS | GFLOPS | 10 9 |
| тера шлепки | Тфлопс | 10 12 |
| ПЕТА ФЛОПЫ | PFLOPS | 10 15 |
| exa FLOPS | EFLOPS | 10 18 |
| zetta FLOPS | ZFLOPS | 10 21 |
| yotta FLOPS | YFLOPS | 10 24 |
СОДЕРЖАНИЕ
Арифметика с плавающей точкой
Динамический диапазон и точность
Вычислительная производительность
FLOPS в системе HPC можно рассчитать с помощью этого уравнения:
ФЛОПЫ знак равно стойки × узлы стойка × Розетки узел × ядра разъем × циклы второй × FLOPs цикл < displaystyle < text > = < text > times < frac < text > < text >> times < frac < text > < text >> times < frac < text > < text >> times < frac < text <циклы>> < text >> times < frac < text > < text >>> 
Это можно упростить до наиболее распространенного случая: компьютер с ровно 1 процессором:
ФЛОПЫ знак равно ядра × циклы второй × FLOPs цикл < displaystyle < text > = < text > times < frac < text > < text >> times < frac < text > < text >>> .
Количество FLOP на цикл на ядро для различных процессоров
AVX2 (128 бит) Экскаватор
(ANSI 77 с векторными расширениями)
Рекорды производительности
Записи на одном компьютере
В июне 1997 года Intel «s ASCI Red был первым в мире компьютер для достижения одного терафлопс и за ее пределами. Директор Sandia Билл Кэмп сказал, что ASCI Red обладает лучшей надежностью среди всех когда-либо построенных суперкомпьютеров и «является высшей точкой для суперкомпьютеров по долговечности, цене и производительности».
NEC «S SX-9 суперкомпьютер был первым в мире векторного процессора превысит 100 гигафлопса за одно ядро.
года IBM анонсировала второе поколение своего топового суперкомпьютера, получившего название Blue Gene / P и разработанного для непрерывной работы на скоростях, превышающих один петафлопс, быстрее, чем Blue Gene / L. При такой настройке он может развивать скорость более трех петафлопс.
В июне 2008 года AMD выпустила серию ATI Radeon HD 4800, которые, как сообщается, станут первыми графическими процессорами, достигающими одного терафлопс. 12 августа 2008 года AMD выпустила видеокарту ATI Radeon HD 4870X2 с двумя графическими процессорами Radeon R770 общим объемом 2,4 терафлопс.
По состоянию на 2010 год самый быстрый процессор ПК достиг 109 гигафлопс ( Intel Core i7 980 XE ) в вычислениях с двойной точностью. Графические процессоры значительно мощнее. Например, вычислительные процессоры Nvidia Tesla C2050 GPU выполняют около 515 гигафлопс в вычислениях с двойной точностью, а AMD FireStream 9270 достигает максимальной скорости 240 гигафлопс.
года рейтинг TOP500 подтвердил Titan как самый быстрый суперкомпьютер в мире согласно тесту LINPACK со скоростью 17,59 петафлопс. Он был разработан Cray Inc. в Национальной лаборатории Ок-Ридж и сочетает в себе процессоры AMD Opteron с технологиями графического процессора (GPU) NVIDIA Tesla «Kepler».
года китайский Tianhe-2 был признан самым быстрым в мире с показателем 33,86 петафлопс.
года китайский Sunway TaihuLight был признан самым быстрым в мире с 93 петафлопс в тесте LINPACK (из 125 петафлопс). Система, которая почти полностью основана на технологии, разработанной в Китае, установлена в Национальном суперкомпьютерном центре в Уси и обеспечивает более высокую производительность, чем следующие пять самых мощных систем в списке TOP500 вместе взятые.
Записи распределенных вычислений
Распределенные вычисления используют Интернет, чтобы связать персональные компьютеры для достижения большего количества FLOPS:
Стоимость вычислений
Затраты на оборудование
3 × NVIDIA RTX 3080 @ 29770 Гфлопс каждый и 699,99 долларов США
Общий объем GFLOPS = 89,794 / TFLOPS = 89,2794
Общая стоимость системы, вкл. реалистичные, но недорогие детали; соответствует другому примеру = 2839 долларов США
Что такое TFLOP: характеристики, использование и значение в консолях
Мы все чаще видим термин TFLOP, относящийся к компьютерам или консолям. Наряду с процессором, его емкостью памяти, его видеокартой и другими аспектами, которые мы уже знали при разборе технических характеристик устройства, сейчас очень часто мы видим эту аббревиатуру, TFLOPS. Вы можете не знать, что это значит или почему оно появляется в функциях, это может быть аббревиатура, о которой вы, вероятно, никогда не слышали, и вы не представляете, что это значит и если ее число влияет на производительность вашей консоли и как.
Что такое Флопс?
Что означает TFLOP?
Это не максимальная единица, которую мы можем найти сегодня, поскольку в некоторых частях мира есть суперкомпьютеры, которые уже прошли фазу TFLOPS и начинают измерять свою производительность в PetaFLOPS. Но мы сосредоточимся на TFLOP и их применении на консолях.
Что измеряют TFLOP?
Если вы поняли предыдущие абзацы, вы уже знаете, что чем больше TFLOP мы видим в спецификациях устройства, тем больше его возможностей для выполнения этого типа операций с плавающей запятой в секунду. Как мы уже объяснили, FLOPS это аббревиатура мера производительности компьютера, в этом случае он измеряет способность численных расчетов. И какие приложения у него есть или как это повлияет на производительность моего компьютера с более или менее TFLOP? А также, почему так много говорят о TFLOP применительно к игровым консолям?
TFLOP на консолях
Будет ли консоль с большим количеством TFLOP лучше?
Где этот новый термин слышат больше всего, пока он не станет стандартом производительности, находится на консолях нового поколения. Между Sony и Microsoft существует конкуренция за предоставление лучшего продукта для потребителей консолей для следующего поколения, и в этой войне TFLOPS может многое сказать.
Но, как и во всем, Вы должны не только смотреть на TFLOP машины, чтобы определить, является ли ее производительность хорошей или лучшей, чем у конкурентов. Сам Фил Спенсер, глава Xbox, сказал это, говоря о TFLOP на своей консоли и хвастаясь двенадцатью, которые он будет включать: «Это как в машине, вы бы не описали, как быстро она использует только одну функцию. Давайте представим, что терафлоп подобен лошадиной силе, мы все знаем, что может сделать 100 или 200 лошадиных сил, но это намного больше, чем это. Коробка передач, вес… все это влияет на конечную скорость машины ».
То есть, хотя количество терафлопов, которые мы видим на Xbox Series X или PS5, отличается, мы должны рассмотреть все функции консоли, прежде чем решить, лучше ли одно, другое, быстрее или мощнее.
Сколько TFLOPS у Xbox Series X и PS5?
Означает ли это, что Xbox Series X лучше PS5? Не обязательно, хотя общие данные о мощности есть и явно превосходят консоль Microsoft, есть и другие аспекты, в которых машина Sony превосходит своего конкурента, например, SSD с кастомным контроллером аудиочип, который так сильно разгрузит работу. CPU / ЦЕНТРАЛЬНЫЙ ПРОЦЕССОР так же как и сигнал GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР и технология SmartShift, с помощью которой неиспользованная мощность будет передаваться от центрального процессора к графическому процессору. Это факт, который вы должны принять во внимание, но он несправедливо, что ты не обращаешь внимания на остальные детали и технические характеристики.
PS5 против PS4
Новые поколения не только увеличивают количество FLOPS, но и использование одного и того же количества не будет таким же, как в другом. Графический процессор PS5 или Xbox Series X позволяет использовать преимущества лучшей или более высокой производительности этих TFLOPS. В гипотетическом случае, когда они имели одинаковое количество, они были бы лучше использованы в новых поколениях благодаря этому улучшению в GPU. Но, кроме того, их больше.
В случае PlayStation 5 его характеристики явно улучшаются по сравнению с PS4, а также в отношении TFLOPS. В этом случае помогает эволюция в графическом процессоре консоли Sony последнего поколения, которая будет выпущена в ближайшие месяцы. В то время как графический процессор PlayStation 4 достиг 1.84 TFLOPS с 18 CU (вычислительными единицами) на частоте 800 МГц, графический процессор PS5 достигнет 10.28 TFLOPS благодаря 36 CU на частоте 2.23 ГГц.
Кроме того, графический процессор PS4 был установлен на архитектуре GCN, в то время как графический процессор PS5 был на RDNA 2. Вычислительный блок RDNA 2 на 62% лучше, чем у блока PS4, что означает, что матрица GRP составляет 36 CU в PlayStation. 5 будет эквивалентно одному из 58 CU в PlayStation 4. И это с учетом того, что, кроме того, это более чем вдвое превышает скорость. То есть это еще один гораздо более продвинутый уровень и, следовательно, скачок с 1.84 TFLOPS на PS4 до 10.28 TFLOPS на новой консоли Sony.
А остальные консоли?
Полные спецификации Xbox Series X и PS5
Помимо TFLOPS, мы должны управлять полной информацией о производительности двух консолей при принятии решения о покупке одной или другой. Здесь мы оставляем вам спецификации, которые мы уже знаем о двух машинах нового поколения, которые Microsoft и Sony запустят в ближайшем будущем.
