Оптимизатор кэширования ускоряет обработку на 30%, снижая энергозатраты на 85%
Сотрудники Лаборатории искусственного интеллекта МТИ создали программную систему, которая в зависимости от особенностей работы с данными выполняемого в конкретный момент приложения оперативно выстраивает виртуальную иерархию кэш-памяти процессора таким образом, чтобы кэширование происходило максимально эффективно. При этом учитывается скорость доступа в зависимости от уровня кэша и близости индивидуальных банков памяти к процессорному ядру, выполняющему обработку.
Система, получившая название Jenga, тестировалась на компьютерной модели процессора с 36 ядрами. Моделирование показало, что в сравнении с лучшими на сегодня чипами оптимизатор обеспечивает ускорение обработки на 20-30% и уменьшение расхода энергии на 30-85%.
Среди характеристик, учитываемых Jenga, - размер обрабатываемых данных, потребность в многократном использовании системы буферов разного размера, наличие необходимости последовательного считывания данных из структуры, частота доступа и т. д. Система перестраивает общую иерархию кэш-памяти процессора каждые 100 мс, а внутри этого интервала корректирует приоритеты, назначаемые разными ядрами различным банкам памяти.
Jenga развивает идею предыдущего оптимизатора, разработанного той же группой, Jigsaw. Он отличается тем, что использует только один уровень кэша.
