7.4.3. Кэши на микросхеме процессора

Когда информация пересылается между разными микросхемами, во входных и вы­ходных вентилях микросхем происходят значительные задержки. Следовательно, самым оптимальным решением, способным увеличить скорость функционирова­ния кэша, является размещение его на микросхеме процессора. Однако простран­ство на микросхеме процессора предназначается и для многих других функций, поэтому возможный размер кэша здесь очень ограничен.

Микросхемы всех высокопроизводительных процессоров содержат хотя бы небольшой кэш. Некоторые процессоры, и в частности процессоры 68040, Penti­um III, Pentium 4, имеют по два отдельных кэша, один для команд, а другой для данных. К числу тех, которые ограничиваются единым кэшем, относится процес­сор ARM710T.

Комбинированный кэш для команд и данных может обеспечить более высо­кую частоту попаданий, поскольку он гибче в отношении размещения новых дан­ных, но зато к раздельным кэшам возможен одновременный доступ, что также ве­дет к повышению производительности. Недостатком раздельных кэшей является сложность управляющих схем.

Обычно высокопроизводительные процессоры имеют два уровня кэш-памя­ти. Кэш L1 интегрируется в микросхему процессора, а кэш L2 чаще всего бывает внешним, имеет больший объем и реализуется на основе микросхемы SRAM. Случается, что и кэш второго уровня интегрируют в микросхему процессора, как в процессоре Pentiuin III версии Coppermine, в таком случае его объем несколько меньше, чем у внешнего кэша.

Если процессор имеет два уровня кэш-памяти, доступ к кэшу первого уровня должен выполняться предельно быстро, чтобы не задерживать работу процессо­ра. Правда, доступ к кэшу не может осуществляться так же быстро, как к регист­рам, поскольку кэш намного больше и сложнее по своей структуре. Поэтому дос­туп к кэшу обычно ускоряют путем параллельного доступа к нескольким словам, которые затем по очереди используются процессором. Эта технология применя­ется во многих современных процессорах.

Кэш второго уровня может быть более медленным, но он должен иметь боль­ший объем, чтобы обеспечить высокую частоту попаданий. Скорость его функ­ционирования имеет сравнительно небольшое значение, поскольку она влияет только на накладные расходы, связанные с промахами кэша L1. Типичная рабо­чая станция может содержать кэш первого уровня объемом в несколько десятков килобайтов и кэш второго уровня объемом в несколько мегабайтов.

Наличие кэша второго уровня значительно снижает влияние скорости основ­ной памяти на производительность компьютера. Среднее время доступа к памя­ти, каким оно представляется процессору в системе с двухуровневым кэшем, рас­считывается следующим образом:

t_ave = h₁C₁ + (1 – h₁)h₂C₂ + (1 – h₁)(l – h₂)M

где:

h₁ — частота попаданий в кэш L1;

h₂ — частота попаданий в кэш L2;

C₁ — время доступа к информации в кэше L1;

C₂— время доступа к информации в кэше L2;

M — время доступа к информации в основной памяти.

Количество промахов кэша L2, определяемое выражением (1 - h₁)(1 – h₂), должно быть предельно низким. Если значения h₁ и h₂ составляют порядка 90 %, то общее количество промахов, требующих обращения к основной памяти, соста­вит менее 1 %. Таким образом, накладные расходы M с точки зрения производи­тельности будут очень незначительны.