Cách tổ chức Cache

Vị trí

• Cache có tốc độ nhanh hơn bộ nhớ chính
• Cache được đặt giữa CPU và bộ nhớ chính
• Nhằm tăng tốc độ truy cập bộ nhớ của CPU
• Cache có thể được đặt trên chip CPU

Ví dụ về thao tác của cache:

• CPU yêu cầu nội dung của ngăn nhớ.
• CPU kiểm tra trên cache với dữ liệu này.
• Nếu có, CPU nhận dữ liệu từ cache (nhanh).
• Nếu không có, đọc block nhớ chứa dữ liệu từ bộ nhớ chính vào cache.
• Tiếp đó chuyển dữ liệu từ cache vào CPU.

Mục đích

• Tốc độ nhanh của bộ nhớ đệm làm cho nó trở nên cực kỳ hữu ích.
• Nó được sử dụng để bắc cầu tốc độ không phù hợp giữa CPU nhanh nhất và bộ nhớ chính.
• Nó không để cho hiệu suất CPU bị ảnh hưởng do tốc độ chậm hơn của bộ nhớ chính.

Tổ chức cache đa cấp + Bộ nhớ chính có 2^N byte nhớ Hình H.2 – Bộ nhớ chính và cache được chia thành các khối có kích thước bằng nhau – Bộ nhớ chính: B₀, B₁, B₂, … , B_p-1 (p Blocks) – Bộ nhớ cache: L₀, L₁, L₂, … , L_m-1 (m Lines) – Kích thước của Block = 8, 16, 32, 64, 128 byte + Một số Block của bộ nhớ chính được nạp vào các Line của cache. + Nội dung Tag (thẻ nhớ) cho biết Block nào của bộ nhớ chính hiện đang được chứa ở Line đó. + Khi CPU truy nhập (đọc/ghi) một từ nhớ, có hai khả năng xảy ra: – Từ nhớ đó có trong cache (cache hit) – Từ nhớ đó không có trong cache (cache miss) Vì số line của cache ít hơn số block của bộ nhớ chính nên cần có một thuật giải ánh xạ thông tin trong bộ nhớ chính và cache. Ví dụ về tổ chức bộ nhớ cache ba cấp bao gồm ba bộ nhớ cache có kích thước khác nhau được tổ chức ở ba cấp độ khác nhau như được hiển thị trong hình H.3 ở trên