前端方案设计：实现接口缓存

前端方案设计：实现接口缓存

需求背景

在类似电商业务开发中，面临两个痛点：

1. 商品详情页高频访问：用户频繁查看不同商品，每次请求都携带商品ID
2. 分页数据重复加载：用户浏览商品列表时不断翻页，相同分页参数重复请求

通常都是服务端缓存，但有时候领导会要求前端来处理，这就需要全面的思考设计了。

有人可能会问：传统HTTP缓存机制无法满足这些场景吗？
答：http缓存适合静态资源。

• 强缓存（Cache-Control）无法区分不同商品ID
• 协商缓存（ETag）仍需网络请求验证
• 静态资源缓存不适用于动态接口数据

需求深度分析

核心痛点解析

1. 参数差异化处理：相同接口不同参数（商品ID/分页）需独立缓存
2. 时效性平衡：数据3分钟后过期，需平衡实时性与性能
3. 内存压力：大量缓存数据的内存管理策略
4. 开发透明：减轻心智负担，其他开发者无需感知缓存逻辑，保持原有开发模式即可

技术边界确认

• 前端缓存定位：临时性缓存，页面刷新即失效
• 与后端缓存互补：后端缓存全局共享，前端缓存用户级个性化
• 与HTTP缓存对比：

方案设计

核心架构

关键技术实现

1. 缓存键设计

function generateCacheKey(config) {
  const { method, url, params, data } = config;
  const paramString = qs.stringify(params, { sort: true });
  const dataString = data ? JSON.stringify(data) : '';
  return `${method}:${url}?${paramString}|${dataString}`;
}

• 使用qs库保证参数序列化稳定性
• 包含HTTP方法、URL和请求体

2. 缓存存储结构

interface CacheItem {
  data: any;         // 缓存数据
  timestamp: number; // 存储时间戳
  expire: number;    // 过期时间（毫秒）
}

class MemoryCache {
  private cache = new Map<string, CacheItem>();
  private maxSize: number;
  private lruKeys: string[] = [];

  constructor(maxSize = 1000) {
    this.maxSize = maxSize;
  }

  // LRU淘汰机制实现
  private adjustCache(key: string) {
    // 更新LRU位置
    this.lruKeys = this.lruKeys.filter(k => k !== key);
    this.lruKeys.push(key);
    
    // 淘汰最久未使用
    if (this.lruKeys.length > this.maxSize) {
      const oldestKey = this.lruKeys.shift()!;
      this.cache.delete(oldestKey);
    }
  }
}

3. 请求封装设计（装饰器模式）

function createCachedRequest(originalRequest: AxiosInstance) {
  const cache = new MemoryCache();
  
  return async function cachedRequest(config: AxiosRequestConfig) {
    const key = generateCacheKey(config);
    
    // 缓存存在且未过期
    if (cache.has(key) && !cache.isExpired(key)) {
      return cache.get(key).data;
    }
    
    try {
      const response = await originalRequest(config);
      cache.set(key, response.data, 3 * 60 * 1000); // 3分钟缓存
      return response.data;
    } catch (error) {
      // 失败时返回过期缓存（如有）
      if (cache.has(key)) return cache.get(key).data;
      throw error;
    }
  };
}

// 使用示例
const api = createCachedRequest(axios.create());
api.get('/products', { params: { id: 123 } });

关键问题解决方案

1. 数据实时性问题（新增数据后缓存未更新）

问题场景：

1. 用户添加新商品 POST /products
2. 立即查询商品列表 GET /products?page=1
3. 缓存未过期，返回旧数据

解决方案：

// 在数据变更操作后清除相关缓存
function clearRelatedCache(pattern: string) {
  const cacheKeys = [...cache.keys()];
  const regex = new RegExp(pattern);
  
  cacheKeys.forEach(key => {
    if (regex.test(key)) {
      cache.delete(key);
    }
  });
}

// 添加商品后
api.post('/products', newProduct).then(() => {
  clearRelatedCache('GET:/products\\?.*');
});

2. 为什么不使用后端缓存？

前端缓存独特价值：

1. 用户级个性化：不同用户可缓存不同数据
2. 网络优化：避免重复网络请求，节省带宽
3. 即时响应：内存读取速度（_{100ns）远快于网络请求（}100ms）
4. 降低服务器压力：减少重复计算和数据库查询

隐患及应对策略

1. 缓存更新策略优化（Stale-While-Revalidate）

优势：

• 用户感知延迟低
• 后台静默更新

隐患：

• 数据滞后：返回过期数据期间存在不一致
• 首次加载慢：无缓存时仍需等待请求

应对措施：

1. 关键数据添加加载状态提示
2. 设置最大容忍过期时间（如5分钟）
3. 提供手动刷新机制

2. 内存泄漏预防

1. LRU自动淘汰：限制最大缓存条目
2. 定时清理：每5分钟扫描过期缓存
3. 页面卸载处理：

   window.addEventListener('beforeunload', () => {
     cache.clear();
   });
   

3. 缓存雪崩防护

// 随机化过期时间（±30秒）
const expireTime = 3 * 60 * 1000 + Math.random() * 60000 - 30000;
cache.set(key, data, expireTime);

LRU算法深度解析

为什么需要LRU？

当用户持续浏览商品时：

1. 商品详情页缓存快速积累
2. 分页列表缓存指数级增长
3. 用户画像等大数据响应缓存

风险：无限制缓存会导致内存溢出（OOM）

LRU实现方案

双向链表+哈希表高效实现：

class LRUCache {
  private capacity: number;
  private cache = new Map<string, ListNode>();
  private head: ListNode = new ListNode('', null);
  private tail: ListNode = new ListNode('', null);
  
  constructor(capacity: number) {
    this.capacity = capacity;
    this.head.next = this.tail;
    this.tail.prev = this.head;
  }

  get(key: string): CacheItem | null {
    const node = this.cache.get(key);
    if (!node) return null;
    
    // 移动到链表头部
    this.moveToHead(node);
    return node.value;
  }
  
  set(key: string, value: CacheItem): void {
    let node = this.cache.get(key);
    
    if (!node) {
      // 创建新节点
      node = new ListNode(key, value);
      this.cache.set(key, node);
      this.addToHead(node);
      
      // 检查容量
      if (this.cache.size > this.capacity) {
        this.removeTail();
      }
    } else {
      // 更新现有节点
      node.value = value;
      this.moveToHead(node);
    }
  }
  
  private moveToHead(node: ListNode) {
    this.removeNode(node);
    this.addToHead(node);
  }
  
  private removeTail() {
    const tail = this.tail.prev!;
    this.removeNode(tail);
    this.cache.delete(tail.key);
  }
}

性能对比：

拓展优化方向

1. 缓存分区策略

const cachePools = {
  productDetail: new MemoryCache(200), // 商品详情
  productList: new MemoryCache(100),   // 商品列表
  userProfile: new MemoryCache(50)     // 用户信息
};

// 根据接口类型选择缓存池
function getCachePool(url: string) {
  if (url.includes('/products/')) return cachePools.productDetail;
  if (url.includes('/products')) return cachePools.productList;
  return cachePools.default;
}

2. 缓存监控体系

// 缓存命中率统计
const cacheStats = {
  total: 0,
  hits: 0,
  get hitRate() {
    return this.hits / this.total || 0;
  }
};

// 在缓存获取处埋点
function get(key) {
  cacheStats.total++;
  if (cache.has(key)) {
    cacheStats.hits++;
    // ...
  }
}

// 定期上报
setInterval(() => {
  analytics.track('cache_metrics', {
    hit_rate: cacheStats.hitRate,
    size: cache.size,
    memory: performance.memory?.usedJSHeapSize
  });
}, 60000);

3. 本地持久化降级

// 当内存缓存失效时降级到localStorage
function getWithFallback(key: string) {
  const memoryData = memoryCache.get(key);
  if (memoryData) return memoryData;
  
  const persistentData = localStorage.getItem(key);
  if (persistentData) {
    const { data, timestamp } = JSON.parse(persistentData);
    
    // 异步更新内存缓存
    setTimeout(() => {
      memoryCache.set(key, data);
    }, 0);
    
    return data;
  }
  
  return null;
}

总结

前端接口缓存优化属于应用性能的重要手段。本文方案可以实现：

1. 智能缓存键设计：精准区分不同参数请求
2. LRU内存管理：有效防止内存溢出
3. 数据一致性保障：变更操作后主动清除缓存
4. 优雅降级策略：缓存失效时保证基本体验

缓存策略持续优化方向：

• 根据业务场景动态调整缓存时间
• 结合用户行为预测预加载缓存
• 建立完善的缓存监控告警系统