Advertisement

四 数据存储优化

阅读量:

在上一节关于数据持久化的章节中,我们实现了遍历 projects 集合并将数据写入数据库的功能。然而,在实际运行过程中,我们发现整个存储流程耗时较长,严重影响了数据采集的效率。因此,本节的核心目标是对这一存储过程进行深入的性能剖析,并实施针对性的优化策略,以提升整体系统的吞吐量与响应速度。

目录

    • 一:获取到所有待收集信息的项目列表
    • 二:遍历项目列表,依次获取到每个项目的主页信息,进一步就可以直到该项目的star数、fork数、issue数
    • 三:数据存储之存储
    • 四:数据存储之优化(本文)

步骤:

  1. 获取到所有待收集信息的项目列表
  2. 遍历项目列表 依次获取到每个项目的主页信息 进一步就可以直到该项目的star数 fork数 issue数
  3. 把这些数据存储到mysql中
  4. 写一个简单服务器 来展示数据库中的数据(通过图标的形式 看到一个更直观的效果)

一:获取到所有待收集信息的项目列表


二:遍历项目列表,依次获取到每个项目的主页信息,进一步就可以直到该项目的star数、fork数、issue数


三:数据存储之存储

复制代码
    public static v

全部评论 (0)

还没有任何评论哟~