四 数据存储优化
发布时间
阅读量:
阅读量
在上一节关于数据持久化的章节中,我们实现了遍历 projects 集合并将数据写入数据库的功能。然而,在实际运行过程中,我们发现整个存储流程耗时较长,严重影响了数据采集的效率。因此,本节的核心目标是对这一存储过程进行深入的性能剖析,并实施针对性的优化策略,以提升整体系统的吞吐量与响应速度。
目录
-
- 一:获取到所有待收集信息的项目列表
- 二:遍历项目列表,依次获取到每个项目的主页信息,进一步就可以直到该项目的star数、fork数、issue数
- 三:数据存储之存储
- 四:数据存储之优化(本文)
步骤:
- 获取到所有待收集信息的项目列表
- 遍历项目列表 依次获取到每个项目的主页信息 进一步就可以直到该项目的star数 fork数 issue数
- 把这些数据存储到mysql中
- 写一个简单服务器 来展示数据库中的数据(通过图标的形式 看到一个更直观的效果)
一:获取到所有待收集信息的项目列表
二:遍历项目列表,依次获取到每个项目的主页信息,进一步就可以直到该项目的star数、fork数、issue数
三:数据存储之存储
public static v
全部评论 (0)
还没有任何评论哟~
