![](/index/img/qc-side/indexLogo4.png)
qq:800819103
在线客服,实时响应![](/index/img/qc-side/indexLogo5.png)
qq群
在线客服,实时响应![](/index/img/qc-side/indexLogo6.png)
客服电话
13318873961运用代理ip进行仓库分析爬虫!写完了 Stackoverflow 的爬虫,这回打算写 Github 的,利用 Scrapy 框架对 Github 用户和仓库信息进行爬取,图片利用管道下载。
Github 是一个很棒的社区,这里可以找到很多优秀的项目,很多实用的库类,简直是 coder 的天堂,同时也是全球最大的同性交友社区? 爬取的数据主要分为两大类, User 类 和 Repo 类 ,也就是针对用户情况和仓库信息
User 类先来看看 Github 全站 followers 人数 top10 都是哪些大犇
AvatarUserReposStarsFollowersFollowing
Linus 大神以压倒性的优势夺得第一名,说实在不知道 Linus 的真不好意思说自己是写代码的,这是信仰。然而大神还是很傲娇的,毕竟没有 following anybody,可能是强到了没朋友了吧,毕竟 talk is cheap, show me the code。JakeWharton 以 34000+ 位于第二,以前也看过一点 Android 的东西,不知道说什么,膜拜吧。
中国区还是有两名种子选手挺进了 top10,阮一峰 和 代码家
Github 的地区选项自由度很大,所以比较难统计出各国的注册账户的人数。China 关键字的有 77473 人,USA 关键字有 48667 人
那来了解一下国情,在国区的这 77473 人中,followers 人数 top10 如下
AvatarUserFollowingFollowers推荐阅读:爬虫代理IP被封怎么办
vue.js 作者尤雨溪位列第三。廖雪峰紧跟其后排在第四,话说我也看过他的 Python 教程的
个人仓库数量 top10,因为组织的话无法查看具体仓库数,所以就选取了个人的
UserRepos
前两名都好多,项目数量都达到了 27k 以上,好强,他们是怎么办到的
Repo 类仓库的 stars top10
RepoForkStarWatch
仓库的 forks top10
RepoForkStarWatch
两个 top10 中有多少个是重叠的呢,答案是 3 个
RepoStarForkWatch
那你知道两者的 top100 中有多少个是重叠的吗,答案是 51 个,top500 是 270 个
forks 数超过 1000 的仓库共有 1586 个,看看各语言都有几个,选取排名前 10 的语言生成条形图
再把维度扩大到 10000,共 41 个
JavaScript,Java,Python 基本上是稳居前 3 名,特别是 JavaScript,真是大红大紫,当然我大 Python 也是很有潜力的
stars 数超过 1000 的仓库有 10410 个
超过 10000 的 402 个
各大语言的分布情况基本上和 forks 数是一致的。唯一不同的语言就是 HTML 换成了 CSS,不过也都差不多,这两门语言基本上都是不分家的
来看个有趣的排名,全站代码量 top3 的仓库
Repo
了解一下 Python 的情况
Python 仓库 stars 数 top10
RepoForkStarWatch
Python 仓库 forks 数 top10
RepoForkStarWatch
shadowsocks 在 stars 里排不进 top10,居然在 forks 里勇夺第一了,这梯子圆了多少人的翻墙梦。另外一架梯子 XX-NET 很遗憾,两项都没挤进 top10,扎心了老铁
RepoForkStarWatch
老规矩,看看这两个 top10 交集部分,有 5 个,如下。( 两个前 top100 中交集有 52 个 )
RepoStarForkWatch
两大 web 框架 django 和 flask 的表现还是不负众望的,awesome 系列在每种语言里都很受欢迎
相关文章内容简介
1 运用代理ip进行仓库分析爬虫
运用代理ip进行仓库分析爬虫!写完了∵Stackoverflow∵的爬虫,这回打算写∵Github∵的,利用∵Scrapy∵框架对∵Github∵用户和仓库信息进行爬取,图片利用管道下载。 Github∵是一个很棒的社区,这里可以找到很多优秀的项目,很多实用的库类,简直是∵coder∵的天堂,同时也是全球最大的同性交友社区?∵爬取的数据主要分为两大类,∵User∵类∵和∵Repo... [阅读全文]
最新标签
推荐阅读
19
2019-07
免费代理ip的危害性
免费代理ip的各种缺点弊端,很多人都深有体会,自然是能不能则不用。寻找高质量的代理IP,才是业务长久运行的必要保障。
21
2019-02
代理IP能多设备使用吗?
现在大家上网都不止一个设备了,有手机,电脑,平板,模拟器,或者是使用几个手机,几台电脑的。毕竟很多人由于工作需要,每天都需要使用电脑手机工作,还有自己个人的电脑手机。
03
2019-01
一张图让你看懂动态IP和外网IP的含义
我们都了解我国是1个IPV4地址严重欠缺的发展中国家,因此我们的拨号光纤宽带一直全是动态IP,都没有固定IP,之后更过分的是许多中小城市出现了内网IP,还有我们所有的二级光纤宽带ISP提供
18
2019-02
动态ip刷单有用吗?借用换IP工具刷单降低风险
很多商家都想通过刷单来增加自己商品的吸引力,因为销量越高,评价越好的商品自然是吸引更多的人去关注,促成成交。于是越来越多的商家进行刷单,但是刷单是个不被平台允许的手段。
热门文章