Alexa是一家专门发布网站世界排名的网站,是亚马逊公司的一家子公司。Alexa每天在网上搜集多达几十亿的网址链接,而且为其中的每一个网站进行了排名。

Alexa通过Alexa官网查询好像TOP 500以后是需要付费的,网上也没有较完整列表,所以分享下。
数据爬取来源:http://stuffgate.com/stuff/website/
贴一小段:

google.com
youtube.com
facebook.com
baidu.com
yahoo.com
amazon.com
wikipedia.org
qq.com
google.co.in
twitter.com
live.com
taobao.com
msn.com
sina.com.cn
yahoo.co.jp
google.co.jp
linkedin.com
weibo.com
bing.com
yandex.ru
vk.com
hao123.com
instagram.com
ebay.com
google.de
amazon.co.jp
mail.ru
tmall.com
360.cn
google.co.uk
pinterest.com
google.ru
reddit.com
google.com.br
t.co
netflix.com
google.fr
sohu.com
paypal.com
microsoft.com
wordpress.com
google.it
google.es
blogspot.com
gmw.cn
onclickads.net
tumblr.com
ok.ru
imgur.com
aliexpress.com
xvideos.com
stackoverflow.com
apple.com
google.com.mx
imdb.com
fc2.com
google.com.hk
ask.com
amazon.de
google.com.tr
google.ca
alibaba.com
office.com
rakuten.co.jp
tianya.cn
pornhub.com
google.co.id
diply.com
github.com
craigslist.org
soso.com
go.com
xinhuanet.com
nicovideo.jp
amazon.co.uk
pixnet.net
bongacams.com
blogger.com
amazon.in
outbrain.com
cnn.com
googleusercontent.com
cntv.cn
kat.cr
jd.com
google.pl
google.com.au
naver.com
dropbox.com
coccoc.com
xhamster.com
360.com
adobe.com
china.com
haosou.com
microsoftonline.com
whatsapp.com
nytimes.com
adnetworkperformance.com
flipkart.com

完整的数据请见:
top-1000000-domains

有什么用呢?
我觉得可以用于一些字典采集工作,比如需要一个目录扫描的字典,可以爬取所有网站列表robots.txt文件,或对网站目录进行浅爬行,将爬行结果进行词频分析统计;
也可以对排名靠后的一些网站进行网站指纹、IP、WEB服务器版本等信息进行识别,将识别结果入库,对于研究一些特定数据会有帮助。

来源:http://www.rootat.net/2016/03/21/AlexaTop1000000/

Alexa TOP 100万的域名列表的更多相关文章

  1. 2014 年最热门的国人开发开源软件 TOP 100 - 开源中国社区

    不知道从什么时候开始,很多一说起国产好像就非常愤慨,其实大可不必.做开源中国六年有余,这六年时间国内的开源蓬勃发展,从一开始的使用到贡献,到推出自己很多的开源软件,而且还有很多软件被国外的认可.中国是 ...

  2. 2014 年最热门的国人开发开源软件TOP 100

    不知道从什么时候开始,很多一说起国产好像就非常愤慨,其实大可不必.做开源中国六年有余,这六年时间国内的开源蓬勃发展,从一开始的使用到贡献,到推出自己很多的开源软件,而且还有很多软件被国外认可.中国是开 ...

  3. 2014年国人开发的最热门的开源软件TOP 100

    不知道从什么时候开始,很多一说起国产好像就非常愤慨,其实大可不必.做开源中国六年有余,这六年时间国内的开源蓬勃发展,从一开始的使用到贡献,到推出自己很多的开源软件,而且还有很多软件被国外的认可.中国是 ...

  4. 【分享】2017 开源中国新增开源项目排行榜 TOP 100

    2017 年开源中国社区新增开源项目排行榜 TOP 100 新鲜出炉! 这份榜单根据 2017 年开源中国社区新收录的开源项目的关注度和活跃度整理而来,这份最受关注的 100 款开源项目榜单在一定程度 ...

  5. Netty 100万级高并发服务器配置

    前言 每一种该语言在某些极限情况下的表现一般都不太一样,那么我常用的Java语言,在达到100万个并发连接情况下,会怎么样呢,有些好奇,更有些期盼. 这次使用经常使用的顺手的netty NIO框架(n ...

  6. 100万并发连接服务器笔记之Java Netty处理1M连接会怎么样

    前言 每一种该语言在某些极限情况下的表现一般都不太一样,那么我常用的Java语言,在达到100万个并发连接情况下,会怎么样呢,有些好奇,更有些期盼.这次使用经常使用的顺手的netty NIO框架(ne ...

  7. fir.im Weekly - 不能错过的 GitHub Top 100 开源库

    好的工具&资源,会带来更多的灵感.本期 fir.im Weekly 精选了一些实用的 iOS,Android 的使用工具和源码分享,还有前端.UI方面的干货.一起来看下:) Swift 开源项 ...

  8. 全网扫描扫描10000端口后的优化脚本&域名列表指定端口的批量测试

    方法一: #coding=utf-8 import urllib2 import threading from time import ctime,sleep print "Start-Ti ...

  9. SQLServer如何快速生成100万条不重复的随机8位数字

    最近在论坛看到有人问,如何快速生成100万不重复的8位编号,对于这个问题,有几点是需要注意的: 1.    如何生成8位随机数,生成的数越随机,重复的可能性当然越小 2.    控制不重复 3.    ...

随机推荐

  1. mysql先分组,然后取每个分组中的第2大的记录

    文章参考http://www.xaprb.com/blog/2006/12/07/how-to-select-the-firstleastmax-row-per-group-in-sql/ 首先建表: ...

  2. Docker中的Dockerfile命令详解FROM RUN COPY ADD ENTRYPOINT...

    Dockerfile指令 这些建议旨在帮助您创建高效且可维护的Dockerfile. FROM FROM指令的Dockerfile引用 尽可能使用当前的官方图像作为图像的基础.我们推荐Alpine图像 ...

  3. [转帖]同事推荐的的aira2

    Windows系统安装最新版Aria2客户端及使用教程 https://www.moerats.com/archives/519/ 改天学习一下. 说明:之前都是说的在Linux VPS服务器上安装A ...

  4. 《剑指offer》面试题23 从上往下打印二叉树 Java版

    注意层序遍历的时候对每一层的处理方式可能不同,这里把每一层的元素保存进一个List中了,那么就需要记录每一层的数量. public List<List<Integer>> se ...

  5. 根据日志来源的不同生成不同的index索引

    使用filebeat收集系统日志,不同应用的日志,然后把这些日志传输给Logstash,再然后交由elasticsearch处理,那么如何区分不同的日志来源呢? filebeat.yml配置文件中不启 ...

  6. ModelForm操作

    ModelForm a. class Meta: model, # 对应Model的 fields=None, # 字段 exclude=None, # 排除字段 labels=None, # 提示信 ...

  7. luogu P1398 [NOI2013]书法家

    传送门 注意到\(N\ O\ I\)三个字母都可以从左到右拆成三部分,即\(N=\)一个矩形+一堆矩形+一个矩形,\(O=\)一条+两条横的+一条,\(I=\)两条横的+一个矩形+两条横的,所以可以拆 ...

  8. vscode调试php

    xdebug调试vscode 下载xdebug.dll扩展库 php.ini配置 [XDebug] xdebug.remote_enable = xdebug.remote_autostart = z ...

  9. Navicat连接阿里云服务器MSQL数据库

    新买了台服务器Navicat老是连接不上数据库,查找一圈找到解决办法.So Easy 一.shell远程登录,进入数据库 mysql -uroot -p 二.输入以下命令进行授权: GRANT ALL ...

  10. CentOS7 编译安装python3.6.8(升级python)

    1.安装依赖包和需要用到的工具 yum -y install wget openssl openssl-devel 这里如果不升级openssl,安装后pip安装模块可能会出错.点我查看pip安装模块 ...