在阿里云上设置CNAME代理后,发现www.xxxx.com出现502,但是http://xxxx.com却可以访问. ping了一下都可以,网上搜了搜原来和nginx.conf配置有关 配置如下,上下文请自动忽略 location / { proxy_buffer_size 16k;               #设置代理服务器(nginx)保存用户头信息的缓冲区大小 proxy_buffers 4 32k;                    #proxy_buffers缓冲区,网页平均在…
前言:最近在公司做爬虫相关的工作,做过数据抓取的都知道,写程序抓取数据的过程并不像平常我们用浏览器打开网页那么简单!大多数的网站为了自己站点的性能和数据安全都设置了各种反爬策略.最常见的就是添加验证码,需要用户登陆,单个IP有次数和频率限制等等!所以广大的爬虫工程师在抓取数据之前都要先调研一下这个网站的反爬策略!当我们不能正常访问网站时,我们可以在程序中设置代理IP来判断网站是不是封禁了我们的IP.在做判断之前我们先要有一个可用的代理IP地址!环境:阿里云CES centos6.5.tinypr…
1.设置代理后,需要在苹果手机的关于本机中,打开证书信任 这样就可以抓包咯…
问题现象: nginx配置反向代理后,网页可以正常访问,但是页面上的js css文件无法加载,页面样式乱了. (1)nginx配置如下: (2)域名访问:js css文件无法加载: (3)IP访问:js css文件可以正常加载: 解决方法: nginx配置文件中,增加如下配置: location ~ .*\.(js|css)$ { proxy_pass http://127.0.0.1:8866; } 原因分析: 反向代理的路径下找不到文件,需要单独指定js css文件的访问路径.…
第一种方法: 首先,下载最新版本的Fiddler,将手机和PC设置为统一局域网(手机链接PC的wifi) 打开手机设置-无线网络设置,设置代理为手动,输入pc的ip和Fillder的端口8888(Fiddler默认端口:8888) 此时访问http网站可以正常访问,但是https访问不了,用fildder抓包工具只能够抓取http协议内容 如何才能访问Https网站且可以正常抓取呢?需要如下操作: 1.下载filddercertmaker,安装完成后,重启fiddler,选择tools-opti…
在项目的struts.xml加入了常量配置:<constant name="struts.devMode" value="true" />后,重启服务器.项目后续开发中,修改action.java或者struts.xml仍然需要重启tomcat,和没有配置这个常量是一样的. 不要用 <constant name="struts.devMode" value="true" />改成: <consta…
不要用 <constant name="struts.devMode" value="true" />改成: <constant name="struts.configuration.xml.reload" value="true"/>就OK了 下面是4个开发模式常用配置的简介--- <!-- 开启使用开发模式,详细错误提示 --> <!-- <constant name=&qu…
不用  <constant name="struts.devMode" value="true" /> 改成 <constant name="struts.configuration.xml.reload" value="true"/> 有人说是由于tomcat加了空格的问题,详细不清楚. 以下是4个开发模式经常使用配置的简单介绍---     <!-- 开启使用开发模式.具体错误提示 -->…
我主要用来获取,一些特定的API,研究学习. 责任声明: 如果你用来违法犯罪,与我无关. 1.使电脑成为代理服务器 架代理服务器的软件有很多,自己百度一下.也可以用现成的代理软件.(其实Fiddler就是一种可以设置成代理的软件) 2.设置手机代理 退出 手机的代理设置后,方能生效 3.设置fiddler 中的选项 4.用手机访问资源,在Fiddler中看到 向下的绿色箭头时,一般是视频资源. 下载资源时,使用单线程,以免被限制网速. 关于原理性的讲解请参考这个博客:http://blog.cs…
新版本chrome浏览器控制台怎么设置成独立的窗口: 就是你要切换控制台在底部和右侧的那个按钮,然后长按…