G
gumuzi
用AD处理代理服务器列表
从哪里可以找到大量匿名代理服务器?一般而言,有两种方式:
第一种,自己用专门工具扫描IP网段寻找代AD提供了Proxy Hunter。Proxy——>Proxy Hunter,输入起始和结束IP地址,就让机器自动搜索吧。自己找代理有个好处,就是找到的代理只是较少Cracker或者就自己一人使用,这样,代理死亡的几率就小得多。不过,对于付费上网的朋友而言,这种方式的代价就太昂贵了些。此外,整个网段整个网段的扫描IP端口,会很容易的被警惕的网管发觉,他们会采取相应反击措施,这个也不可不防(这就是说,做这等事的时候,最好也通过一个SOCKS代理,把自己的真实IP隐藏起来)。
第二种,用工具到专门免费发布代理的网站上抓取(leech)代理。Internet向来以共享闻名,不管被共享的资源是合法的,还是非法的。代理服务器也一样。很多网站会定期的向外公布站长扫描得到的代理列表。你
到特定地址手工抓取当然也可以,但效率不高。通常的方式是把许多公布代理列表的网址链接放在某个文本文件内,再用专门软件分析该网页并抓取代理。AD就提供了这个功能,Proxy——>Web Proxy Leecher。现在,我们来一次实战演习。
网站“http://www8.big.or.jp/~000/CyberSyndrome/”提供匿名代理,其公布代理的网页有两个,分别是http://www8.big.or.jp/~000/CyberSyndrome/pla2.html和http://www8.big.or.jp/~000/CyberSyndrome/plb2.html。
建立一个文本文件proxyleechurl.txt,存储类似的链接。在AD的Web Proxy Leecher界面上,点击左侧打开文档图标(鼠标放上去的时候,提示“Add URL site to the list from a file”),弹出文件打开窗口,选择已建文件proxyleechurl.txt。文件打开后,可以看到AD蓝底窗口内,出现了上述两个链接,称为“zone”。鼠标右键单击窗口左侧的带勾的选择键,选中所有zone,然后点击下面的“Start Leeching”键。AD会分析每个页面,并直接把代理部分抓出来,显示在右侧的“Proxies Found”黑色窗口内。然后点击右下角的存盘图标,把得到的代理存成一个文本文件proxynocheck.txt,以待分析。或者你也可以直接点击“Add these proxies in…——>Add these proxies into the Proxy ANALIZER”按钮,把这些代理直接放到AD的Proxy Analizer中等待验证。
AD的Proxy Leecher大抵就是这样了。通过AD的Proxy Leecher,现在,已经有了很多个匿名代理了。但是,这些代理并不是都好用的。代理无效的原因很多,多数是因为网管发现了问题,把漏洞弥补上了。因此,在使用之前,需要对这些初步抓取来的代理进行验证。验证主要有两个方面,第一个是看这个代理能否连通,
简单的Ping一下就可以了;第二个是看这个代理的匿名程度如何,这就需要专门的程序代码进行了。AD提供了代理验证的功能,Proxy——>Proxy ANALIZER。
进入AD代理验证界面,点击左侧输入文件的图标,打开刚刚保存的proxynocheck.txt(如果刚才直接把代理装进代理验证,就免了这个步骤了)。可以看到,每个代理有以下几个属性:地址(IP或者域名),端口(80,8080,3128等),IP地址,正确度,匿名度,延迟时间。选中所有代理(任意选择一个,然后按键盘上的“a” 就可以了),先进行正确度校验。
点击右下角的Parameters键进行普通参数设置。选中“Export only IP Adresses in your lists”,这样,AD会把代理格式全部转换成“IP地址:端口”的形式。
“Auto-deletion of bad proxies after a test completion”,即自动删除坏的代理,还是不要选中的好。因为有的时候如果你的内部网络有问题,代理测试会全通不过,这样会把好的代理也删掉。测试完后可以手工删除。
点击右下角的Special进行特殊参数设置。可以看到有个项目叫“Use the Server URL above as the eference during the test”,就是说,测试连通的时候,以你预先在服务器入口地址输入的URL为准,而不是你的本地IP。确定选择第一项,“Don’t use this future”。为什么要这样做呢?因为你现在要建立的是一个普通的可用代理列表,而不是针对特定服务器的。如果选择了第三项“The URL is password protected (Basic authentication)”,则所有无法与该服务器连接的代理(包括一些被该服务器禁掉但可以用于其他服务器的代理)均被视为坏的。只有当你要测试某个特定服务器时,才应该对通用的代理列表进行特定验证。
另外,你还修改一下AD默认的代理超时设定(左下角),把原来的15秒改得更短或者更长。设置完之后,点击“Speed/Accuracy Tester” 进行测试。测试完毕后,点击“Delay”按钮,把代理按延迟时间进行排序。无时间的,显然不是超时(TimeOut)就是其他访问错误,因此全部删掉。这里有个问题需要注意,如果你
测试下来,绝大部分结果是“#404-Connetion refused”,则很有可能你的内部网络有问题,而不是代理有问题了,常见的原因是网关掉包。除删除不能连通的之外,延迟太长,也可以删掉。我通常只保留延迟在10000秒以内的代理。
如何删除?选中要删的代理,点击“X”按钮。
现在,我大约得到了约一半可以连通的代理。但是,这些代理的匿名程度如何,还需要进行下一步的验证。
验证一个代理的匿名程度如何,需要通过一些CGI脚本代码的校验,这些脚本通常叫“ProxyJudge”,比如AD4.83默认的“http://www10.cds.ne.jp/~ktake/proxy/prxjdg.cgi”。PJ一般也是由一些热心人士放在一些免费的服务器上,经常会死掉,也属于稀缺资源一类。
通过校验的匿名代理,一般分成如下5类,分别是level1到level5,在AD的Anonymous一栏内会标识。Level越小,匿名程度越高,也就是越好。比如,level1的代理会被WEB服务器当作一个普通IP。一般而言,破解普
通网站,从level1到level5都可以使用,但是,一些特殊的站点,就需要level2以上的代理了。
现在进行匿名度验证。选中所有刚才正确度测试通过的代理,点击右下角“ProxyJudge”,选中AD默认的PJ。如果你要更换,则在右下角的URL栏内输入PJ地址,点击“+”,然后选中你新增的PJ。点击“Confidentiality Tester”,开始匿名度测试。
测试完毕后,点击“Anonymous”,把代理进行排序,然后删除非匿名代理。对TimeOut的代理,则用其他的PJ再进行测试。测试完毕后,把通过的代理另存一个文件。我通常只保留level1到level3的代理。当然,level4和level5的代理也是可以用的。
这里还有一个问题,就是代理服务器所处的区域问题。一般而言,使用代理有一个原则,就是不能用国内的,以免麻烦,尤其是使用单位网络的。但是,AD没有这个区域测试判断功能。这是一个缺憾。
从哪里可以找到大量匿名代理服务器?一般而言,有两种方式:
第一种,自己用专门工具扫描IP网段寻找代AD提供了Proxy Hunter。Proxy——>Proxy Hunter,输入起始和结束IP地址,就让机器自动搜索吧。自己找代理有个好处,就是找到的代理只是较少Cracker或者就自己一人使用,这样,代理死亡的几率就小得多。不过,对于付费上网的朋友而言,这种方式的代价就太昂贵了些。此外,整个网段整个网段的扫描IP端口,会很容易的被警惕的网管发觉,他们会采取相应反击措施,这个也不可不防(这就是说,做这等事的时候,最好也通过一个SOCKS代理,把自己的真实IP隐藏起来)。
第二种,用工具到专门免费发布代理的网站上抓取(leech)代理。Internet向来以共享闻名,不管被共享的资源是合法的,还是非法的。代理服务器也一样。很多网站会定期的向外公布站长扫描得到的代理列表。你
到特定地址手工抓取当然也可以,但效率不高。通常的方式是把许多公布代理列表的网址链接放在某个文本文件内,再用专门软件分析该网页并抓取代理。AD就提供了这个功能,Proxy——>Web Proxy Leecher。现在,我们来一次实战演习。
网站“http://www8.big.or.jp/~000/CyberSyndrome/”提供匿名代理,其公布代理的网页有两个,分别是http://www8.big.or.jp/~000/CyberSyndrome/pla2.html和http://www8.big.or.jp/~000/CyberSyndrome/plb2.html。
建立一个文本文件proxyleechurl.txt,存储类似的链接。在AD的Web Proxy Leecher界面上,点击左侧打开文档图标(鼠标放上去的时候,提示“Add URL site to the list from a file”),弹出文件打开窗口,选择已建文件proxyleechurl.txt。文件打开后,可以看到AD蓝底窗口内,出现了上述两个链接,称为“zone”。鼠标右键单击窗口左侧的带勾的选择键,选中所有zone,然后点击下面的“Start Leeching”键。AD会分析每个页面,并直接把代理部分抓出来,显示在右侧的“Proxies Found”黑色窗口内。然后点击右下角的存盘图标,把得到的代理存成一个文本文件proxynocheck.txt,以待分析。或者你也可以直接点击“Add these proxies in…——>Add these proxies into the Proxy ANALIZER”按钮,把这些代理直接放到AD的Proxy Analizer中等待验证。
AD的Proxy Leecher大抵就是这样了。通过AD的Proxy Leecher,现在,已经有了很多个匿名代理了。但是,这些代理并不是都好用的。代理无效的原因很多,多数是因为网管发现了问题,把漏洞弥补上了。因此,在使用之前,需要对这些初步抓取来的代理进行验证。验证主要有两个方面,第一个是看这个代理能否连通,
简单的Ping一下就可以了;第二个是看这个代理的匿名程度如何,这就需要专门的程序代码进行了。AD提供了代理验证的功能,Proxy——>Proxy ANALIZER。
进入AD代理验证界面,点击左侧输入文件的图标,打开刚刚保存的proxynocheck.txt(如果刚才直接把代理装进代理验证,就免了这个步骤了)。可以看到,每个代理有以下几个属性:地址(IP或者域名),端口(80,8080,3128等),IP地址,正确度,匿名度,延迟时间。选中所有代理(任意选择一个,然后按键盘上的“a” 就可以了),先进行正确度校验。
点击右下角的Parameters键进行普通参数设置。选中“Export only IP Adresses in your lists”,这样,AD会把代理格式全部转换成“IP地址:端口”的形式。
“Auto-deletion of bad proxies after a test completion”,即自动删除坏的代理,还是不要选中的好。因为有的时候如果你的内部网络有问题,代理测试会全通不过,这样会把好的代理也删掉。测试完后可以手工删除。
点击右下角的Special进行特殊参数设置。可以看到有个项目叫“Use the Server URL above as the eference during the test”,就是说,测试连通的时候,以你预先在服务器入口地址输入的URL为准,而不是你的本地IP。确定选择第一项,“Don’t use this future”。为什么要这样做呢?因为你现在要建立的是一个普通的可用代理列表,而不是针对特定服务器的。如果选择了第三项“The URL is password protected (Basic authentication)”,则所有无法与该服务器连接的代理(包括一些被该服务器禁掉但可以用于其他服务器的代理)均被视为坏的。只有当你要测试某个特定服务器时,才应该对通用的代理列表进行特定验证。
另外,你还修改一下AD默认的代理超时设定(左下角),把原来的15秒改得更短或者更长。设置完之后,点击“Speed/Accuracy Tester” 进行测试。测试完毕后,点击“Delay”按钮,把代理按延迟时间进行排序。无时间的,显然不是超时(TimeOut)就是其他访问错误,因此全部删掉。这里有个问题需要注意,如果你
测试下来,绝大部分结果是“#404-Connetion refused”,则很有可能你的内部网络有问题,而不是代理有问题了,常见的原因是网关掉包。除删除不能连通的之外,延迟太长,也可以删掉。我通常只保留延迟在10000秒以内的代理。
如何删除?选中要删的代理,点击“X”按钮。
现在,我大约得到了约一半可以连通的代理。但是,这些代理的匿名程度如何,还需要进行下一步的验证。
验证一个代理的匿名程度如何,需要通过一些CGI脚本代码的校验,这些脚本通常叫“ProxyJudge”,比如AD4.83默认的“http://www10.cds.ne.jp/~ktake/proxy/prxjdg.cgi”。PJ一般也是由一些热心人士放在一些免费的服务器上,经常会死掉,也属于稀缺资源一类。
通过校验的匿名代理,一般分成如下5类,分别是level1到level5,在AD的Anonymous一栏内会标识。Level越小,匿名程度越高,也就是越好。比如,level1的代理会被WEB服务器当作一个普通IP。一般而言,破解普
通网站,从level1到level5都可以使用,但是,一些特殊的站点,就需要level2以上的代理了。
现在进行匿名度验证。选中所有刚才正确度测试通过的代理,点击右下角“ProxyJudge”,选中AD默认的PJ。如果你要更换,则在右下角的URL栏内输入PJ地址,点击“+”,然后选中你新增的PJ。点击“Confidentiality Tester”,开始匿名度测试。
测试完毕后,点击“Anonymous”,把代理进行排序,然后删除非匿名代理。对TimeOut的代理,则用其他的PJ再进行测试。测试完毕后,把通过的代理另存一个文件。我通常只保留level1到level3的代理。当然,level4和level5的代理也是可以用的。
这里还有一个问题,就是代理服务器所处的区域问题。一般而言,使用代理有一个原则,就是不能用国内的,以免麻烦,尤其是使用单位网络的。但是,AD没有这个区域测试判断功能。这是一个缺憾。