搭建属于自己私人的代理IP服务器!
搭建拨号服务器
这里使用的是云立方vps拨号机
总体思路
- 远程主机
- 监听主机请求,获取动态VPS主机IP
- 将VPS主机IP记录下来存入数据库,支持多个客户端
- 检测当前接收到的IP可用情况,如果不可用则删除
- 提供API接口,通过API接口可获取当前可用代理IP
- 拨号VPS
- 定时执行拨号脚本换IP
- 换IP后立即请求远程主机
- 拨号后检测是否拨号成功,如果失败立即重新拨号
- 数据库
- 利用Redis的 key-value值。 key=主机名,value为最新的代理ip
拨号VPS
###安装系统
操作系统选择centos7.5
mac上利用终端链接服务器
1 | ssh root@ip -p 端口 |
拨号与注销
整个流程就是拨号使用代理—注销-再次拨号获取新ip
注销+拨号是一个组合
1 | adsl-start |
在外网ping停止后的ip由于dns的原因立即ping是能ping通的1
adsl-stop
检测命令,网卡名为ppp0
1 | ifconfig |
代理服务器TinyProxy
在Linux下搭建HTTP代理服务器,推荐TinyProxy和Squid
安装TinyProxy
安装过程缓慢,耐心等待
1 | yum install -y epel-release |
配置并启动
1.配置目录默认为/etc/tinyproxy/tinyproxy.conf
-
Port 8888
是指默认端口 -
Allow 127.0.0.1
注释该行! 任何主机都可以使用这台代理服务器
2.启动tinyproxy
1 | $ service tinyproxy start |
3.测试代理功能是否开启
在终端输入测试地址测试是否可以通过代理机访问网址 地址为安装tinyproxy服务器ip:tinyproxy设置的端口默认8888
1 | curl -x 94.191.80.66:8888 httpbin.org/get |
参考文献
本文根据 催庆才的爬虫书籍 整理