搭建私人代理IP服务器

搭建属于自己私人的代理IP服务器!

搭建拨号服务器

这里使用的是云立方vps拨号机

总体思路

  • 远程主机
    • 监听主机请求,获取动态VPS主机IP
    • 将VPS主机IP记录下来存入数据库,支持多个客户端
    • 检测当前接收到的IP可用情况,如果不可用则删除
    • 提供API接口,通过API接口可获取当前可用代理IP
  • 拨号VPS
    • 定时执行拨号脚本换IP
    • 换IP后立即请求远程主机
    • 拨号后检测是否拨号成功,如果失败立即重新拨号
  • 数据库
    • 利用Redis的 key-value值。 key=主机名,value为最新的代理ip

拨号VPS

###安装系统
操作系统选择centos7.5

mac上利用终端链接服务器

1
ssh root@ip -p 端口

拨号与注销

整个流程就是拨号使用代理—注销-再次拨号获取新ip

注销+拨号是一个组合

1
adsl-start

在外网ping停止后的ip由于dns的原因立即ping是能ping通的

1
adsl-stop

检测命令,网卡名为ppp0

1
ifconfig

代理服务器TinyProxy

在Linux下搭建HTTP代理服务器,推荐TinyProxy和Squid

安装TinyProxy

安装过程缓慢,耐心等待

1
2
3
yum install -y epel-release
yum update -y
yum install -y tinyproxy

配置并启动

1.配置目录默认为/etc/tinyproxy/tinyproxy.conf

  • Port 8888 是指默认端口
  • Allow 127.0.0.1 注释该行! 任何主机都可以使用这台代理服务器

2.启动tinyproxy

1
$ service tinyproxy start

3.测试代理功能是否开启

在终端输入测试地址测试是否可以通过代理机访问网址 地址为安装tinyproxy服务器ip:tinyproxy设置的端口默认8888

1
curl -x 94.191.80.66:8888 httpbin.org/get

参考文献

本文根据 催庆才的爬虫书籍 整理

最新GitHub代码

Pull按照说明即可使用