《Linux單臺機器配置多IP的squid3 http代理》要點:
本文介紹了Linux單臺機器配置多IP的squid3 http代理,希望對您有用。如果有疑問,可以聯系我們。
網絡爬蟲最終要的資源就是IP地址,尤其是在各大網站紛紛把自家數據當初看家寶貝的“大數據時代”.即使IP地址多了,爬蟲改成分布式,管理那么多服務器上的爬蟲也是夠頭疼的.一種方法就是配置代理服務器,爬蟲只在幾臺機器是跑就可以啦.
Linux(以Ubuntu為例)配置單機多IP地址還是很簡單的,編輯/etc/netword/interfaces文件即可:
auto eno1:90iface eno1:0 inet static
? ? ? ?address 192.168.8.90
? ? ? ?netmask 255.255.255.0
? ? ? ?gateway 192.168.8.1auto eno1:91iface eno1:91 inet static
? ? ? ?address 192.168.8.91
? ? ? ?netmask 192.168.8.255
? ? ? ?gateway 192.168.8.1
以上配置中,eno1是網卡的名字,eno1:90是配置在該網卡的一個虛擬網卡的名字,并給該虛擬網卡配置了IP:192.168.8.90.按照這個規則,可以給eno1這個網卡綁定很多IP,如果這些IP都是公網IP,就可以把它當配置成爬蟲的多代理服務.
機器有了多IP,如果不對squid做相應的配置,出口IP還只能是一個,其他IP都不能用得上.
編輯/etc/squid/squid.conf配置文件,做相應配置
acl ip_90 myip 192.168.8.90tcp_outgoing_address 192.168.8.90 ip_90
acl ip_91 myip 192.168.8.91tcp_outgoing_address 192.168.8.91 ip_91
以上配置就是對每個進來的IP的請求設置出口IP,從而達到一機多IP代理的實現.
轉載請注明本頁網址:
http://www.snjht.com/jiaocheng/4268.html