安装 gcc 和 make 编译工具
# 若系统安装,跳过此步骤
# CentOS
yum install -y gcc make wget
# Ubuntu
apt install -y gcc make wget
下载 Redis 源码包
wget http://download.redis.io/redis-stable.tar.gz
解压缩
tar -xzvf redis-stable.tar.gz
编译安装 Redis
cd redis-stable
# 编译
make
# 校验
make test
# 校验成功,进行安装
make install
创建配置文件目录,数据库 dump file 目录,进程 pid 目录,日志 log 目录
# 配置文件目录放在 /etc/ 下
mkdir /etc/redis
# dump file 目录、pid 目录、log 目录放在 /var/ 下
mkdir /var/redis
cd /var/redis
mkdir data run log
返回源码包,将源码包下的 redis.conf 复制到配置文件目录 /etc/redis
cp redis.conf /etc/redis
vi /etc/redis/redis.conf
# 使 redis 能在后台运行
daemonize yes
# 修改pid目录为新建目录
pidfile /var/redis/run/redis.pid
# 修改dump目录为新建目录
dir /var/redis/data
# 修改log存储目录为新建目录
logfile /var/redis/log/redis.log
启动 redis 服务
redis-server /etc/redis/redis.conf
启动 redis 客户端
redis-cli
# ctrl + d 退出客户端
停止 redis 服务
ps -ax|grep redis|awk '{print $1}'|xargs kill -9
至此,redis 的安装和基本配置就完成了
# 官方下载方式
curl -sSL https://get.docker.com/ | sh
# 阿里云的安装脚本,可以提高下载速度
curl -sSL http://acs-public-mirror.oss-cn-hangzhou.aliyuncs.com/docker-engine/internet | sh
将用户加入 Docker 用户组
sudo usermod -aG docker $USER
启动 Docker
systemctl start docker
查看 Docker 信息
docker info
查看 Docker 镜像
docker images
查看 docker 运行中的镜像
docker ps
终止 Docker 运行中的镜像
docker ps|grep 镜像名称|awk '{print $1}'|xargs docker kill
首先下载项目代码
git clone git clone https://github.com/howie6879/hproxy.git
生成 hproxy 镜像
# 进入 hproxy 项目目录
cd hproxy
# 执行创建命令,注意最后的参数,指的是 Dockerfile 所在路径为当前目录
docker image build -t hproxy .
# 查看创建的镜像
docker images
设置 Redis 相关参数,hproxy 项目的配置可由环境变量进行设置,构建Docker镜像的时候请先阅读环境变量配置说明,然后将想要设置的值在hproxy.env
进行更改即可,操作如下:
# 定义自己的环境变量配置文件
cp dev_hproxy.env hproxy.env
# 修改 hproxy 项目目录下的 hproxy.env 文件,根据自身环境,修改其中的 redis 设置
vi hproxy.env
hproxy.env 默认值如下:
# 需要设置就填写 不需要就删掉
DB_TYPE=redis
START_SPIDER=1
VER_INTERVAL=10
SPIDER_INTERVAL=60
REDIS_ENDPOINT=localhost
REDIS_PORT=6379
REDIS_DB=0
REDIS_PASSWORD=password
运行 hproxy
# 加载 hproxy.env,并将 docker 的8001端口映射到主机的8001端口
docker run --env-file ./hproxy.env -d -p 8001:8001 hproxy
#第一次运行爬虫会自动抓取数据
查看抓取的数据
# 启动 redis 客户端
redis-cli -a 密码
# 连接成功 server 后,查看 hproxy 值,hproxy 为 hash 类型
hgetall hproxy
下载安装 Caddy
curl https://getcaddy.com | bash -s personal
创建 Caddyfile
vi Caddyfile
# 这里以 https://hproxy.htmlhelper.org 为例,内容如下
hproxy.htmlhelper.org {
proxy / 127.0.0.1:8001
timeouts none
gzip
}
运行 caddy
caddy -conf Caddyfile
访问 https://hproxy.htmlhelper.org/api,便可获取代理的相关接口