Skip to content

kaka0207/comment-analysis

Repository files navigation

社媒评论分析平台

面向 B站 / 抖音 / 贴吧 / 知乎 / 小红书 的一站式评论采集、文件整理、数据清洗、情感分析与舆情安全研判平台。

当前版本已经切换为中文导航和按操作顺序组织的工作流,推荐流程为:

评论采集 → 文件管理 → 数据清洗 → 情感分析 → 舆情安全分析


1. 当前版本功能

  • 多平台采集:
    • B站评论采集
    • 抖音评论采集
    • 百度贴吧帖子采集
    • 知乎回答采集
    • 小红书评论采集
  • 数据整理:
    • 文件管理
    • JSONL 数据清洗与标准化
  • 分析能力:
    • 情感分析
    • 舆情安全分析
    • IP 地域分析
    • 用户画像分析
    • 综合风险评分与报告导出
  • 模型模式:
    • 规则/NLP
    • Agent 大模型
    • 混合模式
  • 本地模型支持:
    • 已兼容 LM Studio 的 OpenAI 兼容接口
    • 可直接接入本地 Qwen3.5-9B-GGUF
  • 界面体验:
    • 全站统一主题
    • 左侧边栏可统一调整底色、强调色、文字清晰度和圆角

2. 环境要求

  • Python 3.9+
  • Windows / Linux / macOS
  • 首次安装需要联网下载 Python 依赖和 Playwright Chromium
  • 若使用大模型分析,建议提前安装并启动 LM Studio

3. 安装方式

Windows

推荐直接执行安装脚本:

cd E:\Github\comment-Agent\EVDP
powershell -ExecutionPolicy Bypass -File .\setup.ps1

脚本会自动完成:

  • 创建虚拟环境 venv
  • 安装 requirements.txt
  • 安装 playwright 依赖
  • 安装 chromium

Linux / macOS / WSL

cd /path/to/EVDP
bash ./setup.sh

4. 启动方式

Windows

cd E:\Github\comment-Agent\EVDP
.\venv\Scripts\streamlit.exe run app.py

Linux / macOS

cd /path/to/EVDP
./venv/bin/streamlit run app.py

默认访问地址:

如果 8501 端口被占用,可以改端口启动:

.\venv\Scripts\streamlit.exe run app.py --server.port 8504

5. 推荐使用顺序

第 1 步:评论采集

从左侧菜单进入对应平台页面:

  • B站评论采集
  • 抖音评论采集
  • 贴吧帖子采集
  • 知乎回答采集
  • 小红书评论采集

第 2 步:文件管理

检查本次任务输出的:

  • jsonl
  • 图片
  • 图表
  • 导出文件

第 3 步:数据清洗

把不同平台的原始评论清洗成统一结构,便于后续分析复用。

第 4 步:情感分析

查看:

  • 情绪分布
  • 高风险评论
  • 单条评论判断结果
  • Prompt 预览
  • 模型调用结果

第 5 步:舆情安全分析

综合输出:

  • 总体风险等级
  • 关键发现
  • IP 地域分析
  • 用户画像分析
  • Agent 综合研判
  • 报告导出

6. 各平台登录与凭证说明

B站

  • 建议粘贴 bilibili.com 登录后的完整 Cookie
  • 关键字段通常包括:
    • SESSDATA
    • bili_jct
    • DedeUserID
  • 推荐直接复制完整 Cookie,而不是只填单个字段

百度贴吧

  • 建议粘贴 tieba.baidu.com 登录后的完整 Cookie
  • 关键字段通常包括:
    • BDUSS
    • BDUSS_BFESS
    • STOKEN
  • 推荐直接复制完整 Cookie,而不是只填 BDUSS

抖音

  • 通过页面按钮启动可见浏览器登录
  • 当前流程不是无头扫码,而是打开真实浏览器窗口,扫码或手动登录后保存状态

知乎

  • 通过页面按钮启动浏览器登录
  • 登录成功后会保存状态,下次可复用

小红书

  • 通过“登录并保存状态”按钮打开浏览器
  • 完成登录后即可采集笔记评论

7. 大模型分析与 LM Studio

项目目前支持三种分析引擎:

  • 规则/NLP
  • Agent 大模型
  • 混合模式

推荐本地模型方案:

  • LM Studio
  • 本地模型目录示例:
    • C:\Users\<用户名>\.lmstudio\models\lmstudio-community\Qwen3.5-9B-GGUF
  • 默认本地接口:
    • http://127.0.0.1:1234/v1
  • 默认模型名:
    • qwen/qwen3.5-9b

使用步骤

  1. LM Studio 中加载本地模型
  2. 开启 Local Server / OpenAI Compatible API
  3. 回到平台页面,在“模型接口”区域点击“填入 LM Studio 预设”
  4. 检测接口联通后再运行 Agent混合模式

说明

  • 本地 LM Studio 模式下,API Key 可以留空
  • 若模型接口未启动,系统会自动回退到规则模式

8. 输出目录与文件命名

数据目录

  • 采集数据默认保存在:
  • 上传临时文件默认保存在:

文件命名

当前版本已经把日期和时间写进输出文件名,便于区分不同批次任务,例如:

douyin_20260409_231928_0.jsonl
posts_20260409_231928.jsonl
xiaohongshu_task_1_20260409_231928.jsonl
douyin_20260409_231928_0_wordcloud.png

9. 项目结构

EVDP/
├── app.py                         # 主入口
├── pages/                         # 各平台页面与分析页面
│   ├── 01_bilibili_page.py
│   ├── 02_douyin_page.py
│   ├── 03_tieba_page.py
│   ├── 04_zhihu_page.py
│   ├── 05_file_page.py
│   ├── 06_security_dashboard.py
│   ├── 07_sentiment_analysis.py
│   ├── 08_data_cleaning.py
│   └── 09_xiaohongshu_page.py
├── core/
│   ├── spider/                    # 各平台采集逻辑
│   └── analysis/                  # 清洗、情感、安全分析、报告导出
├── ui/
│   ├── app_shell_v2.py            # 中文导航与首页壳层
│   ├── theme.py                   # 全站主题
│   ├── common_v2.py               # LLM 配置与通用工具
│   └── design_v3.py               # 分析页样式
├── assets/                        # 字体、敏感词、停用词等资源
├── data/                          # 采集输出目录
├── tmp/                           # 临时上传文件目录
├── setup.ps1 / setup.sh           # 安装脚本
└── requirements.txt               # Python 依赖

10. 常见问题

1. Playwright 或浏览器相关报错

先确认已经执行过:

.\venv\Scripts\python.exe -m playwright install chromium

2. 点击 Agent 或混合模式后没有调用本地模型

请检查:

  • LM Studio 是否已经 Load Model
  • 是否已开启 Local Server / OpenAI Compatible API
  • 接口地址是否为 http://127.0.0.1:1234/v1

3. 页面提示端口被占用

换一个端口启动,例如:

.\venv\Scripts\streamlit.exe run app.py --server.port 8504

4. 登录按钮点了没反应或状态未保存

请优先确认:

  • 当前浏览器窗口是否真的弹出
  • 是否完成扫码或手动登录
  • 抖音、知乎、小红书是否成功离开登录页

5. 上传文件后分析失败

请确认上传的是项目输出的 jsonl 文件,或先经过“数据清洗”页面统一格式化。


11. 免责声明

本项目仅供学习、研究与数据分析使用。

  • 请遵守目标平台的服务条款与相关法律法规
  • 请勿用于恶意爬取、商业滥用或任何违法用途
  • Cookie、登录状态和模型接口配置均属于敏感信息,请仅在本机安全环境中使用

About

多渠道社区舆情与用户洞察平台

Resources

License

Stars

4 stars

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages