这个项目提供了一个基于Streamlit的聊天界面,用于测试AWS Bedrock Agents。
- 具有流式响应的交互式聊天界面
- 支持Agent ID和模型选择的配置选项
- 会话管理,支持连续对话
- 响应时间指标(首个令牌延迟,总响应时间)
- 对话历史记录及重置功能
- 更新软件包列表:
sudo apt update- 安装软件属性工具(如果尚未安装):
sudo apt install software-properties-common- 添加deadsnakes PPA以获取最新版本的Python:
sudo add-apt-repository ppa:deadsnakes/ppa
sudo apt update- 安装Python 3.11及相关工具:
sudo apt install python3.11 python3.11-venv python3.11-dev- 安装pip:
sudo apt install python3-pip- 验证安装:
python3.11 --version
pip3 --version- 需要python > 3.11
- 使用uv安装所需依赖:
pip install uv
uv sync- 激活环境
source .venv/bin/activate- 配置AWS凭证:
- 确保您的环境中已配置有效的AWS凭证
- 用户/角色应具有访问Bedrock Agent Runtime的权限
使用以下命令在前台运行Streamlit应用程序:
streamlit run streamlit_agent_chat.py使用提供的脚本在后台运行应用程序:
./start_background.sh应用将监听所有网络接口(0.0.0.0),使其可以从其他设备访问。
停止后台运行的应用程序:
./stop_background.sh后台运行时,日志将保存在logs目录中。
-
在侧边栏配置您的Agent设置:
- AWS区域
- Agent ID
- 模型选择
-
在聊天输入框中输入您的消息
-
查看来自Agent的流式响应
-
对话历史将保持,直到您使用"重置对话"按钮重置它
streamlit_agent_chat.py:聊天界面的主要Streamlit应用程序
