周六日任务安排表(共16小时)尝试搭建本地知识库
nanshan 2025-04-27 15:14 16 浏览 0 评论
周六(Day 1:8小时)
目标:完成基础环境搭建与数据预处理
时间段 | 任务 | 具体步骤 | 交付物 | 技术提示 |
9:00-10:30 | 环境检查与依赖安装 | 1. 确认DeepSeek模型可正常加载(python -c "import transformers; print('OK')) | 环境检查清单 | 使用virtualenv创建独立环境,避免包冲突 |
10:30-12:30 | 样例数据准备与清洗 | 1. 准备3-5个测试文档(PDF+Markdown)存放到data/raw | 测试数据集 | 使用chardet检测文件编码,避免乱码 |
14:00-16:00 | 文本分块与向量化 | 1. 实现动态分块逻辑: | 分块后的文本文件 | 对中文长句优先按标点分块(句号、问号) |
16:00-17:30 | FAISS索引构建 | 1. 创建带ID映射的索引: | FAISS索引文件 | 使用IndexIDMap为后续增量更新留出扩展空间 |
周日(Day 2:8小时)
目标:实现问答接口与基础UI
时间段 | 任务 | 具体步骤 | 交付物 | 技术难点预警 |
9:00-11:00 | DeepSeek问答接口开发 | 1. 封装RAG核心逻辑: | RAG核心模块 | 注意控制max_length防止内存溢出 |
11:00-12:30 | FastAPI服务封装 | 1. 创建基础API端点: | 可运行的API服务 | 使用uvicorn部署: |
14:00-15:30 | Gradio交互界面开发 | 1. 实现基础UI: | 可交互的Web界面 | 设置queue()处理并发请求 |
15:30-17:00 | 端到端测试与优化 | 1. 验证完整流程: | 测试报告 | 使用memory_profiler监控内存使用 |
17:00-17:30 | 文档整理与下周计划 | 1. 编写操作手册(README.md) | 项目文档 | 使用typora编写Markdown文档 |
关键风险应对预案
- 内存不足导致崩溃
- 应急方案:启用交换分区 sudo fallocate -l 4G /swapfile && sudo mkswap /swapfile && sudo swapon /swapfile
- 根治措施:限制分块大小(调整为300字符/块)
- FAISS索引加载失败
- 检查索引版本兼容性:faiss.__version__需与创建时一致
- 重建命令:python -c "import faiss; faiss.write_index(index, 'backup.index')"
- 中文乱码问题
- 统一编码:在解析时强制指定encoding='utf-8'
- 异常捕获:
try: text = open(file).read() except UnicodeDecodeError: text = open(file, encoding='gbk').read()
成果验收标准
模块 | 检查项 | 验证方法 |
数据预处理 | 能正确解析PDF/Markdown并输出干净文本 | 执行python test_parser.py查看日志 |
向量检索 | 输入相似问题能返回相关度TOP3的文档块 | 人工验证检索结果相关性 |
问答接口 | API响应时间<5秒(无缓存情况下) | 使用curl测试并记录响应时间 |
用户界面 | 可输入问题并显示带格式的回答 | 屏幕录制操作过程 |
按照此计划执行,周末结束时将获得一个可本地运行的知识问答原型系统。建议每完成一个阶段立即commit代码(git commit -m "feat:完成XX模块"),便于问题追溯。
- 上一篇:如何使用CURL进行代理设置
- 下一篇:[实用]送你一个短小精悍的curl命令
相关推荐
- 0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)
-
文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...
- ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes
-
为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...
- 生产环境starrocks 3.1存算一体集群部署
-
集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...
- 在CentOS上添加swap虚拟内存并设置优先级
-
现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...
- 国产深度(deepin)操作系统优化指南
-
1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...
- postgresql-15.4 多节点主从(读写分离)
-
1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...
- Docker 容器 Java 服务内存与 GC 优化实施方案
-
一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...
- 虚拟内存设置、解决linux内存不够问题
-
虚拟内存设置(解决linux内存不够情况)背景介绍 Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...
- Elasticsearch性能调优(5):服务器配置选择
-
在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...
- Es如何落地
-
一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...
- 针对Linux内存管理知识学习总结
-
现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...
- MySQL进阶之性能优化
-
概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...
- Linux Cgroups(Control Groups)原理
-
LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...
- linux 常用性能优化参数及理解
-
1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...
- 如何在 Linux 中使用 Sysctl 命令?
-
sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)