ADP IT 课程 RAG 问答 API：2 天低延迟实现

📌 引言

在企业培训场景里，学员的提问往往千变万化：

• “这门课的实验环境怎么登陆？”
• “Lab3 的评分细则是什么？”

传统 FAQ 页面更新慢、命中率低；而通用大模型又容易“幻觉”出本不存在的课程章节。
RAG（Retrieval-Augmented Generation） 把企业私域知识与大模型能力结合，成为当下最落地的方案之一。

🗂️ 技术全景速览

🏁 Day 0：需求澄清 & 数据盘点

1. 需求拆解

2. 数据样例

课程编号: ADP-303  
章节: Lab3 Kubernetes 网络  
内容: 使用 Calico 作为 CNI，默认 IPPool 为 192.168.0.0/16...

⚙️ Day 1：Pipeline 搭建

流程图：RAG 数据流

1. 文档解析 & 分块

from langchain.document_loaders import DirectoryLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter

loader = DirectoryLoader("data/", glob="**/*.pdf")
docs = loader.load()

splitter = RecursiveCharacterTextSplitter(
    chunk_size=500,
    chunk_overlap=50
)
chunks = splitter.split_documents(docs)

2. Embedding & 入库

import weaviate
client = weaviate.Client("http://localhost:8080")

with client.batch as batch:
    for c in chunks:
        batch.add_data_object(
            data_object={"text": c.page_content},
            class_name="ADPKnowledge"
        )

🚀 Day 2：API 服务 & 低延迟调优

1. FastAPI 核心代码

from fastapi import FastAPI
from pydantic import BaseModel
import weaviate, openai, os

app = FastAPI()
client = weaviate.Client("http://localhost:8080")
openai.api_key = os.getenv("AZURE_OPENAI_KEY")

class Query(BaseModel):
    q: str

@app.post("/ask")
def ask(query: Query):
    near_text = {"concepts": [query.q]}
    res = client.query.get("ADPKnowledge", ["text"])\
        .with_near_text(near_text)\
        .with_limit(5)\
        .do()

    context = " ".join([r["text"] for r in res["data"]["Get"]["ADPKnowledge"]])
    prompt = f"根据以下内容回答：{context}\n问题：{query.q}"

    gpt_resp = openai.ChatCompletion.create(
        engine="gpt-4o",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=256,
        temperature=0.1
    )
    return {"answer": gpt_resp.choices[0].message.content}

2. 延迟压测结果

结论：单副本即可满足 SLA，后续可水平扩展。

🎨 前端体验 & 图标

1. Markdown 友好提示

• ✅ 代码高亮
• ✅ 表格渲染
• ✅ 数学公式

📈 上线后数据（真实运行 7 天）

🛡️ 安全与合规

🔍 真实案例：Lab3 网络故障排查

用户提问：
“Pod 无法跨节点通信，但同节点正常，如何排查？”

RAG 回答：

1. 确认 CNI 为 Calico ✅
2. 检查 calico/node Pod 日志是否有 BGP not ready
3. 查看节点间 179 端口是否被防火墙拦截
4. 若使用 IP-in-IP 模式，确认 CALICO_IPV4POOL_IPIP=Always

结果：用户 3 分钟定位到防火墙策略问题，实验提前 40 分钟完成。

🚢 CI/CD & 版本管理

GitHub Actions 工作流

name: deploy-rag-api
on:
  push:
    branches: [main]
jobs:
  docker-build:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: docker/build-push-action@v5
        with:
          tags: ghcr.io/adp-it/rag-api:latest

可插拔扩展

🆚 对比：传统 FAQ vs RAG

✅ 总结

通过 RAG 低延迟架构，我们在 2 天内将 ADP IT 课程的零散知识转化为可对话、可扩展、可观测的问答 API；在保证安全合规的同时，把平均响应时间控制在 500 ms 以内，用户体验和运维成本实现双赢。未来可继续接入更多企业知识库，打造统一的企业级 AI 助手底座。