让 AI 接口返回结构化 JSON：一次 Java 实践记录

当 AI 返回值从纯文本变成结构化 JSON，后端就能更稳定地承接业务流程。

本文整理自早期学习笔记，发布时间按学习阶段归档。

正文

一.Diy 返回值 json

public interface AiCodeHelperService {  
  
    @SystemMessage(fromResource = "prompt.txt")  
    //用户隔离  
    String chat(@MemoryId int userId, @UserMessage String userMessage); // annotate second parameter  
  
    @SystemMessage(fromResource = "prompt.txt")  
    Record chatForReport(@UserMessage String userMessage);  
  
    //定义一个报告类  
    record Record(String name, List<String> suggestionList){};  
}

有什么区别：？
第二个用于什么情况？

————————————————————-

分块
置信度
向量化

Todo 增强版：

• [ ] 分知识库：
• [ ] 修改内存向量存储：mongdb所有支持的嵌入存储比较表 | LangChain4j 中文文档

图片占位：Pasted image 20260103202025.png

二.RAG 知识库

RAG技术概述What：

先本地知识库，再用互联网的已经训练好了的数据知识

RAG的典型应用场景 Where:

1. 智能问答系统：结合企业文档库，回答产品使用、政策解读等问题
2. 知识图谱增强：补充生成模型的知识盲区

How:
企业端本地知识库—–>分块—–>向量化表示

客户端提问————->分块—->向量化表示—–>相似度过滤—>ai 拼接

图片占位：Pasted image 20260103132956.png

知识库在哪看出？+prompt?

Documents size

文档切片+少量上文信息怎么看出

图片占位：Pasted image 20260103200757.png

最后发给ai 什么？过滤后的

具体引用能看到吗？

能，改变返回值就行了

爬虫：Jsoup：java

三步：
Tool 提示词

工具

返回

Mcp:

护轨

可观测性：？

SSE 流式输出：回复就输出

方案一

方案二：
接口
配置文件
工厂加入