众所周知,SpringBoot3不支持JDK17以下的JDK版本。同时升级SpringFramework与JDK版本,考虑到系统稳定性,在中型项目中几乎不可能推进。
最近遇到一个需要用到大模型的需求,需在Java系统的原有功能里,利用大模型的判断确定内容关联性。
尝试了SpringAI,LangChain4j等等SDK,发觉几乎所有AI工具链在SpringBoot生态中,都只从SpringBoot3.x.x开始提供支持。
只为这个功能,就重构/单开出一个Python系统显然不可能,而又面临SpringBoot版本无法升级的困境,只能寻求迂回方案。
当然,我们可以通过Rest API请求对应的接口,以调用AI能力,但一来Java的原生HTTP请求写起来实在麻烦,二来自行对照SDK写HTTP请求,还要封装的漂亮,工作量也决不少。
好在,经过测试,虽然 lang chain4j spring boot starter不支持SpringBoot2.x;但langchain4j本身还是支持JDK8的,因此可以自行集成langchain4j。
pom.xml中,添加:
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-open-ai</artifactId>
<version>0.35.0</version>
</dependency>
新增LangChain4j的Bean
@Data
@Configuration
public class LangChain4jConfig {
@Value("${openai.chat.base-url}")
private String baseUrl;
@Value("${openai.chat.model:gpt-4o}")
private String model;
@Value("${openai.chat.api-key}")
private String apiKey;
@Bean
OpenAiChatModel chatLanguageModel() {
return OpenAiChatModel.builder()
.baseUrl(baseUrl)
.modelName(model)
.apiKey(apiKey)
.build();
}
}
测试
@RestController
public class TestController {
@Autowired
private OpenAiChatModel openAiChatModel;
@ApiModelProperty("测试OpenAI")
@PostMapping("/test")
public String testOpenAI() {
String prompt = "你将扮演一个情感指导师";
String question = "你能干什么";
ChatResponse chatResponse = openAiChatModel.chat(ChatRequest.builder()
.messages(
SystemMessage.from(prompt),
UserMessage.from(question)
).build());
return chatResponse.aiMessage().text();
}
}
请求 /test接口,返回markdown格式文本:
作为一名情感指导师,我可以帮助你处理各种情感和人际关系问题,包括但不限于以下方面:
- 人际关系:帮助改善与家人、朋友、同事或伴侣之间的关系。
- 情感支持:提供建议和策略来应对压力、焦虑、抑郁等情感挑战。
- 沟通技巧:提高你的沟通能力,以便更有效地表达需求和理解他人。
- 自我提升:帮助你设定个人目标,增强自信和自我价值感。
- 冲突解决:提供解决冲突的方法和技巧,帮助你处理矛盾和误解。
- 生活平衡:建议如何在工作、家庭和个人生活之间找到平衡。
如果你有具体的问题或需要帮助的领域,请告诉我,我会尽力为你提供支持和建议。