欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 科技 > 能源 > 【画江湖】langchain4j - Java1.8下spring boot集成ollama调用本地大模型之问道系列(第一问)

【画江湖】langchain4j - Java1.8下spring boot集成ollama调用本地大模型之问道系列(第一问)

2025/6/10 4:12:29 来源:https://blog.csdn.net/u010746708/article/details/148502948  浏览:    关键词:【画江湖】langchain4j - Java1.8下spring boot集成ollama调用本地大模型之问道系列(第一问)

背景

随着 AI 大模型的兴起,许多公司希望在现有基于 Java 8 的项目中集成 AI 功能。然而,许多最新的 AI 工具和库(如:Spring AI LangChain4j)已经转向支持更高版本的 Java(如 JDK 17),这给希望在 Java 8 环境中工作的开发者带来了挑战。看网上很多都没有关于JDK8相关资料,本文将提供一个解决方案,展示如何在 Java 8 环境下,使用 Spring Boot 框架集成 LangChain4j,并通过 Ollama 调用本地大模型。

提示

好多框架现在都是基于JDK17的,如spring AI 、 LangChain4j 的 0.31.0 之后的版本将不在支持Java jdk1.8,由于AI版本的更新迭代比较频繁,这也意味着我们的项目也要紧跟时代的潮流基于17来开发。

1. 环境准备

确保你的开发环境已安装以下工具:
Java JDK 1.8:确保你的项目使用的是 Java 8。
Maven:用于项目依赖管理。
Spring Boot:用于构建应用程序。
Ollama:本地大模型服务。
deepseek-r1:1.5b:系统资源有限就按照这个模型了。

2. 安装 Ollama

首先,确保你已经安装了 Ollama。你可以从 Ollama 官网 下载并安装 Ollama。

下载并安装你选择的模型,例如 DeepSeek-r1:1.5b:

ollama run deepseek-r1:1.5b

我这window的系统 如下效果,安装我就不介绍了,大家都会。

在这里插入图片描述

3. 添加LangChain4j maven 依赖

	<dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-core</artifactId><version>0.31.0</version></dependency><dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-ollama</artifactId><version>0.31.0</version></dependency>

这里我就省略了其他spring boot 相关依赖了

4. 给spring注入bean LangChain4j

@Configuration
public class LangChain4jConfig {@Bean
public ChatLanguageModel chatLanguageModel() {return OllamaChatModel.builder().baseUrl("http://localhost:11434").modelName("deepseek-r1:1.5b").build();}
}

http://localhost:11434 这是我们ollama的服务地址
deepseek-r1:1.5b 这是我们需要使用的模型
上面的这些你们自己可以写到springboot的核心配置文件里,我有点懒,就不了 只是演示下

4. 写一个Controller演示一下

@RestController
public class ChatController {@Autowiredprivate ChatLanguageModel chatLanguageModel;@GetMapping("/chat")public String chat(@RequestParam(value = "message", defaultValue = "Hello") String message) {return chatLanguageModel.generate(message);}
}

5. 演示效果

在这里插入图片描述

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

热搜词