扫码阅读
手机扫码阅读

阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

211 2024-07-21

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

创建有效DevOps测试策略的5大技巧


了解更多

想要了解更多内容？

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
架构案例 | 如何设计服务边界？
244
服务 订单 用户 方案
文 | 付施威 （转载请注明出处） 关注公众号：DDD和??
前后端分离 SpringBoot+Vue 商城买卖系统通杀版本。大家可以参考学习一下
187
前端 资料 数字 获取
​一些同学反映、想要一个前后端完全分离的商城系统。今天他来了、我将GitHub开源的项目 进行了重新​改造。改造成了一个前后端完全分离的项目、前端用Vue+ElementUi 进行页面的开发​和数据展示
PYTHON | 随机森林实战（代码+详解）
190
努力搬砖，加油打工人！
一图胜千言！深度掌握 Python 绘图
160
关注和星标『数据STUDIO』，和云朵君一起学习数据分析与挖掘！
WebFlux 和 Spring Security 会碰出哪些火花？
82
。
Spring Security 签名书，送送送！
102
干
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

92 篇文章
浏览 17.9K
BUG弄潮儿的其他文章
4.Nginx源码安装
3.Nginx yum安装
nps与npc内网穿透搭建
1.简介nps是一款轻量级、高性能、功能强大的内网穿透代理服务器。目前支持tcp、udp流量转发，可支持任何
Windows 下 JNI 调用动态链接库 dll
1. Java调用本地代码常见的两种方案JNIJNI（Java Native Interface），有过不同
企业DevOps之路：Android项目构建
企业DevOps之路：Android项目构建
随机阅读
和任老师聊聊质量工作
10-01
3分钟弄懂CMMI2.0基准评估的抽样规则
07-12
你是否真的读懂了回归方程y=ax+b?
10-01
回归方程有效性的检查
10-01
如何近似计算回归方程的预测区间？
10-01
加入社区微信群
与行业大咖零距离交流学习
软件研发质量管理体系建设 白皮书上线
去下载