扫码阅读
手机扫码阅读

阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

162 2024-07-21

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

Devops与敏捷二者能否结合？


了解更多

想要了解更多内容？

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
Odoo丨Odoo框架源码研读二：ORM框架与日志
687
Model Odoo 日志 配置
Odoo框架源码解读干货
nacos-client实例注册源码分析
142
nacos-client实例注册源码分析
《三分钟-算法修行》无重复字符的最长子串的《四种解法》
183
子串 字符 重复 滑动
如何在刷算法的时候培养自己的发散思维？来看看暴力破解、滑动窗口...，无重复字符的最长子串的四种解决方案你会有新的感悟
【21】实战——three.js应用图形用户界面更改变量
180
null 渲染器 .name <
three.js应用图形用户界面更改变量
测试人，你的测试力满格了吗？
93
韦神附体！
Python 的 __.call()__ 方法：创建可调用实例
83
关注和星标『数据STUDIO』，和云朵君一起学习数据分析与挖掘！
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

92 篇文章
浏览 14.8K
BUG弄潮儿的其他文章
适合中小团队的 Git 服务 Gitblit
1. Gitblit 概述Gitblit是一个用于管理，查看和提供Git存储库的开源纯Java堆栈。它主要设
一日一命令：ps查看进程
Springboot 之 JPA 多数据源实现
简介微服务推崇单服务单数据库；但是还是免不了存在一个微服务连接多个数据库的情况，今天介绍一下如何使用 JPA
3.Nginx yum安装
企业DevOps之路：私有镜像仓库 Harbor 搭建
1. Harbor 概述容器技术越来越火，越来越成熟，容器应用的开发和运行始终离不开可靠的镜像管理，虽然 D
随机阅读
和任老师聊聊质量工作
10-01
3分钟弄懂CMMI2.0基准评估的抽样规则
07-12
案例：工时数据分析
10-01
对需求签字画押，有用吗？
10-01
GOV与II两个PA的案例
10-01
加入社区微信群
与行业大咖零距离交流学习
软件研发质量管理体系建设 白皮书上线
去下载