扫码阅读
手机扫码阅读

阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

63 2024-07-21

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

想要了解更多内容？

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
AIGC｜手把手教你进行ChatGLM模型部署实践
509
模型 ChatGLM 目录 微调
详细步骤不要看漏哦！
跟女朋友介绍十个常用的 Python 内置函数，她夸了我一整天
90
函数 参数 返回 迭代
进来给我学 Python 内置函数！
next-admin支持AI问答模块，完全开源！
80
AI https 内置 <
3分钟让你的项目支持AI问答模块
滚雪球学Java(09-2)：Java中的关系运算符，你真的掌握了吗？
19
Java 关系 运算符 判断
如何快速入门Java运算符，此文带你搞定。
「聊设计模式」之抽象工厂模式（Abstract Factory）
19
产品 抽象 工厂 创建
何为抽象工厂模式？bug菌带你一文搞定它，快来学！
【12】实战——轨道控制器查看物体
5
camera 相机 Number 几何体
示例：\x26lt;template\x26gt; \x26lt;div class=\x26quot;container\x26quot; ref=\x26quot;container\x26quot;\x26gt;
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

92 篇文章
浏览 7173
BUG弄潮儿的其他文章
SonarQube 详解
SonarQube 详解
Spring RabbitMQ 实现消息队列延迟
1.概述要实现RabbitMQ的消息队列延迟功能，一般采用官方提供的 rabbitmq_delayed_me
Springboot 之 Filter 实现超大响应 JSON 数据压缩
简介项目中，请求时发送超大 json 数据外；响应时也有可能返回超大 json 数据。《Springboot
企业DevOps之路：H5项目构建
1. 安装node下载nodehttps://nodejs.org/zh-cn/download/安装nod
Vagrant编排虚拟机安装与配置
1.安装VirtualBox与VagrantVirtualBox与Vagrant是支持不通过操作系统的；根据
随机阅读
如何把简单的事情一次做对？
08-21
头脑风暴会议的注意事项
08-21
案例：从定性原因分析上升到定量原因分析
08-21
CMMI 研究所CEO 访问麦哲思，探讨中国CMMI未来之路！
07-12
在CMMI推广过程中EPG常犯的错误
07-12
加入社区微信群
与行业大咖零距离交流学习
软件研发质量管理体系建设 白皮书上线
去下载