扫码阅读
手机扫码阅读

阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

146 2024-07-21

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

测试开发之前端篇-JavaScript脚本语言


了解更多

想要了解更多内容？

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
微软Canvas App实战之定制化表单数字的呈现
535
变量 格式 控件 表单
在上一期的内容中我向大家介绍了使用Canvas App变量??
Kotlin 它不香么
99
Kotlin Java 函数 代码
简介Kotlin （cot-lin） 是一种针对 Java 平台的编程语言。大概与 2010 年Kotlin
【Java语言基础②】Java基本语法——Java程序基本格式，注释，标识符，常量
132
程序 注释 常量 Java
通过前面的学习，大家对Java语言有了一个基础认识，但现在还无法使用Java语言编写程序，要熟练使用Java
跟我一起学Python编程（十二），什么是元组？
60
元组 列表 元素 字典
点击下方公众号「关注」和「星标」PS：因为公众号??
时间序列数据处理，不再使用pandas
53
关注和星标『数据STUDIO』，和云朵君一起学习数据分析与挖掘！
xlwings的基本使用介绍
38
在实际工作中，Excel是一个非常常用的工具。但是仅仅会使用Excel进行数据处理和分析是远远不够的。
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

92 篇文章
浏览 13.3K
BUG弄潮儿的其他文章
Spring RabbitMQ 实现消息队列延迟
1.概述要实现RabbitMQ的消息队列延迟功能，一般采用官方提供的 rabbitmq_delayed_me
一日一命令：find 命令详解
find 用来在指定目录下查找文件。任何位于参数之前的字符串都将被视为欲查找的目录名。如果使用该命令时，不设
21.发布Jar包到Nexus3
发布Jar包到Nexus3
CentOS 下 docker 安装
CentOS 下 docker 安装
Springboot 之 Mybatis 多数据源实现
简介上篇讲解了 JPA 多数据源实现；这篇讲解一下 Mybatis 多数据源实现 。主要采用将不同数据库的
随机阅读
敏捷实践大全
10-01
《非暴力沟通》读书笔记
10-01
案例：每日站立会议落实情况的再跟踪
10-02
和任老师聊聊质量工作
10-01
从3级到高成熟度的18项可能的变化
10-01
加入社区微信群
与行业大咖零距离交流学习
软件研发质量管理体系建设 白皮书上线
去下载