清华开源项目ChatGLM-6B:可以本地部署的AI聊天机器人

新知榜官方账号

2023-11-02 02:26:15

清华开源项目ChatGLM-6B:可以本地部署的AI聊天机器人

机器人会迎来一颗智慧的大脑,这可能只是时间问题。乐观归乐观,不是现在,这还只是未来,离我们还有好长一段时间,我们畅想一下就算了。我现在要聊的是清华开源项目ChatGLM。

在ChatGPT的核心团队中,也有清华大学毕业进入OpenAI的开发者,就在GPT-4发布的同一天,清华大学的顶尖团队,也公开了自研的类ChatGPT大模型—ChatGLM-6B,具备问答和对话功能。清华大学的ChatGLM清华开源项目ChatGLM-6B已发布开源版本,这一项目可以直接部署在本地计算机上做测试,无需联网即可体验与AI聊天的乐趣。

我是一名地道的机械工程师,对Python编程只是略懂一些皮毛,抱着试试看的态度,尝试了一下AI大模型ChatGLM-6B的本地部署。因为参数规模62亿个,我觉得在我的吊炸天的工作站上应该可以运行起来,有点托大了,毕竟我的工作站还只是消费级的工作站,不是企业级的工作站。说干就干,不试试怎么知道搞不定呢?事实上我还真的搞定了!

安装步骤

  1. 本地安装Python
  2. 下载项目程序包
  3. 下载模型包ChatGLM
  4. 运行命令行版本的demo,如下:pythoncli_demo.py

程序会在命令行中,进行交互式的对话,在命令行中输入指示并回车即可生成回复,输入clear可以清空对话历史,输入stop终止程序。

测试安装完毕以后测试了一下,比搜索引擎好用很多,也许这个AI真的懂我们在说什么。总的来说,ChatGLM-6B还是很有用的,我把问题提出来,基本上过个几秒钟,AI就能回答出来了,比人的回答速度肯定是快很多。这个接近百亿参数的AI,有这个水平还不错。这种大模型AI,到了千亿参数级别,我估计消费级别的电脑很难跑得像上面那么丝滑顺畅。如果AI出答案的等待时间很长,那还怎么交流。希望能测试GPT-4级别的大模型AI。

本页网址:https://www.xinzhibang.net/article_detail-18582.html

寻求报道,请 点击这里 微信扫码咨询

关键词

ChatGLM-6B 清华开源项目 AI聊天机器人

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯