如何搭建自己的AI模型-启动chatglm3

新知榜官方账号

2023-11-20 10:27:11

如何搭建自己的AI模型-启动chatglm3

在频繁使用AI后,我们会发现TOKEN的消耗量相当大,例如算力。尽管之前的几个模型是收费的,但现在它们已经免费了,但未来可能会开始收费。因此,如果我们自己搭建AI模型供企业内部使用,成本将会大大降低。无论是处理几百万字还是几千万字,都没有问题。这种模型通常用于文章洗稿和学术论文。那么,我们应该如何去做呢?

首先,我们可以看一下CHATGLM3这个最新的模型。这个模型可以不断更新,使其变得更加智能。生成的速度也相当快,这主要取决于你的显卡能力。在这个例子中,我们使用的是RTX407012G的显卡。

接下来,我们可以看到一个文案润色选择。我们把这个文章的复制过去。当然,如果你使用其他模型,单篇文章是没有问题的。然而,我们现在使用的自己的模型可以无限制地使用。现在,它已经在生成了。目前,我们使用的是chatglm3-6B基础模型,支持8,000字。这是什么意思呢?也就是说,你输入4,000字,输出也会给你4,000字。他也有32K的模型,那就需要更强的一个显卡。在我们的后台里面有记录,你可以给用户开设一个账号,让他们去使用。这相当于共用你的一个本地的一个显卡,本地的算力。完成之后,我们的后台也可以添加其他模型。本地就可以用你自己的一个算列。如果在外网的话,你可以选择其他的一个模型。这里已经显示出来了。

最后,我们来看看如何去做这个。这是官方的一个下载地址,你可以直接去下载。在国内的话,使用modelscope就可以了。评分还是很高的。然后我们打开自己的一个文件夹,把这里面的内容全部复制进去。我这边做了一个启动脚本,直接启动就好了。然后这个是安装教程。免费使用地址:Ai

本页网址:https://www.xinzhibang.net/article_detail-20570.html

寻求报道,请 点击这里 微信扫码咨询

关键词

chatglm3 AI模型 文章洗稿

分享至微信: 微信扫码阅读

相关工具

相关文章