如果像ChatGPT这样的模型可以小型化
-
那么发帖时也许就可以用少量的算力代价来智能推荐符合的版面了,更容易分类妥当
BBS就常常出现帖子发错版的情况,版面太多一般人不知道应该发哪个版 -
模型小型化还是烧钱啊,不如干脆不跑模型,直接调用 ChatGPT 的 API
-
@test1 问题是ChatGPT不可能了解某个BBS系统的版面组成,所以直接调api还是不行吧
-
现在已经有许多开源模型了,是不是可以考虑一下?不熟悉BBS的话可以微调一下再用?
-
白泽
https://github.com/project-baize/baize-chatbot
用问题种子+ChatGPT构造高质量数据,微调出的小模型 -
@Courier 这个模型看起来很棒
-
https://github.com/nomic-ai/gpt4all 这个也很容易部署,硬件要求低,支持模型挺多,但是不支持中文的