25年的春节,深度求索(deepseek)给AI圈乃至全国人民都带来一个很厉害的AI模型。Deepseek R1,一个仅用600万不到的成本训练出来的大模型做到了和全球最先进的 OpenAI O1 模型不相上下的效果。这背后带来的变化有无数博主春节加班给大家分享,我这里就不班门弄斧了,不仅了解的信息比别人少,文笔也远不如那些头部自媒体。但作为一个技术人,分享一个本地的部署和玩法还是OK的。
所以本期的内容是分享 Deepseek 的本地部署和连接 SillyTavern 使用。对了,这个过程对电脑性能有一定要求,如果没有一张较强的显卡(推荐是3070及以上,低一些可能也行但估计体验较差),不推荐尝试。