(这是蒸馏版本,如果高端手机可以尝试在魔搭社区搜索更大参数的版本,一般越大的模型能力越强,相反如果手机配置较低也可以尝试更小的模型。)
GGUF版本的模型列表地址是:
https://www.modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/files
大家好,上个是教大家在苹果手机上部署DeepSeek,很多朋友都遇到问题,这里集中为大家解答一下。
第一个问题是搜索不到DeepSeek的模型。这是因为的你网络无法访问抱脸,如果你无法自行解决这个问题,这里另一种模型下载方案。首先打开手机自带的safri浏览器,然后复制这个地址从魔搭社区下载模型,魔搭社区是阿里云推出的AI大模型开源社区,大家也可以自己在上面找到其他想要研究的模型进行下载。下载完成后,我们打开PocktetPal AI 这个应用,没有下载的朋友可以在app store 里下载,然点击右下角的 “go to models”,再点击右下角的+号,接着选择 “add Local Model”,点击左下角的最近项目,这里就可以看到刚刚下载的模型,点击模型,然后点击这里的”load”按钮,就可以启动模型进行聊天了。
第二个问题是聊天过程中卡住不动停在“thinking”了。这个时候我们可以长按“Tingking”,在弹出的选项里选择 “Regenerate”,这样就可以重新生成并继续聊天了。
第三个问题是,有线上app,还要本地部署有什么用?说实话普通人本地部署确实没什么大用处。但它主要有两个优势,一个是聊天内容是保存在本地的可以保障个人隐私,另一个是无需联网可以离线使用。我们使用本地部署更多的是用学习、研究一下最新的AI技术究竟发展到什么程度了。你想,既然已经可以把大模型塞进手机里,那么也就意味着可以把他塞进各种智能家电、或者智能玩具等等日常生活中用到的各种电子设备里面,它拥有广阔的应用场景,对于本来就在做成品的企业或创业者们也可以考虑如何大模型融入到我们现有的产品中。
好,本期视频就到这里,大家如果还有其他问题欢迎评论区一起探讨学习,关注我,让我们一起拥抱新技术迈入这个属于我们每个人的智能时代。