新未名空间

Pegasi 写了： 2025年 1月 29日 23:44 14B 4090显存不够吧

huangchong 写了： 2025年 1月 30日 17:14 完全够 我都可以在3090/24G上跑32b呢

huangchong 写了： 2025年 1月 30日 17:14 完全够 我都可以在3090/24G上跑32b呢

（ヅ） 写了： 2025年 1月 29日 04:32 这个东西可以直接接入vscode，替代cursor/windsurf，还蛮好用

术版有讨论怎么配置

wass 写了： 2025年 2月 1日 13:08 哪个模型优化过Coding？

（ヅ） 写了： 2025年 2月 1日 14:02Claude

Pegasi 写了： 2025年 1月 31日 12:33 huangchong 你下的哪个？

wass 写了： 2025年 2月 1日 13:08 哪个模型优化过Coding？

huangchong 写了： 2025年 2月 1日 17:43 模型名字里带code／coding的应该都是
vscode有个continue插件，可以用本地模型，我们关于它的讨论在joke版精华区
这个continue插件推荐用codellama当编程的聊天ai。我试了一下，DS各种distill版本也都不错

wass 写了： 2025年 2月 1日 17:53 好，我试试continue

curl -fsSL https://ollama.com/install.sh | sh

#download deepseek-7b
ollama pull deepseek-r1:7b

"models": [
    {
      "model": "deepseek-r1:7b",
      "provider": "ollama",
      "title": "deepseek-r1:7b"
    }

  ],
  "tabAutocompleteModel": {
      "model": "deepseek-r1:7b",
      "provider": "ollama",
      "title": "deepseek-r1:7b",
    "apiBase": "http://localhost:11434"
  },

huangchong 写了： 2025年 2月 1日 18:06 ollama上面的deepseek模型都是用其他小模型蒸馏deepseekR1得来的，具体是什麽看这里
https://ollama.com/library/deepseek-r1

huangchong 写了： 2025年 2月 1日 18:00 @wass



前提是ollma在linux下正常安装（会被装成一个系统服务，systemctl 可以管理它）

代码： 全选

curl -fsSL https://ollama.com/install.sh | sh

#download deepseek-7b
ollama pull deepseek-r1:7b

不需要自己打ollama run，在continue里开始chat， 这个事件就通过ollama的网页api启动网络了。

~/.continue/config.json

代码： 全选

"models": [
    {
      "model": "deepseek-r1:7b",
      "provider": "ollama",
      "title": "deepseek-r1:7b"
    }

  ],
  "tabAutocompleteModel": {
      "model": "deepseek-r1:7b",
      "provider": "ollama",
      "title": "deepseek-r1:7b"
    "apiBase": "http://localhost:11434"
  },

tab completion我还没有试过

https://docs.continue.dev/customize/mod ... ers/ollama

anesthetic 写了： 2025年 2月 1日 18:10 有完整的啊，1.5-671b都有啊

wass 写了： 2025年 2月 1日 18:17 我用Windows，已经用ollama serve设为Service

wass 写了： 2025年 2月 1日 18:24 还有一个open source的extension，哪天读读源代码。

目前看，最好的应用，还是写代码