mili100 最近的时间轴更新 mili100 最近的时间轴更新 |
mili100V2EX 第 185096 号会员，加入于 2016-08-02 22:05:55 +08:00 |
mili.one
福建厦门
milkey_tan
mili-tan
199mjJagMtP6kQJ4pRymXeGACKsF4oF3F9
mili100 最近回复了
52 天前 回复了 mingtdlb 创建的主题 › DNS › dns 那 dnssec 有用吗？ |
DNSSEC 主要是防止拿到错误的结果，校验不通过就丢弃，但是也拿不到正确的结果
怎么拿到正确的结果，就需要 DoH 、DoT 以及其他 DNS 隧道的方式了
怎么拿到正确的结果，就需要 DoH 、DoT 以及其他 DNS 隧道的方式了
129 天前 回复了 bluefish07020323 创建的主题 › 程序员 › 如何在 Web 页面上实现类似 Manus 的运行效果 |
开一台虚拟机，然后 noVNC
165 天前 回复了 mili100 创建的主题 › Local LLM › 我做了一个 Ollama JSONL 批量推理工具，除了 Ollama 还支持 Deepseek 等 OpenAI Style 兼容 API |
@coefuqin 我的工作站是 3090 单机单卡，用不到 Tensor Parallelism 。Ollama 的模型管理非常方便只需要 `ollama run`就搞定了，我也希望生成一些 Rejected 用的垃圾还要花上几十分钟来搭环境。我觉得 Ollama 很适合我的用例，所以什么不呢。
165 天前 回复了 dashsoap97 创建的主题 › 程序员 › 现在哪个模型最好用?怎么付费?个人感觉是 Claude 但是苦于无法付费 |
对于使用 API 开发应用，也许目前质量和性价比的最佳平衡还是 Deepseek-V3-0324
165 天前 回复了 laijh 创建的主题 › Local LLM › 个人电脑，适合跑哪个本地大模型？ |
内存足够的话也许试试看 Qwen3:30B-A3B ，激活参数仅 3B ，品质接近 32B （虽然对于 16G ，iQ2 UD 量化可能都有些捉襟见肘）
189 天前 回复了 idblife 创建的主题 › Local LLM › 有没有能 mac 上直接跑的多语言翻译 LLM？ |
189 天前 回复了 villivateur 创建的主题 › Local LLM › 本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？ |
269 天前 回复了 mili100 创建的主题 › Local LLM › 为 Ollama 添加 APIKEY 鉴权的最简单的方式，防止 Ollama 直接暴露在公网被滥用 |
@gzlock 意指站在巨人的肩膀上，或者是羊驼的背上（？
@musi Ollama 从 [v0.1.33]( https://github.com/ollama/ollama/releases/tag/v0.1.33) 开始就已经支持并发和同时加载多个模型了，已经足以能够胜任一些中小规模的生产环境了
@musi Ollama 从 [v0.1.33]( https://github.com/ollama/ollama/releases/tag/v0.1.33) 开始就已经支持并发和同时加载多个模型了，已经足以能够胜任一些中小规模的生产环境了
274 天前 回复了 jhytxy 创建的主题 › Local LLM › q4 量化的大模型能比原版全精度的差多少？ |
293 天前 回复了 mrleft 创建的主题 › Local LLM › ollama 如何手动下载模型？ |
Select Language