很高兴看到我们的 Lemonade 嵌入式 SDK 在实际场景中得到应用!
热门讨论
tcarambat (⬆116):我是 AnythingLLM 的 Tim!很高兴这次迁移终于告一段落了。Ollama 早就让我受够了。鉴于 Lemonade 还支持 sd.cpp、kokoro 以及所有其他功能,希望我们能实现全功能支持,这样大家就可以直接使用所有这些特性,而不必手忙脚乱地应付一大堆第三方应用,直接使用常规的 GGUF 模型等即可。很高兴这一切都搞定了,而且我们还打算把 lemonade + llamacpp 合并到 Docker 镜像的上游中,因为我们…… NoFunk (⬆20):我曾经装过一次 AnythingLLM,看到它用了 Ollama 就直接卸载了。现在我可以重新装回来好好试试了,多谢! seamonn (⬆158):因为 Ollama 很烂? starkruzr (⬆88):没错。“简短版本:任何人都不应该在任何情况下用 Ollama 做任何事情,谢谢,晚安。” MrSkullking (⬆77):我依然很惊讶 Ollama 居然还能这么火。难道只是因为在本地大模型(Local LLM)兴起之初,它的知名度最高、推广做得最好吗? toluwalase (⬆34):大概是吧。在我对这些还一窍不通的时候,它是我下载的第一个工具。后来我就换成 Llama 了。 tcarambat (⬆49):事实上,这正是我们当初选择它的全部原因。虽然 llamacpp 一直是本地运行的功能骨干,但当时 Ollama 确实更容易管理,而且从理念上看这似乎也是他们的发展重心。显然事实并非如此,所以这成了我们一个积压已久的“待办”事项。与原生 llamacpp 相比,如果把 Windows、Mac、Linux 以及所有架构和 GPU 组合的适配考虑在内,它当时确实更方便。但没错,很久以前他们只是更易用,后来就全靠 SEO 和 GitHub 上的热度带动了。 paryska99 (⬆34):我觉得这是个极好的举措,Ollama 根本称不上是一个专业工具。