私たちの Lemonade 組み込み SDK が実際のユースケースで活用されているのを見ることができ、大変嬉しく思います!
注目のディスカッション
tcarambat (⬆116):AnythingLLM の Tim です!今回の移行がようやく一段落して本当にホッとしています。Ollama には以前からかなり辟易していました。Lemonade は sd.cpp や kokoro、その他あらゆる機能もサポートしているため、フル機能のサポートを実現したいと考えています。そうすれば、多数のサードパーティ製アプリに振り回されることなく、標準的な GGUF モデルなどを使ってこれらすべての機能をそのまま利用できるようになります。諸々の対応が完了して嬉しい限りですし、さらに lemonade + llamacpp を Docker イメージのアップストリームにマージする予定です。なぜなら…… NoFunk (⬆20):以前 AnythingLLM をインストールしたことがあるのですが、Ollama が使われているのを見てすぐにアンインストールしてしまいました。これでまたインストールし直して、じっくり試せそうです。ありがとう! seamonn (⬆158):Ollama が酷いから? starkruzr (⬆88):その通り。「要約すると:いかなる状況であれ、誰も Ollama で何かしようとするべきではない。以上、おやすみなさい。」 MrSkullking (⬆77):Ollama が未だにこれほど人気があることに今でも驚いています。ローカル LLM(Local LLM)の黎明期に、一番知名度が高くてマーケティングが上手かったからというだけなのでしょうか? toluwalase (⬆34):おそらくそうでしょうね。この分野のことを何も知らなかった頃、私が最初にダウンロードしたのが Ollama でした。その後 Llama に乗り換えましたが。 tcarambat (⬆49):実のところ、私たちが当初それを選んだ理由はまさにそれだけでした。llamacpp はずっとローカル実行の基盤であり続けていますが、当時は Ollama の方が管理しやすく、開発思想としてもそこを重視しているように見えました。しかし実際はそうではなかったことが明らかになり、今回の移行は長年抱えていた「ToDo」タスクとなっていました。ネイティブの llamacpp と比べると、Windows、Mac、Linux、そしてあらゆるアーキテクチャや GPU の組み合わせへの対応を考慮した場合、当時は確かに Ollama の方が手軽だったのです。ただ仰る通り、大昔に使い勝手の良さで先行した後は、SEO や GitHub 上のバズだけで勢いを保っていたに過ぎません。 paryska99 (⬆34):本当に素晴らしい決断だと思います。Ollama はプロ向けのツールとは到底呼べませんからね。