最近のLLM使いっぷり
EVO-X2を使うようになったのでちょくちょくいろいろ試している。
AI Dev Gallery Preview
https://apps.microsoft.com/detail/9n9pn1mm3bd5?hl=ja-JP&gl=JP
MSオフィシャルのローカルLLMをお手軽に試すツール。お試しにはいいけどガッツリ日常的に使うのはまだ見つからず。
Ollama
オープンなLLMのモデルを動かすサーバー。
Lemonade Server
AMDオフィシャルのRyzen AIで使えるモデルが動くしMCP周りも便利という話のLLMをローカルで動かすサーバー。NPU確かに使えているのを確認したところで止まっている。
OpenHands CLI
https://docs.all-hands.dev/usage/how-to/cli-mode
Claude Code的なものをオープンソースのクライアントで、動かすモデルは自由に選べるというやつ。OllamaでDevstral動かして無料でやるというのをやっては見たけど大手のクラウド型AIのAPIと比べるとレスポンスも悪く、昨日出てきたgemini-cli使うのが正しい気がしてきてしまう。
ということで、まだ色々模索中です。課金体制としてはClaudeの課金もせず、まだChatGPT Plusのみ。個人開発をGitHubでやってるぶんには codex がまあまあ便利。