Qwen3を使ってみました。
Qwen3はAlibabaが開発したオープンソースの大規模言語モデル(LLM)の最新バージョンです。
UIにはOpen WebUIを利用しました。

https://github.com/QwenLM/Qwen3
https://github.com/open-webui/open-webui

環境

  • Window 11
    • python 3.11.9

      Requires-Python <3.12.0a1,>=3.11

    • nvidia cuda 12.9
    • git 2.50.1
    • ollama 0.9.6
    • open-webui v0.6.18

構築

前提ソフトウェアのインストール

  • python
    winget install --id Python.Python.3.11 -e
  • nvidia cuda
    winget install --id Nvidia.CUDA -e
  • git
    winget install --id Git.Git -e
  • ollama
    winget install --id Ollama.Ollama  -e

qwen3モデルの確認

Qwen3のダウンロードと起動

  • ダウンロードと起動確認
    ollama run qwen3:0.6b
    ollama run qwen3:1.7b
    ollama run qwen3:4b

    終了にするにはCtrl+Dまたは/bye

  • ダウンロードしたモデルの確認
    > ollama list
    NAME          ID              SIZE      MODIFIED
    qwen3:4b      2bfd38a7daaf    2.6 GB    11 hours ago
    qwen3:1.7b    8f68893c685c    1.4 GB    11 hours ago
    qwen3:0.6b    7df6b6e09427    522 MB    29 hours ago
  • モデルの削除
    > ollama rm qwen3:0.6b
    deleted 'qwen3:0.6b'

    > ollama list
    NAME          ID              SIZE      MODIFIED
    qwen3:4b      2bfd38a7daaf    2.6 GB    11 hours ago
    qwen3:1.7b    8f68893c685c    1.4 GB    12 hours ago

Open WebUIのインストール

  • インストール
    pip install open-webui

    インストール先
    %LOCALAPPDATA%\Programs\Python\Python311\Scripts\open-webui.exe

  • 起動
    open-webui serve

    batファイルから起動する場合は
    %LOCALAPPDATA%\Programs\Python\Python311\Scripts\open-webui.exe serve

  • 終了
    Ctrl+C
  • アップデート
    pip install -U open-webui

利用

  • Open WebUIを起動して以下のURLにアクセスする。
    http://localhost:8080
  • PWAとしてインストールできます。アドレスバーのインストールアイコンからインストールします。
  • 他のマシンからアクセスできます。