Qwen3を使ってみました。
Qwen3はAlibabaが開発したオープンソースの大規模言語モデル(LLM)の最新バージョンです。
UIにはOpen WebUIを利用しました。

https://github.com/QwenLM/Qwen3
https://github.com/open-webui/open-webui

2025-08-04

https://ollama.com/download
Ollama GUIアプリ

環境

  • Window 11
    • python 3.11.9

      Requires-Python <3.12.0a1,>=3.11

    • nvidia cuda 12.9
    • git 2.50.1
    • ollama 0.9.6
    • open-webui v0.6.18

構築

前提ソフトウェアのインストール

  • python
    winget install --id Python.Python.3.11 -e
  • nvidia cuda
    winget install --id Nvidia.CUDA -e
  • git
    winget install --id Git.Git -e
  • ollama
    winget install --id Ollama.Ollama  -e

qwen3モデルの確認

Qwen3のダウンロードと起動

  • ダウンロードと起動確認
    ollama run qwen3:0.6b
    ollama run qwen3:1.7b
    ollama run qwen3:4b

    終了にするにはCtrl+Dまたは/bye

  • ダウンロードしたモデルの確認
    > ollama list
    NAME          ID              SIZE      MODIFIED
    qwen3:4b      2bfd38a7daaf    2.6 GB    11 hours ago
    qwen3:1.7b    8f68893c685c    1.4 GB    11 hours ago
    qwen3:0.6b    7df6b6e09427    522 MB    29 hours ago
  • モデルの削除
    > ollama rm qwen3:0.6b
    deleted 'qwen3:0.6b'

    > ollama list
    NAME          ID              SIZE      MODIFIED
    qwen3:4b      2bfd38a7daaf    2.6 GB    11 hours ago
    qwen3:1.7b    8f68893c685c    1.4 GB    12 hours ago

Open WebUIのインストール

  • インストール
    pip install open-webui

    インストール先
    %LOCALAPPDATA%\Programs\Python\Python311\Scripts\open-webui.exe

  • 起動
    open-webui serve

    batファイルから起動する場合は
    %LOCALAPPDATA%\Programs\Python\Python311\Scripts\open-webui.exe serve

  • 終了
    Ctrl+C
  • アップデート
    pip install -U open-webui

利用

  • Open WebUIを起動して以下のURLにアクセスします。
    http://localhost:8080
  • PWAとしてインストールできます。アドレスバーのインストールアイコンからインストールします。
  • 他のマシンからアクセスできます。

SSL化

リモートマシンからアクセスした際にPWA化できなかったのでSSL化しました。

  • SSL証明書の準備
    mkcertで作成したcode-server用のSSL証明書を流用します。
    https://ktkr3d.github.io/Visual-Studio-Code/#サーバ側の環境設定
    DESKTOP-2P2LUE8.local-key.pem
    DESKTOP-2P2LUE8.local.pem
    rootCA.pem
  • __init__.py 修正前
    %LOCALAPPDATA%\Programs\Python\Python311\Lib\site-packages\open_webui\__init__.py
    78
    79
    80
    81
    82
    83
    84
    uvicorn.run(
        "open_webui.main:app",
        host=host,
        port=port,
        forwarded_allow_ips="*",
        workers=UVICORN_WORKERS,
    )
  • __init__.py 修正後
    %LOCALAPPDATA%\Programs\Python\Python311\Lib\site-packages\open_webui\__init__.py hightlight:84-85
    78
    79
    80
    81
    82
    83
    84
    85
    86
    uvicorn.run(
        "open_webui.main:app",
        host=host,
        port=port,
        forwarded_allow_ips="*",
        workers=UVICORN_WORKERS,
        ssl_certfile="C:\\tools\\mkcert\\DESKTOP-2P2LUE8.local.pem",
        ssl_keyfile="C:\\tools\\mkcert\\DESKTOP-2P2LUE8.local-key.pem",
    )
  • クライアントのブラウザにルートCA証明書(rootCA.pem)を登録しておきます。
  • 以下のURLにアクセスします。
    https://DESKTOP-2P2LUE8.local:8080
  • リモートマシンでもPWA化したアプリケーションをインストールできます。