Windows11（Nvidia GPUなし）で無料言語モデル（Phi-4-mini）をOllamaで動かせた！APIも。Pythonも。

※ 当サイトではアフィリエイト広告を利用しています。リンクは広告リンクも含みます。

2024.06.05
この記事は約14分で読めます。

2026/7/29、2年前に書いた本記事を最新版に全面リニューアルしました。

ollamaに限った話ではないですが、パソコンに何かをインストールするときは自己責任でお願いします。以下のようなことがあったようです。↓

OllamaのWindows自動更新に未修正RCEリスク、ローカルAI運用で見落とされる「更新機構」の危険性 - エラー大全集
OllamaのWindows自動更新に未修正RCEリスク、ローカルAI運用で見落とされる「更新機構」の危険性冒頭文ローカル環境で大規模言語モデルを動かせるOllamaにおいて、Windows版の自動更新機構を悪用した深刻なリモートコード実行...
error-daizenn.hatenablog.com
Ollamaに見つかった深刻な脆弱性、なにが怖いのかをわかりやすく解説する – Qiita
まずはキーポイント OllamaにCritical級の脆弱性が見つかり、プロセスメモリが外部に漏れる可能性がある 影響を受けるのは 0.17.1より前のバージョン 脆弱性の名前は CVE-2026-7482、CVSSは 9.1 悪意ある G…
qiita.com

注意喚起から始まりましたが、ここから本編です。
Windows11にオープンソースのLLM実行環境「Ollama」をインストールし、Windows標準の PowerShell や Python から完全無料でローカルAI言語モデルとチャットできました！

月額課金や有料APIトークン代は一切不要（0円）。インストーラーをダウンロードして、PowerShellで1行コマンドを叩くだけですぐに動きます。
ダウンロードから実行までのストレージ消費も6GB〜8GB程度と非常にコンパクトです。

広告
MINISFORUM日本公式ストア

私のパソコンスペック

  • OS: Windows 11 Pro
  • CPU: AMD Ryzen 5 7545U (3.20 GHz)
  • メモリ: 16.0 GB (13.8 GB 使用可能)

GPUは何がついてるのかDirectx診断ツールで調べた
結果：2026/7/29現在使ってるパソコン
名前:AMD Radeon Graphics
製造元:Advanced Micro Devices, Inc.
チップの種類: AMD Radeon Graphics Processor (0x15C8)
DACの種類:Internal DAC(400MHz)
デバイスの種類:フル ディスプレイ デバイス
メモリ合計:9001 MB
表示メモリ(VRAM):1942 MB
共有メモリ:7058 MB

これがollamaで使えるか未調査。CPUで動かします。

日本語チャットも特別な事前設定なしで動作します。ChatGPTやGeminiなどのWebサービスのような超高速な応答とはいきませんが、ローカルPC上で自分だけのAIモデルが手軽に、かつ無料で無制限に動く感覚は非常に刺激的です。

初めは「ローカルでAIが動くこと」を確認し、慣れてきたらAPI連携やPythonでのRAG（検索拡張生成）などのプログラミングへとステップアップしていきましょう！

主な用語解説

まずは基本用語を整理しておきます。

Phi-4-mini / Llama 3.2 / Qwen 2.5（最新の軽量オープンモデル）

以前記事を書いた2024年当時（本記事は、その記事のリニューアル版です。）は Phi-3-mini が主流でしたが、現在ではより高性能で軽量なオープンモデルが多数登場しており、すべて無料で利用できます。

  • Phi-4-mini (3.8B): Microsoftが開発した最新の小型モデル。3.8B（38億パラメータ）でありながら論理的思考やコーディングに非常に強く、8GB〜16GBメモリのCPU環境に最適です。
  • Llama 3.2 (3B): Metaが開発した軽量かつ高性能な言語モデル。自然な日本語対話と高速なレスポンスが魅力です。
  • Qwen 2.5 (3B / 7B): Alibabaが開発したオープンモデル。特に日本語の理解・生成能力が高く評価されています。

Ollama（オラマ）

Ollamaは、オープンソースの大規模言語モデル（LLM）を個人のPC上でローカル実行できる完全無料の標準ツールです。
CLI（PowerShell等）からの操作はもちろん、ローカルREST APIやOpenAI互換APIも提供されているため、ローカル開発環境のハブとして活用できます。

インストール手順

どのくらいの容量使うのか確認しときます。
OllamaSetup.exeファイル実行前、私のパソコンのストレージ
使用中205GB
→（ここから後でやります。結果だけ）このブログ記事に書いてあること全部やって確認したとき213GB（ダウンロードしたOllamaSetup.exe含む）

Ollamaをインストールすれば、コマンド1つでモデルのダウンロードと起動が完了します。

  1. Ollamaのダウンロード
    公式サイト https://ollama.com にアクセスし、→ダウンロード→Windowsをクリック→Download for Windowsをクリックして OllamaSetup.exe （サイズ1.45G）をダウンロードします。
  2. インストールの実行
    ダウンロードした OllamaSetup.exe をダブルクリックし、「Install」を押すだけで数秒で完了します。

スタートアップアプリにollamaが登録されてたので、私は、立ち上がらないようにスタートアップの設定で無効にした。使うときだけ立ち上げようと思います。

Ollamaの起動・停止とコマンド操作

ollamaのバージョン確認

ollama --version
ollama version is 0.32.5

起動とモデルの実行

Windows PowerShell（またはコマンドプロンプト）を起動し、以下のコマンドを実行します。

ollama run phi4-mini

※ Llama 3.2 を使いたい場合は ollama run llama3.2 と入力します。

初回実行時のみモデルファイル（約2GB〜3GB）が自動ダウンロードされます。2回目以降は即座に起動します。

起動すると以下のようにプロンプトが表示されます。

>>> Send a message (/? for help)

試しに「こんにちは！自己紹介してください」と入力してEnterを押すと、ローカルAIが回答を生成し始めます。

>>> こんにちは！自己紹介してください
もちろんです、ユーザーとして、自分を「アシスタント」と呼びます。私はあなたのためにさまざまな情報や支援を提供するプロ
グラムであり、ここではお手伝いします。今日は何について話し合いたいですか？

便利なCLIコマンド一覧

チャット中に / から始まる以下のコマンドが利用できます。

  • /? または /help : ヘルプの表示
  • /show info : 現在ロードしているモデルの詳細情報（パラメータ数や量子化レベル）の確認
  • /clear : 会話文脈（セッションログ）のクリア（話題を変えたいときに便利）
  • /bye : チャットモードの終了
  • Ctrl + C : 生成中の回答を途中でストップ

また、通常のPowerShellターミナルで以下のOllamaコマンドが使用できます。

# インストールされているモデル一覧
ollama list

# 現在メモリにロードされているモデルの確認
ollama ps

# 不要になったモデルの削除
ollama rm phi4-mini

# Ollamaのバージョン確認
ollama --version

CPUで動いていることを確認

特に設定してないので本当にCPUで動いているか一応確認。PowerShellで以下

Get-Content "$env:LOCALAPPDATA\Ollama\app.log" -Tail 200 | Select-String "GPU|CUDA|CPU|layer"

結果

time=2026-07-29T13:24:06.012+09:00 level=INFO source=server.go:385 msg=Matched "inference compute
"="{Library:cpu Variant: Compute: Driver: Name:cpu VRAM:13.8 GiB}"

ログのポイントは以下の部分です：

  • Library:cpu / Name:cpu Ollama が推論に使用するライブラリおよびデバイスとして CPU を選択しています（GPUが認識されていない、またはGPU推論ライブラリがロードされていません）。
  • VRAM:13.8 GiB ここでの VRAM 表記は、グラフィックボードの専用メモリではなく、CPUモードで動作する際に割り当てられているメインメモリ（RAM）の空き領域を指しています。

バックグラウンド動作と停止

/bye でチャットを抜けても、Ollamaのバックグラウンドサービスは起動したままタスクバーの通知領域（トレイアイコン）に常駐しています。
完全に終了させたい場合は、タスクバー右下のアイコンを右クリックして「Quit Ollama」を選択します。

API経由での操作（PowerShell）

Ollamaは起動中、ローカルポート 11434（http://localhost:11434）でAPIサーバーとして待機しています。ブラウザでアクセスするとOllama is runningと表示されます。外部サーバーとの通信は行わず、PC内部のみで完結するため安心かつ無料です。

1. Ollama独自API (/api/generate)

PowerShellから Invoke-WebRequest コマンドを使ってリクエストを送信してみます。
以下をコピーしてPowerShellに貼り付け→「強制的に貼り付け」をクリック

$headers = @{
    "Content-Type" = "application/json; charset=utf-8"
}

$bodyObj = @{
    model  = "phi4-mini"
    prompt = "日本で一番高い山は？"
    stream = $false
}

# UTF-8のJSON文字列を作成し、バイト配列に変換する
$jsonString = $bodyObj | ConvertTo-Json -Depth 5
$bodyBytes = [System.Text.Encoding]::UTF8.GetBytes($jsonString)

# Invoke-RestMethod を使うと JSON のパースまで自動で行われます
$response = Invoke-RestMethod -Uri "http://localhost:11434/api/generate" -Method POST -Headers $headers -Body $bodyBytes

# 結果の確認
$response.response

結果

日本で最も高い山は富士山（ふじさん）です。標高は約3,776メートルと世界でも有数の高さを誇っています。また、富士山は三峰からなり、そのうち北東の富士見岳が最高点に達しています。この山は日本で最も人気のある観光地であり、多くの登山者や観光客によって訪れられています。

Windows11で日本語プロンプトの場合、上記のようにcharset=utf-8をつけないと文字化けしてollamaに渡るので、ちゃんと認識してくれません。
"stream": $false を指定することで、全文章の生成が完了した段階で単一のJSONレスポンスとして結果を取得できます。

2. OpenAI互換API (/v1/chat/completions) 【便利！】

個人的には未確認ですが以下らしいです。
現在Ollamaは OpenAI互換のエンドポイント を標準で備えています。
既存のOpenAI向けツールやSDKのベースURLを http://localhost:11434/v1 に変更するだけで、有料のAPIキーを用意することなく無料でローカルAIに差し替えることが可能です。

Pythonからの利用（完全無料でプログラミング）

Pythonを使ってローカルAIを操作する方法を3つ紹介します。どれも無料のオープンソースライブラリです。
必要な環境は
Vsコードなどのエディター、AnacondaなどのPython実行環境

【Docker】Windows11でプログラミング環境構築（Python、Django、Vue）
パソコン買ったのでプログラミング環境を整えました。その様子です。Python、Django、Vueの環境を設定していきます。Docker導入でハマった点と解決策をご紹介します。追記（2023/11）：最近、Docker DesktopがWi…
kikuichige.com
2022.10.29

Pythonのベースの環境にライブラリをインストールしたくないので仮想環境を使いました。仮想環境はuvがおすすめです。

仮想環境とPython
Pythonを使って開発を始めようとしたとき、次のような悩みにぶつかったことはありませんか？* あるプロジェクトで必要なライブラリが、他のプロジェクトでは邪魔になる…* 「仮想環境を使ってください」と言われたけど、そもそもそれって何？* V…
zenn.dev

3つの手法の違いとメリット比較

結論からお伝えすると、「プロンプトを送って回答のテキストを受け取る」だけの単純な操作であれば、requests だけで完全に用が足ります！ 追加で特別なライブラリをインストールする必要もないため、学習コストも低く最も手軽です。

では、なぜ他の2つ（公式 ollama ライブラリ と langchain-ollama）が存在し、使われているのか、それぞれのメリットと使い分けを整理しました。

手法メリットデメリットこんなときにおすすめ
① requests追加インストール不要。
標準的なHTTP通信なのでPython以外の言語でも応用が効く。		文字がリアルタイムで流れる「ストリーミング出力」を書こうとするとコードが複雑になる。・とにかくシンプルに動かしたい
・余計なライブラリを入れたくない
② 公式 ollamaChatGPTのような1文字ずつの「流れる出力（ストリーミング）」が数行で書ける。
会話履歴（messages）の管理が楽。		pip install ollama が必要。・ターミナルや自作GUIでChatGPT風にリアルタイム表示させたい
③ langchain-ollamaPDF検索（RAG）やAIエージェントなど、本格的なAIアプリへそのまま拡張できる。
将来OpenAI等に切り替えるのも簡単。		pip install langchain-ollama が必要。
覚える仕様が多い。		・自分のファイルやWeb検索と連携したAIアプリを作りたい
・本格的なプログラミングへステップアップしたい

具体的な違いの例：ストリーミング表示（リアルタイム出力）

CPUでローカルLLMを動かす場合、回答が完了するまでに 10秒〜20秒 ほどかかることがあります。

  • requests の場合（stream: False）:
    AIが全文章を生成し終わるまでの15秒間、画面には何も表示されずフリーズしたように見えます。
  • 公式 ollama ライブラリの場合:
    stream=True にするだけで、生成された文字から順に 「文字がカタカタとリアルタイムで出力」 されるため、体感速度が劇的に速くなります。
    （※requests でもストリーミングは書けますが、JSONの分割パース処理などを自分で書く必要がありコードが長くなります）

使い分けのまとめ

  1. 「とりあえずサクッと試したい」「単純な自動化スクリプト」
    👉 requests で十分です！
  2. 「ChatGPTみたいに会話をやり取りしたい・表示を速く見せたい」
    👉 公式 ollama ライブラリ が一番楽です。
  3. 「自分のPDFを読み込ませて質問に答えさせたい（RAG）」「AIにWeb検索や計算をさせたい」
    👉 langchain-ollama を使うのが業界標準です。

まずは requests から試して、必要に応じて他のライブラリにステップアップするのがおすすめ！

方法1: requests ライブラリ（標準的なHTTP通信）

import requests

url = "http://localhost:11434/api/generate"
payload = {
    "model": "phi4-mini",
    "prompt": "PythonでHello Worldを出力するコードを書いてください。",
    "stream": False
}

response = requests.post(url, json=payload)
result = response.json()
print(result["response"])

結果

```python

# Hello Worldのサンプルプログラムです。

print("Hello, World!")

```

このコードを実行すると、コンソールに「Hello, World!」と表示されます。この例は基本的なPythonプログラミットであり、`print()`関数が文字列をコンソールに出力する方法として機能します。

方法2: 公式 Python ライブラリ (ollama) ※ストリーミング対応

公式ライブラリを使えば、文字が1文字ずつ流れるように表示されるストリーミング出力も簡単に書けます。

pip install ollama

import ollama

stream = ollama.chat(
    model='phi4-mini',
    messages=[{'role': 'user', 'content': '富士山の標高は何メートルですか？'}],
    stream=True,
)

for chunk in stream:
    print(chunk['message']['content'], end='', flush=True)
print()

結果：1文字ずつ出力されました。

富士山、または日本で最も象徴的な火山とされる富士箱根国立公園内に位置する富士山（Fuji-san）の標高は約3,776.24メートルです。この高さのため、日本国内外から多くの観光客を魅了しています。

方法3: LangChain連携 (langchain-ollama)

LangChainを使ってRAGやAIエージェントを作る場合は、最新の公式統合パッケージ langchain-ollama を使用します。

pip install langchain-ollama

from langchain_ollama import ChatOllama

# ローカルOllamaモデルの初期化
llm = ChatOllama(
    model="phi4-mini",
    temperature=0.7
)

# 呼び出し
response = llm.invoke("AIの未来について短く語ってください。")
print(response.content)

結果

私たちが歩む技術的な地平線は、人工知能（AI）が人間社会に深い影響を与えることを約束しています。その未来には、人間と機械の境界がますます曖昧になる可能性があります。また、AIシステムによる倫理的考慮やセキュリティ対策も重要な焦点となり、それらは私たちの社会規範を形成し進化させていくでしょう。AIに関連する研究と開発が続いていることから、人類として成長して、よりスムーズで効率的な世界への変革が期待されています。

まとめ・所感

高価なNvidia GPUがなくても、Windows 11＋CPU環境でOllamaを使うことで、最新の言語モデル（Phi-4-miniやLlama 3.2など）を無料で動かせました。2年前にPhi-3-mini使ったときよりもストレスなく使えました。ただし、メモリ消費は多い。

クラウドの有料API（OpenAIやClaudeなど）に依存せず、個人情報や機密データもPC外部に送信されないため、ローカルでの実験やプログラミングの勉強に最適です。

まずは気になるモデルを ollama run でダウンロードして、ローカルAIの世界を体験してみてください！

イチゲをOFUSEで応援する(御質問でもOKです）Vプリカでのお支払いがおすすめです。
MENTAやってます（ichige）
目次へ

タイトルとURLをコピーしました