ローカルLLMを動かすためにOSをインストールします。
OSの選択はGeminiにCPUとメモリの情報を伝え、ローカルLLMを構築する目的を伝えたところ、Ubuntu Serverを進められたのでUbuntu Serverをインストールすることにしました。
(当初AntiXで構築していたが、固定IPアドレスで設定してもDHCPから割り当てられたIPアドレスになってしまう、Ollamaが自動起動しないという不具合があった為乗り換え)
初心者なのでGeminiに聞いた結果です。
■Get Ubuntu Serverの入手
https://ubuntu.com/download/server
■Rufus や Etcher というソフトを使って、8GB以上のUSBメモリに書き込み、「インストールメディア」を作成
Rufus を使って、以下の設定で作成
・パーティション構成: MBR （GPTではなく）
・ターゲットシステム: BIOS (またはUEFI-CSM)
・書き込みモード: 途中で聞かれたら 「DDモード」 を選択してみてください（ISOモードで失敗する場合に有効です）。(古いPCのBIOSにとって最も理解しやすい「生のデータ（ディスクイメージそのもの）」として認識させるため)
■USBインストール
PCの電源を入れたら「F12」キーを連打し、「Startup Device Menu」を表示させる。
・Legacy:〇〇〇 Flash Disk PMAPを選択
■インストール時のポイント
Storage Configuration:
・Use an entire disk を選択。
・「Encrypt the LVM group...（暗号化）」は必ずオフにしてください。
最大の難所：Network configuration (固定IPの設定)
インストール途中でネットワーク設定画面が出ます。ここで DHCP（自動）を「Manual（手動）」に切り替える のがコツです。
1.eth0 (または enp... ) を選択して Edit IPv4 を選ぶ。
2.IPv4 Method を Manual に変更。
3.以下のように入力します：
・Subnet: 192.168.1.0/24
・Address: 192.168.1.任意
・Gateway: ルータのアドレス
・Name servers: 8.8.8.8, 1.1.1.1 (Googleの公開DNS)
・Search domains: (空欄でOK)
SSH Setup (ここが便利！)
さらに進むと SSH Setup という画面が出ます。
・Install OpenSSH server にチェック（[X]）を入れます。
これで、インストール完了と同時に Windows から接続可能になります。
インストールが完了したら、USBメモリを抜いて再起動。
■SSHで接続
WindowsPowerShellを起動して以下のように入力
ssh ユーザー名@IPアドレス
■パッケージリストの更新とアップグレード
# 1. 最新のパッケージリストを取得
sudo apt update
# 2. 実際にパッケージを最新版に更新
sudo apt upgrade -y
※ sudo を使うとパスワードを聞かれるので、ログイン時のパスワードを入力してください。
※ 途中でピンク色の画面で「どのサービスを再起動するか？」と聞かれることがありますが、そのまま Enter を押して進めて大丈夫です。
■（推奨）追加のツールをいくつか入れる
sudo apt install -y build-essential curl git htop
・htop: CPUやメモリの使用状況を「グラフ」で確認できるツールです。LLMを動かしている最中に、どれくらいメモリを消費しているかリアルタイムで見ることができます。
■Ollama のインストール
curl -fsSL https://ollama.com/install.sh | sh
■インストールの確認
正しくインストールされたか確認するために、バージョンを表示してみましょう。
ollama --version
■手動での管理方法
Ollamaは通常、バックグラウンドサービスとして動作します。手動で制御したい場合は以下のコマンドを使用します。
・ステータス確認: systemctl status ollama
・起動: sudo systemctl start ollama
・停止: sudo systemctl stop ollama
・自動起動の有効化: sudo systemctl enable ollama
■gemma4:e2b(一般的なノートPCやスマホ・エッジデバイス用)のインストール
ollama run gemma4:e2b
-----------------------------------------------------------------------
■(任意)Page Assist（ブラウザ拡張機能：低スペックPCにおすすめ）
ChromeやEdgeの拡張機能として動く 「Page Assist」 が非常に軽量でおすすめです。
・特徴:
・ブラウザのサイドバーでAIと会話できる。
・閲覧中のWebサイトの内容を要約させることができる。
・追加のソフトをインストールせず、ブラウザだけで完結する。
・使い方:
・Chromeウェブストアで「Page Assist」を検索して追加。
・Ollamaが起動（ollama serve）していれば、自動的に接続されます。
■Linux側で外部接続を許可する設定
Ollamaはデフォルトでは「自分自身（localhost）」からの接続しか受け付けません。192.168.1.xxx 宛ての通信を受け入れるように環境変数を設定します。
一度 ollama serve を終了(コマンド：sudo systemctl stop ollama)し、以下のコマンドで起動し直します。
export OLLAMA_HOST="0.0.0.0"
export OLLAMA_ORIGINS="*"
ollama serve
■Linux側のファイアウォール（ufw）の解放
Linux側でファイアウォールが有効になっている場合、11434番ポートを開ける必要があります。
sudo ufw allow 11434/tcp
■毎回設定しなくて済むようにする（systemdの場合）
もし前述の手順で systemctl が使えるようになっている場合は、設定ファイルにこれを書き込んでおくと便利です。
1.設定編集：sudo systemctl edit ollama.service
2.以下の内容を追記（すでにある場合は [Service] の下に追加）：
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
3.保存して反映：
sudo systemctl daemon-reload
sudo systemctl restart ollama
4.それでもうまくいかない場合の「確実な」方法
# ディレクトリを作成
sudo mkdir -p /etc/systemd/system/ollama.service.d/
# 直接ファイルを書き込む
sudo bash -c 'cat <
/etc/systemd/system/ollama.service.d/override.conf
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
EOF'
# 反映させる
sudo systemctl daemon-reload
sudo systemctl restart ollama
---------------------------------------
■ollamaでよく使うコマンド集
ollama list インストール済みのモデル一覧を表示
ollama pull [モデル名] モデルのダウンロードのみを行う
ollama rm [モデル名] モデルを削除してディスク容量を空ける
ollama ps 現在実行中のモデルを確認する
■メモリ使用量の監視
htop
■sshで実行する再起動コマンド
sudo shutdown -r now
Ubuntu Serverのセキュリティ設定により、「システムを操作する重要なコマンドには管理者権限（sudo）が必要」です。
SSH経由でログインしている一般ユーザーが、勝手にサーバーを落としたり再起動したりできないよう制限がかかっています。
2022年2月27日
