12月号特集 第1部第1章「ローカルLLM補完技術の導入ガイド」サポートページ

=======================
補足資料①ローカルLLMの歴史の概略
=======================
 ローカルLLMの歴史を簡単に振り返ります.
 2023年2月,Meta社は大規模言語モデル「LLaMA」(パラメータ数7B〜65B)を研究用途向けに公開しました.これにより,高性能なLLMをオープンソースで入手できる環境が整い,ローカル環境での実行が現実的な選択肢として浮上しました.
同年3月には,C++で実装された軽量推論エンジン「llama.cpp」が登場します.このプロジェクトにより,GPUに依存せず一般的なCPU環境でもLLaMAモデルを高速に実行できるようになり,ローカル実行の大きなブレイクスルーとなりました.
さらに7月,Meta社は「LLaMA 2」を発表し,ライセンスの制限を大幅に緩和しました.商用利用も可能になったことで,ビジネスシーンへの導入が急速に進み,ローカルLLMの普及を加速させました.
 このように,ローカルLLMが注目を集め始めてから,わずか1年足らずの間に,技術コミュニティや産業界での活用は急拡大し,現在では実用的な選択肢として確固たる地位を築きつつあります.

========================
補足資料②35ページ右段「プロンプト例」(コンテキスト・エンジニアリングの適用例)
========================
 LLMにコンテキスト・エンジニアリングを採用し,「会話履歴の管理」「外部知識との統合」などを実装する例として,LLMの役割を,次のIT運用ログの分析を通じてエンジニアの意思決定を支援する場合を示します.

—-<LLMに分析させるIT運用ログの例>—————————————————————————————–
2025-10-08 22:05:12 [INFO] sysmon_daemon: Monitoring cycle started
2025-10-08 22:05:15 [WARN] CPU usage spike detected: backupd (PID:4521) – 78%
2025-10-08 22:06:18 [WARN] CPU usage spike detected: backupd (PID:4521) – 82%
2025-10-08 22:07:21 [WARN] CPU usage spike detected: backupd (PID:4521) – 89%
2025-10-08 22:08:24 [WARN] CPU usage spike detected: backupd (PID:4521) – 91%
2025-10-08 22:09:27 [WARN] CPU usage spike detected: backupd (PID:4521) – 93%
2025-10-08 22:10:30 [ALERT] CPU usage critical: backupd (PID:4521) – 95% (10min sustained)
2025-10-08 22:10:30 [INFO] Alert suppressed: backupd is whitelisted process
2025-10-08 22:11:33 [WARN] CPU usage spike detected: backupd (PID:4521) – 94%
2025-10-08 22:12:36 [WARN] Memory usage elevated: 81% used, swap: 0%
2025-10-08 22:13:39 [WARN] CPU usage spike detected: backupd (PID:4521) – 92%
2025-10-08 22:14:42 [WARN] Memory usage elevated: 83% used, swap: 1%
2025-10-08 22:15:45 [WARN] CPU usage spike detected: backupd (PID:4521) – 90%
2025-10-08 22:16:48 [WARN] Memory usage elevated: 84% used, swap: 2%
2025-10-08 22:17:51 [WARN] CPU usage spike detected: backupd (PID:4521) – 88%
2025-10-08 22:18:54 [WARN] Memory usage elevated: 86% used, swap: 3%
2025-10-08 22:19:57 [WARN] CPU usage spike detected: backupd (PID:4521) – 85%
2025-10-08 22:20:00 [WARN] Memory usage critical: 87% used, swap: 5% active
2025-10-08 22:20:00 [WARN] Threshold exceeded: Memory 85%+ with swap detected
2025-10-08 22:21:06 [WARN] Memory usage elevated: 88% used, swap: 6%
2025-10-08 22:22:09 [WARN] CPU usage spike detected: backupd (PID:4521) – 82%
2025-10-08 22:23:12 [WARN] Memory usage elevated: 89% used, swap: 7%
2025-10-08 22:24:15 [INFO] backupd (PID:4521): Backup job ‘daily_full_backup’ progress: 78%
2025-10-08 22:25:18 [WARN] Memory usage elevated: 90% used, swap: 8%
2025-10-08 22:26:21 [WARN] CPU usage spike detected: backupd (PID:4521) – 79%
2025-10-08 22:27:24 [INFO] backupd (PID:4521): Backup job ‘daily_full_backup’ completed
2025-10-08 22:27:27 [INFO] CPU usage normalized: backupd (PID:4521) – 12%
2025-10-08 22:28:30 [INFO] Memory usage improving: 76% used, swap: 4%
2025-10-08 22:29:33 [INFO] Memory usage normalized: 68% used, swap: 0%
2025-10-08 22:30:36 [INFO] System status: Normal operation resumed
——————————————————————————————————————

●LLMの役割を指定するプロンプトの一部(リスト7上部)
・システムプロンプト(役割・態度の固定
 あなたは、ITインフラ運用チームのシニアエンジニアです。
 常に論理的で簡潔に、現場の判断基準に即した助言を行ってください。
・外部知識(RAG連携による文書挿入)
 以下は、社内運用ドキュメントとログ監視ルールの抜粋です。

・CPU使用率が90%以上で10分以上継続した場合は、アラート発報対象とする。
・メモリ使用率が85%以上かつスワップが発生している場合は、一次対応が必要。
・以下のプロセスは定常的に高負荷を示すため、監視対象から除外する:
  – backupd
  – sysmon_daemon

 

●ユーザーの最初の質問とアシスタント(LLM)の回答(リスト7中段部分)
【ユーザー質問】
「昨日の夜中に高負荷の通知が来ていたんだけど、どのプロセスだった?」
【アシスタント応答】
「22:10時点では、backupdがCPU使用率95%を記録していました。ただし定常プロセスのため通知のみ、対応は不要です」

 

●ユーザーの2回目の質問とアシスタント(LLM)の回答(リスト7の下部)
【ユーザー質問】
「じゃあ、22:20の段階ではメモリはどうだった?」
【アシスタント応答】
22:20時点のログによると、メモリ使用率は87%、スワップ使用が5%発生していました。
社内ルールに基づき、「メモリ使用率85%以上かつスワップあり」の条件を満たしているため、一次対応が必要です。
対応内容としては、不要なプロセスのメモリ解放や、メモリリークの可能性調査が推奨されます。