カテゴリ

AI

AIツールの使い方や活用メモ、運用時に気をつけたいことを整理して残していきます。

まず押さえたいこと

AIは便利な反面、入力情報、出力の確認、社内ルール、責任分界を決めないと事故につながります。

生成AIの社内利用、コード生成、RAG、MCP、LLMOなど、使い方と運用ルールの両方を見る記事から入ると安全です。

AIに任せる部分と人が確認する部分を分け、機密情報、著作権、誤情報、ログの扱いを事前に決めます。

サーバーセキュリティ AI 2026.04.21 40

本番DBをAIエージェントに触らせてよいかを、読み取り専用、マスキング、ビュー、承認付きSQL実行、監査ログの観点から実務向けに整理します。

# AIエージェント # SQL # 権限設計

セキュリティ AI 2026.04.21 39

AIエージェントの自動実行を安全に止めるための停止条件を、再試行回数、権限エラー、対象件数、環境違い、ガードレール違反、ログ設計の観点から整理します。

# AIエージェント # ガードレール # 監査ログ

セキュリティ AI 2026.04.21 37

AIエージェントの権限設計を、読み取り、書き込み、削除、外部送信、承認付き操作に分けて、実務で安全に始める判断基準として整理します。

# MCP # AIエージェント # Human-in-the-loop

セキュリティ AI 2026.04.21 36

AIエージェントに本番操作を任せる前に決めるべきことを、権限範囲、承認点、実行ログ、停止条件、ロールバック手順の観点から整理します。

# AIエージェント # 監査ログ # 本番運用

セキュリティ AI 2026.04.21 36

AIエージェントにツールを渡しすぎると何が起きるのかを、選択ミス、トークン消費、権限過多、監査ログ、ガードレール設計の観点から整理します。

# MCP # AIエージェント # ガードレール

セキュリティ AI 2026.04.21 32

AIエージェントの承認ログに何を残すべきかを、承認者、対象操作、入力、判断材料、実行結果、拒否理由、保存時の注意点まで整理します。

# AIエージェント # セキュリティ # Human-in-the-loop

ソフトウェア AI 2026.04.21 34

Agent as toolとは何かを、Handoffとの違い、会話の主導権、最終回答、履歴の扱い、実務での使い分けまで整理します。

# AIエージェント # OpenAI # オーケストレーション

セキュリティ AI 2026.04.21 33

AIエージェントで人間承認をどこに入れるべきかを、読み取り、外部送信、本番変更、課金、権限変更などのリスク別に整理します。

# AIエージェント # セキュリティ # ガードレール

ソフトウェア AI 2026.04.21 46

LLM主導のオーケストレーションとは何かを、コード主導との違い、agents as toolsやhandoffとの関係、向く場面と注意点まで整理します。

# LLM # AIエージェント # オーケストレーション