最新順人気順

Browsing Category

AIの実装と運用

26 posts

RAG・AIエージェント・生成AIを実際の業務に組み込み、本番で動かし続けるための設計と運用の記事。

アジャイル開発とはの全体像｜開発宣言の4つの価値、ウォーターフォールとの違い、手法5つと進め方5ステップ
  • 67 views
  • 2 minute read

アジャイル開発とは？手法5つ・進め方とウォーターフォールとの違い

アジャイル開発とは、短いサイクルで動くものを出しながら進める開発の進め方です。AIを使って並行させると、このサイクルはさらに短くなります。ところが、人のブランチとAIのブランチが同じ通知機能を実装し、本番で通知が2回届く事故が起きました。関数名は5つとも完全一致、違いはトリガ名の一文字だけ。Gitはコンフリクトしていません。バージョン管理がクリーンなまま本番が壊れます。AIの作業単位はリポジトリですが、システムの真の状態はデプロイ済みのデータベースにあります。
View Post
LLMとは？検算させたら拾い漏れと「拾いました」が並んだ
  • 90 views
  • 2 minute read

ハルシネーションの対策｜原因・リスク・事例と、8つの防ぎ方

LLMとは大規模言語モデルの略で、大量の文章から言葉の続き方を学習したモデルです。指摘を全部反映したかの確認まで任せたところ、拾い漏れと「全部拾いました」という報告が同時に成立しました。判定をモデルに渡す限りこれは消えません。判定を一切LLMに渡さず、退屈な文字列一致で機械が検査する設計に変えました。全角空白の除去まで含めた実装と、判定に使ってよい出力・いけない出力の切り分けを書きます。
View Post
ベクトルデータベースとは｜仕組み・使いどころと選び方6観点 の全体像をまとめた図解
  • 68 views
  • 2 minute read

ベクトルデータベースとは｜仕組み・使いどころと選び方6観点

ベクトルデータベースとは、文章を数値の並びに変えて、意味の近さで探せるようにした保存先です。日本語の全文検索が精度不足だったため、全文検索を避けてベクトル検索に寄せる判断をしました。ところが取得できるのは上位10件までで、そこに入らなかったものは存在しないのと同じになります。全体のナレッジグラフを作るのではなく、各チャンクに関係性のメタデータを持たせて局所的に推論させる方針まで書きます。
View Post
プロンプトインジェクション対策6つの方法と、直接・間接の違いをまとめた図解
  • 112 views
  • 2 minute read

プロンプトインジェクション対策｜6つの方法と直接・間接の違い、AIエージェントのリスク

プロンプトインジェクションとは、AIへの指示文に別の指示を紛れ込ませて、本来の制約を外させる攻撃です。対策としてまず思いつくのは、システムプロンプトに禁止事項を書き足すことです。私たちもそうしました。そして守られませんでした。プロンプトによる禁止は確率的で、ツール層のフックは決定的です。44行のフックで守る側へ移した実装と、パスの正規化や失敗時に閉じる設計まで、そのまま書きます。
View Post
プロンプトエンジニアリングの手法の全体像｜プロンプトの4要素・5つのコツ・代表的な11手法と注意点
  • 61 views
  • 2 minute read

プロンプトエンジニアリングの手法｜基本のコツと代表的な11手法

プロンプトエンジニアリングとは、AIから望む出力を得るために指示文を設計する技術です。ところが指示文そのものをAIに組み立てさせると、同じ入力でも毎回わずかに違う文面が生成され、結果が揺れます。原因を追うと、揺れているのはモデルではなくプロンプトのほうでした。CLIが変数を埋め込んだ全文を出力する方式に変えると、プロンプトはバージョン管理できる成果物になります。再現性をどこから取り戻すかを書きます。
View Post
MCPとは？検索画面を作るのをやめてMCP接続にした
  • 81 views
  • 2 minute read

MCPとは？仕組み・できること・RAGやAPIとの違いと注意点

MCPとはModel Context Protocolの略で、AIと社内の道具やデータを繋ぐための共通の作法です。社内ナレッジを全社に開くために専用のフロントエンドを作ろうとしていましたが、初期フェーズではそれを見送り、MCP接続を主軸にする設計変更をしました。理由は画面が要らないからではありません。画面を作ると、そこに認証も権限も検索体験も全部くっついてくるからです。残したのはAPIキーの発行とフォルダごとの権限管理だけでした。何を作らないと決めたのかを書きます。
View Post