大規模言語モデル（LLM）は、驚くほど滑らかに、もっともらしい嘘（ハルシネーション）をつきます。 これを「AIの精度がまだ低いから使えない」と嘆くのは三流です。一流のシステム屋は、「AIは間違えるもの」という前提で、全体のエラーハンドリングを設計します。
AIが出力した結果を、人間がいちいち手動でチェックしていては本末転倒です。
【実践】JSON出力の強制と自動リトライ機構の実装 AIの出力をそのまま画面に表示したり、データベースに保存したりしてはいけません。出力を完全にシステムで制御するためには、以下のフローを実装します。
- Structured Output（構造化出力）の要求: プロンプト内で「必ず指定したJSONスキーマのみで出力せよ。マークダウンや挨拶は一切含めるな」と厳格に指定します。Gemini API等におけるJSONモードを活用し、キーと値の型をシステム側で固定します。
- パースとバリデーション: AIから返ってきたレスポンスをプログラム側でパース（解析）します。ここでJSONとして壊れていたり、必須のキーが欠落している場合は「エラー」として扱います。
- 自律的なリトライループ: エラーを検知した場合、システムはユーザーにエラー画面を見せるのではなく、バックグラウンドで「JSONの形式が間違っています。修正して再出力してください」とAIに再リクエストを送ります。これを上限3回程度の
try-catchループで処理します。
AIの「ゆらぎ」を人間の目視確認でカバーするのではなく、プログラムによるパースとリトライという堅牢な枠に収める。これが、AIを実運用レベルに引き上げるための冷徹なリスク管理です。