AIに河川砂防技術基準を聞くのは危険なのか？
生成AIに河川砂防技術基準について質問すると、数秒でそれらしい回答が返ってきます。
基準書の内容を要約させる。
該当しそうな項目を探させる。
設計上の考え方を整理させる。
こうした使い方は、河川設計の実務でも非常に便利です。
一方で、私たちは実際にAIを使う中で、あることを強く感じるようになりました。
基準書をAIに読ませているからといって、回答が正しいとは限らない。
これは、生成AIが役に立たないという意味ではありません。
むしろ、AIを実務で使い倒すためには、最初にその限界を知る必要があるという話です。
資料を与えても、AIは間違える
生成AIの誤回答は、一般に「ハルシネーション」と呼ばれます。
存在しない内容を、もっともらしく答える現象です。
それなら、参照させたい技術基準や数量算出要領をAIに登録すれば、間違いはなくなるのでしょうか。
私たちの結論は、そうではないです。
AIに資料を与えることで、根拠のない回答はかなり減らせます。
しかし、資料を持っていても、
- 表の条件を取り違える
- 注記を十分に反映しない
- 算定例の意味を誤って解釈する
- 複数の条件から適用区分を選ぶ際に間違える
- 今回の設計条件と、資料に書かれた一般条件を混同する
といったことが起こります。
特に、数量算出要領や技術基準に多い表形式の選定、条件分岐、例外規定は、注意が必要です。
人間の技術者であれば、表の行と列、欄外の注記、前後の文章、図や算定例を一体として読みます。
AIは、それぞれの文字を読み取れていても、設計上の意味を同じ精度で理解しているとは限りません。
Creerでは、資料を登録したAIについても最終判断を任せず、必ず引用元、原文、図面、数量表まで戻って確認する運用を基本としています。
危険なのは、間違うことより「もっともらしいこと」
AIの誤回答が怖いのは、明らかな間違いだけではありません。
本当に危険なのは、正しそうに見えることです。
河川設計では、条件によって答えが変わります。
例えば、同じ構造物や工種であっても、
- 現地条件
- 河道条件
- 地形
- 地質
- 発注者の方針
- 特記仕様
- 過年度協議
- 図面上の注記
- 数量算出上の取り扱い
によって、適用する考え方が変わる場合があります。
ところが質問する側が条件を十分に示さなければ、AIは不足している条件を確認せず、一般論で回答することがあります。
その回答自体は、文章としては自然です。
技術用語も使われています。
理由らしきものも書かれています。
そのため、経験の浅い人ほど「基準に書いてある答え」と受け取ってしまう危険があります。
AIの回答に専門用語が多いことと、技術的に正しいことは、別の問題です。
技術基準は、答えではなく判断材料
河川砂防技術基準を読むとき、単に文章を検索して終わるわけではありません。
実務では、
- どの基準が今回の対象になるか
- 原則と例外のどちらで考えるか
- 現場条件にどのように当てはめるか
- 他の基準や図面と矛盾しないか
- 発注者協議で説明できるか
- 成果品として根拠を残せるか
まで考えます。
つまり、基準書を読む行為そのものより、基準を今回の設計条件へ適用する判断の方が難しいのです。
Creerが技術支援で重視しているのも、単なる作図や数量算定ではありません。
基準書の解釈、現場条件への当てはめ、危険箇所の早期発見、発注者へ説明できる根拠の整理など、元請技術者の判断を補完することです。
この部分を、現在のAIへそのまま任せることはできないと考えています。
AIは使わない方がよいのか
ここまで読むと、
「それなら、技術基準についてAIに聞かない方がよいのではないか」
と思うかもしれません。
私たちは、そうは考えていません。
AIは、使い方を限定すれば非常に強力です。
例えば、次のような用途です。
- 関連しそうな基準項目を探す
- 長い文章を整理する
- 検討すべき条件を洗い出す
- 複数案の論点を比較する
- 発注者説明の構成を整理する
- チェックリストのたたき台を作る
- 過去の類似判断を検索する
- 人間が確認すべき箇所を絞る
AIに結論を出させるのではなく、確認ルートを増やすために使うという考え方です。
AIが示した答えを採用するのではなく、
AIはこの資料を根拠として、こう整理した。
ただし、今回の条件でも同じ考え方でよいのか。
と人間が確認する。
この一段階が重要です。
社内でも、「AIがこう言っています」という確認の仕方ではなく、「過去資料ではこう整理されているが、今回はこの条件が違う」と質問できる状態を目指しています。
質問の精度が、回答の精度を左右する
AIを使っていると、AIの能力だけでなく、質問する側の設計力も見えてきます。
例えば、
この構造でよいですか。
という質問では、AIも一般論しか答えられません。
一方で、
- 今回の対象構造
- 現場条件
- 基準書の該当箇所
- 判断に迷っている点
- 原則と異なる条件
- 発注者から示されている方針
まで整理して質問すれば、回答の精度は上がります。
これは、AIに上手なプロンプトを書くというだけの話ではありません。
設計者が、
何が分かっていて、何が分かっていないのか。
どの条件によって結論が変わるのか。
を整理できているかという話です。
AIへの質問力は、設計条件の整理力と無関係ではありません。
むしろ、AIを使うことで、自分が曖昧なまま進めようとしていた部分が見えることがあります。
AIの誤答は、失敗ではなく教材になる
私たちは、AIが間違えた事例も社内で残すようにしています。
資料を与えていたのに、なぜ間違えたのか。
- 表を読み違えたのか
- 図と式を対応できなかったのか
- 条件が不足していたのか
- 算定例の考え方を誤ったのか
- 過去事例と今回条件を混同したのか
を確認します。
AIの誤答を見つけることは、単にAIの弱点を見つける作業ではありません。
人間がどこを確認すべきかを明確にする作業でもあります。
実際に、AIが資料を持っていても、明文化されていない算定上の考え方を誤る場合があることを確認しています。そのため、AIの誤答を社員教育の教材として残し、図、式、算定例、適用条件を対応させて確認することを共通認識にしています。
現時点での結論
AIに河川砂防技術基準を聞くこと自体が危険なのではありません。
危険なのは、
AIが基準書を読んでいるから、回答も正しいだろう。
と考えることです。
AIは、資料の検索、論点整理、比較、文章化に非常に役立ちます。
しかし、
- 適用条件の確定
- 設計方針の決定
- 例外判断
- 構造の成立判断
- 数量の最終確定
- 発注者への最終回答
は、技術者が責任を持って行う必要があります。
AIは設計者ではありません。
責任を負うこともできません。
一方で、限界を理解して使えば、設計者が確認すべき箇所を見つけ、判断材料を整理し、見落としを減らす有力な補助者になります。
AIを使い倒すには、AIの限界を知る必要がある。
私たちは、AIに答えを任せるのではなく、技術者がより正確に判断するための道具として、今後も実務の中で検証を続けていきます。