生成AIを使ったシステム開発を発注するときの注意点

生成AIを業務システムに組み込みたいという相談が増えています。ただし、生成AIを使ったシステム開発には、従来の開発にはない工程や契約上の注意点があります。この記事では、生成AIを使ったシステム開発を発注するときの注意点として、AI特有の工程、精度を保証できない前提での契約と受入基準、入力データと機密情報の管理、AI利用料などの変動費を解説します。

生成AIのシステム開発を発注するときの前提

生成AIを使ったシステムは、従来のシステムと次の点が違います。

• 同じ入力でも、毎回同じ答えが返るとは限らない
• 正答率を100%にすることはできない
• AIの提供元がモデルを更新すると、答えの傾向が変わることがある
• 使った量に応じて利用料がかかり、月ごとに費用が変わる

多くの場合、AIを一から作るのではありません。OpenAI、Anthropic、Googleなどが提供するAIをAPI（外部のサービスを呼び出す仕組み）で呼び出し、自社の業務に合わせて組み込みます。発注者が決めるべきことは、「どの業務の、どの判断をAIに任せ、どこを人が確認するか」です。

AI特有の工程（プロンプト設計、モデル選定、評価）

通常の開発工程に加えて、次の工程が入ります。

特に評価は、発注者の協力が欠かせません。業務として正しい答えかどうかは、業務を知る人にしか判定できないからです。

精度を保証できない前提での契約と受入基準

生成AIの答えは確率的に作られるため、開発会社が「必ず正しく答える」と保証することはできません。契約と受入基準は、この前提で組み立てます。

段階を分けて契約する

経済産業省の「AI・データの利用に関する契約ガイドライン」は、AI開発を段階に分けて進め、段階ごとに契約する「探索的段階型」の考え方を示しています。まず小さな検証で精度を測り、その結果を見て本開発に進むかを判断します。契約形態は、変更を受け入れやすい準委任が選ばれることが多くあります（請負と準委任の違い）。

受入基準は実測値で合意する

• 評価用の質問と正解のセットを、発注者と開発会社で作る
• 検証の段階で実際に正答率を測り、その結果をもとに合格ラインを合意する
• 間違えたときの影響が大きい業務は、AIの答えを人が確認してから使う流れにする
• AIが答えられない、または障害で止まったときの代わりの手順を決める

経済産業省は2025年2月に、AIの利用・開発に関する契約で確認すべき点をまとめた契約チェックリストも公表しています。契約前の確認に活用できます。検収の考え方は検収とはも参照してください。

入力データの取り扱いと機密情報の管理

生成AIに入力したデータがどう扱われるかは、サービスや契約の種類によって違います。発注前に、次の点を開発会社と確認します。

• 入力したデータが、AI提供元の学習に使われない契約・設定になっているか
• 入力や出力の記録が、どこに、どれだけの期間保存されるか
• データがどの国のサーバーで処理されるか
• 個人情報や機密情報を、AIに渡す前に伏せる仕組みがあるか
• システムの記録（ログ）に、個人情報をそのまま残していないか

個人情報保護委員会は2023年6月に生成AIサービスの利用に関する注意喚起を公表しています。個人情報を含む指示文を入力する場合は、利用目的の範囲内かを確認すること、提供事業者がそのデータを機械学習に使わないことを確認することなどが求められています。

開発の過程で、開発会社がAIツールにソースコードや資料を入力する場合もあります。開発会社のAI利用ルールも確認しておきましょう（発注者が押さえるべきセキュリティ要件）。

AI利用料など運用時の変動費

生成AIのAPI利用料は、多くの場合、処理した文字量（トークン）に応じた従量課金です。従来のシステムの保守費とは違い、使われるほど費用が増えます。

• 利用量の想定を「少なめ・標準・多め」の複数パターンで試算する
• 1回あたりの処理量、モデルの単価、為替レートなど、試算の前提を明記してもらう
• 海外の提供元はドル建てが多く、為替や価格改定で円での支払額が変わる
• 月の上限額を設定し、一定の割合に達したら通知、上限で停止する仕組みを入れる
• 上位のモデルと標準のモデルで費用と精度を比べ、用途ごとに使い分ける

AIを使ったサービスを外部に提供する事業では、AI利用料が原価の大きな割合を占めることがあります。定額で売ると、よく使う顧客で赤字になる場合があります。料金設計は開発費とあわせて検討しましょう。保守運用費の全体像は保守運用費の相場で解説しています。

受託開発の現場から

ある受託開発会社が、生成AIを使った開発の商談や提案で伝えていることを紹介します。

• 数年前までは自前でAIを学習させる発想が主流でしたが、今は海外の優秀なAIをどう組み合わせるかの時代だと説明しています。独自のAIを作るには研究寄りのエンジニアが必要になり、見積が1桁変わることもあります。既存のAIをAPIで使い、指示文の調整で望む結果に近づける範囲なら、一般的なアプリ開発の予算に収まると伝えています。
• AIの精度は100%を保証せず、検証で実測した値をもとに受入基準を合意します。音声AIの案件では、氏名の漢字のように認識が難しい項目を仕様で避けました（カナで復唱し、電話番号を顧客の識別に使う）。
• AIが失敗したときの逃げ道を設計に入れます。聞き返しが2回続いたら人に転送する、AIの基盤に障害が起きたら人の対応に切り替える、といった仕組みです。
• 利用料の上振れ対策として、月の上限額を管理画面で設定し、80%で管理者に通知、100%でAIの回答を止める二重の歯止めを提案しています。ドル建ての利用料には、為替変動や提供元の値上げのリスクがあることも試算に含めます。

まとめ

• 生成AIの開発は、AIに任せる業務と人が確認する業務の切り分けから始める
• プロンプト設計や評価などAI特有の工程があり、評価には発注者の協力が欠かせない
• 精度は保証できない前提で、段階を分けて契約し、実測値で受入基準を合意する
• 入力データが学習に使われないか、どこで保存・処理されるかを発注前に確認する
• AI利用料は従量で変わる。複数パターンで試算し、上限と通知の仕組みを入れる

本記事は一般的な情報提供を目的としたもので、個別の契約や法的判断については弁護士などの専門家にご相談ください。

AIで何ができるか、まだ整理できていない段階でも構いません。FastProposal の無料AI相談で業務の課題を入力すると、案件の論点と費用の目安を数分で整理できます。開発会社への相談前の準備にご活用ください。