AIで作ったシステム、誰が保守する？AI開発時代の新たな課題

AIで作ったシステムの保守とは、生成AIを使って開発したシステムや、AIの機能を組み込んだシステムを、稼働後も正しく使い続けられる状態に保つための作業です。AIを使えば、専門のエンジニアが少ない企業でも業務システムを短期間で作れるようになりました。しかし、作ったシステムの不具合を誰が直すのか、セキュリティ対応や機能の改修を誰が担うのかが決まらないまま、運用を始めてしまうケースも少なくありません。

本記事では、AIで作ったシステムの保守が課題になる理由と、保守・運用で必要な作業、保守を誰が担うべきかの選択肢を解説します。開発段階で決めておくべきことも紹介するので、AIでのシステム開発を検討している方はぜひ参考にしてください。

 

 

 

１．「AIで作ったシステム」とは？2つの意味を整理

「AIで作ったシステム」という言葉は、大きく2つの意味で使われています。どちらを指すかによって保守で必要な作業も変わるため、まずは違いを整理しておきましょう。

 

AIを使って開発したシステム

1つ目は、生成AIを使ってソースコードや設計書を作成し、開発したシステムです。AIに自然な言葉で指示を出すだけでプログラムを生成できるため、専門のエンジニアでなくても業務システムを形にしやすくなりました。既存のシステムを、AIを使って作り直すケースも増えています。

この場合、完成したシステムそのものは一般的な業務システムと変わりません。保守で必要な作業も、不具合の修正やセキュリティ対応など、従来のシステムと基本的には同じです。

 

AIを組み込んだシステム

2つ目は、AIの機能を組み込んだシステムです。たとえば、問い合わせに自動で回答するチャットボットや、社内文書を検索して要約する機能、需要を予測する機能などが該当します。

この場合は、通常のシステム保守に加えて、AIが正しい結果を出し続けているかを確認する作業が必要になります。システムとしてはエラーなく動いていても、AIの回答の質が下がっていることがあるためです。

 

どちらも「作って終わり」ではない

どちらのシステムも、稼働した後に業務の変化や法改正、利用するサービスの仕様変更などに合わせて手を入れ続ける必要があります。AIで作れば開発は速くなりますが、保守の手間がなくなるわけではありません。本記事では両方のケースを扱い、それぞれで必要な保守の考え方を解説します。

 

 

２．AIで作ったシステムの保守が課題になる理由

AIでシステムを作りやすくなった一方で、「作ったものの、誰も保守できない」という問題が起きやすくなっています。その主な理由を4つ紹介します。

 

コードの中身を説明できる人がいない

従来の開発では、エンジニアが自分でソースコードを書くため、少なくとも書いた本人は処理の内容を理解していました。一方、AIでシステムを作ると、AIが生成したコードを十分に理解しないまま動かしてしまうことがあります。

「動いているから問題ない」と考えて使い続けると、不具合が起きたときに原因を突き止められません。どこを直せばよいのか、直したことでほかの機能に影響が出ないかを判断できず、システムがブラックボックスになってしまいます。

 

作った人と保守する人が分かれやすい

AIを使った開発は、業務部門の担当者が主導して進めるケースもあります。その担当者が異動や退職をすると、システムの経緯を知る人が社内からいなくなります。

また、開発だけを社内やAIで行い、保守は外部ベンダーに依頼しようとしても、引き受け先がすぐに見つかるとは限りません。外部ベンダーは、構成や中身がわからないシステムの保守を引き受けるかどうか、慎重に判断するためです。

 

設計書やテストが残っていないことが多い

AIを使うと短期間で動くものができるため、設計書の作成や自動テストの整備が後回しにされがちです。設計書がなければ、後から保守を担当する人は、ソースコードを一から読み解いて全体像を把握しなければなりません。

テストがない状態では、改修のたびに既存の機能が壊れていないかを手作業で確認する必要があり、保守の負担や費用が大きくなります。

 

AIを組み込んだシステムは「動いていても質が落ちる」

AIを組み込んだシステムには、従来のシステムにはない難しさがあります。参照しているデータが古くなったり、業務の内容が変わったりすると、エラーが出ないままAIの回答の精度が下がることがあるのです。

さらに、外部のAIサービスを利用している場合は、提供元の都合でAIモデルが廃止・変更されることもあります。自社が何も変えていなくても、ある日から動作や回答の傾向が変わる可能性がある点に注意が必要です。

 

 

３．AIで作ったシステムの保守・運用でやるべきこと

AIで作ったシステムの保守・運用では、従来のシステムと共通する作業に加えて、AIを組み込んだ場合に特有の作業があります。ここでは、それぞれで必要な作業を紹介します。

 

不具合の修正とセキュリティ対応

保守の基本は、不具合が起きたときに原因を調べて修正することです。AIが生成したコードは一見正しく動いていても、想定していないデータが入力されたときにエラーになったり、セキュリティ上の弱点（脆弱性）を含んでいたりすることがあります。

不具合が見つかったときの連絡先と対応の流れを決めておき、業務への影響を最小限に抑えられるようにしておきましょう。

 

ライブラリやインフラの更新

システムは、さまざまなライブラリやフレームワーク、サーバーなどの上で動いています。これらには定期的にアップデートやセキュリティパッチが提供されるため、適用しないまま放置すると脆弱性が残り続けます。

AIで作ったシステムは、開発時にAIが選んだライブラリをそのまま使っていることも多いため、どのライブラリを使っているのかを一覧で把握しておくことが大切です。

 

設計書の更新

改修を重ねるうちに、設計書と実際のシステムの内容がずれていくことがあります。設計書が古いままだと、次に保守を担当する人が正しく状況を把握できません。改修のたびに設計書や変更履歴を更新し、誰が見ても現在の仕様がわかる状態を保ちましょう。

 

AI機能の出力の確認とモデル変更への対応

AIを組み込んだシステムでは、AIの回答や判定が業務に合っているかを定期的に確認する作業が欠かせません。参照データを最新の状態に保つことや、利用しているAIモデルの廃止・変更の告知を確認することも必要です。

従来のシステムの保守と、AIを組み込んだシステムの保守の主な違いは次のとおりです。

 

 

AIを組み込んだシステムでは、「エラーが出ていないから問題ない」とは判断できません。出力の質を誰が、どのくらいの頻度で確認するかを決めておくことが、使い続けるための前提になります。

 

 

４．AIで作ったシステムは誰が保守する？3つの選択肢

AIで作ったシステムの保守を担う方法は、主に「社内で保守する」「開発から保守まで外部ベンダーにまとめて任せる」「保守だけを外部に依頼する」の3つです。それぞれの特徴と、現実的な役割分担の考え方を解説します。

 

社内で保守する

社内の担当者が保守を担う方法です。業務の内容を理解している人が対応するため、現場からの改善要望をすばやくシステムに反映できます。システムに関するノウハウが社内に蓄積される点もメリットです。

一方で、保守を担える人材の確保と育成が必要です。特定の担当者だけに任せると、その人が異動や退職をした時点で保守が止まってしまいます。複数人で仕様を共有し、担当者が変わっても対応できる体制を整えることが欠かせません。

社内でシステムを開発・保守する体制づくりについては、AIで基幹システムを内製化するメリットと注意点で詳しく解説しています。

 

開発から保守まで外部ベンダーにまとめて任せる

システムの開発と保守を、同じ外部ベンダーに依頼する方法です。開発を担当した外部ベンダーはシステムの構成や設計の意図を理解しているため、不具合が起きたときも原因の特定や修正をすばやく進められます。

AIを組み込んだシステムの場合も、出力の確認やAIモデルの変更への対応まで含めて任せられる点は大きな安心材料です。ただし、すべてを任せきりにすると、社内にシステムの知識が残らず、特定の外部ベンダーに依存した状態になりやすい点には注意しましょう。

 

保守だけを外部に依頼する

社内やAIで開発したシステムの保守だけを、外部ベンダーに依頼する方法もあります。開発は自社で続けながら、障害対応やセキュリティ更新など、専門的な対応だけを外部に任せたい場合に向いています。

ただし、他社や社内で作ったシステムの保守を引き受けるには、外部ベンダー側でシステムの中身を把握する必要があります。依頼する前に、次のような情報を用意しておくと相談がスムーズです。

• システムの構成図（サーバー、データベース、外部サービスとのつながり）
• ソースコードと、使用しているライブラリの一覧
• 設計書や操作マニュアルなど、現在の仕様がわかる資料
• すでに業務で使っているのか、これから稼働するのかといった運用の状況

資料が少ない場合は、引き受けまでに調査の期間や費用がかかったり、先に改善が必要な箇所を指摘されたりすることもあります。

 

現実的なのは社内と外部の役割分担

多くの企業にとって現実的なのは、社内と外部ベンダーで役割を分ける方法です。業務に関わる判断は社内に残し、技術的な対応は外部の力を借りるという考え方です。

 

 

特に、AIの出力が業務に合っているかの判断は、業務を知る社内の担当者にしかできません。外部に保守を任せる場合でも、社内に窓口となる担当者を決めておくことが大切です。

 

 

５．保守で困らないために開発段階で決めておくこと

AIで作ったシステムの保守の問題は、稼働してから慌てて対応しても解決が難しいものです。開発を始める段階で、次の4つを決めておきましょう。

 

保守の担当者と役割分担を決める

まずは、稼働後に誰がシステムの面倒を見るのかを決めます。社内の担当者、外部ベンダー、またはその組み合わせのどれにするのかを明確にし、不具合が起きたときの連絡先や、利用を止める判断を誰がするのかまで決めておきます。

「動くものができてから考える」と後回しにすると、稼働後に引き受け手が見つからず、システムが放置される原因になります。

 

設計書とテストをAIと一緒に残す

AIは、ソースコードを生成するだけでなく、設計書や操作マニュアル、テストコードの作成にも活用できます。開発と同時にこれらを作成しておけば、後から保守を担当する人がシステムの全体像を把握しやすくなります。

AIへの指示の内容や、なぜその設計にしたのかといった判断の経緯も記録しておくと、改修のときに役立ちます。

 

コードレビューと開発ルールを整える

AIが生成したコードは、そのまま使うのではなく、人が内容を確認したうえで採用することが大切です。命名規則やフォルダの構成、使ってよいライブラリなどの開発ルールを決めておけば、担当者が変わっても同じ方針で保守を続けられます。

AIで作ったシステムを本番環境で使う前に確認すべき項目は、生成AIで作った業務システムを本番運用するためのチェックポイントで紹介しています。

 

保守費用と保守の範囲を最初に確認する

システムを使い続けるには、開発費用とは別に保守の費用がかかります。外部ベンダーに依頼する場合は、保守費にどこまでの作業が含まれるのかを契約前に確認しましょう。

たとえば、障害対応の受付時間や対応のスピード、セキュリティ更新の頻度、AIモデルの変更への対応が保守費に含まれるのかどうかは、外部ベンダーによって異なります。ここをあいまいにしたまま契約すると、想定外の追加費用が発生したり、期待した対応を受けられなかったりする原因になります。

 

 

６．AIで作ったシステムの保守に関するよくある質問

最後に、AIで作ったシステムの保守について、よく寄せられる質問にお答えします。

 

AIで作ったシステムは、保守を断られやすいですか？

AIで作ったこと自体が理由で断られるとは限りません。外部ベンダーが重視するのは、システムの構成や中身を把握できるかどうかです。構成図やソースコード、設計書がそろっていれば、相談に応じてもらいやすくなります。反対に、資料がほとんどなく、誰も中身を説明できない状態では、引き受けまでに調査が必要になったり、断られたりする可能性が高くなります。

 

作った担当者が辞めてしまったら、どうすればよいですか？

まずは、ソースコードやサーバーの管理者権限、利用しているサービスのアカウントなど、システムを動かすために必要な情報が社内に残っているかを確認しましょう。そのうえで、ソースコードを解析して現在の仕様を整理します。最近はAIを使ってソースコードから処理の内容を読み解き、設計書を作り直すことも可能です。

仕様書がないシステムを解析して立て直す方法は、仕様書がないブラックボックス化したシステムをAIで解析・再構築する方法で詳しく解説しています。

 

保守費用はどのくらいかかりますか？

保守費用は、システムの規模や保守の範囲、対応のスピード、体制によって大きく変わるため、一概にはいえません。たとえば、障害時の即日対応を求める場合は、対応できる人員を確保する必要があるため、費用は高くなります。AIを組み込んだシステムでは、保守費とは別にAIの利用料がかかる点にも注意が必要です。複数の外部ベンダーに、同じ条件で見積もりを依頼して比較するとよいでしょう。

 

 

７．まとめ：AIで作ったシステムは「誰が保守するか」を先に決める

AIを使えば、システムは以前よりずっと速く作れるようになりました。しかし、保守の手間がなくなるわけではありません。AIで開発したシステムはコードの中身を説明できる人がいなくなりやすく、AIを組み込んだシステムは動いていても回答の質が落ちることがあります。

保守を担う方法には、社内で保守する、開発から保守まで外部ベンダーに任せる、保守だけを外部に依頼するという選択肢があります。多くの企業にとって現実的なのは、業務に関わる判断は社内に残し、技術的な対応は外部の力を借りる役割分担です。開発を始める段階で、保守の担当者、設計書やテストの残し方、保守費用と範囲を決めておきましょう。

システムの開発から稼働後の改善まで、継続して任せられる相手を探している場合は、業務分析から基幹システムの構築、運用・改善まで伴走するシステム開発サービスもご検討ください。AIを組み込んだシステムについても、稼働後のデータをもとにした継続的な精度の改善まで支援しています。開発後の運用まで含めた取り組みは、A.N.Sの導入事例で紹介しています。