朝、LINEで届いた予約変更を見ながら、電話で聞いた住所の修正を紙の受付票に追記する。昼にはメールの問い合わせ文をAIに入れて返信案を作り、夕方には手元の表の未対応だけをAIに整理してもらえないか考える。
便利そうな一方で、お客様情報、金額、予約枠、支払い状況までAIに任せてよいのか不安も残ります。AIで早く作れるなら試したい。でも、間違った返信や確認漏れが増えたら、現場の負担はかえって大きくなります。
この記事では、 電話、LINE、メール、紙、手元の表で業務を回している事業者が、AIを使った業務システムをどこまで任せ、どこを人が確認すべきか
AIに任せてよい範囲で迷うのは自然です
「AIで早く作れるなら使いたい。でも、お客様対応やお金の確認まで任せてよいのだろうか」
たとえば、次のような場面です。
- メールの問い合わせ文から返信案を作りたいが、そのまま送ってよいか不安がある
- LINEで届いた予約変更をAIに整理してほしいが、空き枠の確定は人が見たい
- 紙の申込書を手元の表へ移すとき、入力漏れだけAIに見つけてほしい
- 支払い済み、未払い、キャンセルの確認は、AIの言い間違いが怖い
- お客様情報をAIに入れてよいのか、どこまで隠すべきか分からない
- 開発会社へ相談するとき、AIを入れたいと言うべきか、まず普通の業務アプリから相談すべきか迷う
この迷いは、AIに詳しくないから起きているわけではありません。
AIは便利ですが、いつも正しい答えを返す道具ではありません。
だからこそ、AIに任せる仕事と、人が最後に確認する仕事を分けてから相談することが大切です。
先に結論
AIを使った業務システムを相談するときは、最初に次の5つを分けます。
- AIに下書きしてもらう文章
- AIに並べ替えや分類を手伝ってもらう情報
- 人が必ず確認するお客様対応
- AIに渡さない個人情報や社外秘の情報
- AIが勝手に送信、更新、削除しないようにする操作
最初から、AIが全部を自動で進める仕組みを目指さなくて大丈夫です。
まずは、AIが返信案を作り、人が確認して送る。AIが未対応らしきものを拾い、人が一覧で確認する。AIが紙やメールの内容を整理し、人が予約枠や金額を確定する。
このくらいの小さな使い方から始める方が、現場で試しやすくなります。
一方で、支払い確定、予約枠の変更、個人情報の扱い、外部への送信、データの削除は、人の確認を挟む前提で相談した方が安心です。
初回相談では、「AIに返信案を作ってほしいです。ただし送信前に必ず担当者が確認したいです」のように伝えられれば十分です。
AIに頼みやすい仕事と、任せきらない仕事
AIを入れるかどうかを考える前に、今の仕事を細かく分けます。
同じ「問い合わせ対応」でも、文章を読む仕事、返信案を作る仕事、予約枠を確定する仕事、お客様へ送る仕事は別です。
AIに頼みやすいのは、下書きや整理です。
人が最後に確認すべきなのは、お客様へ影響が出る決定です。
| 業務の場面 | AIに頼みやすいこと | 人が確認すること | 相談時の言い方 |
|---|---|---|---|
| 問い合わせ返信 | よくある質問に近い内容を見つけ、返信案を作る | 事実、金額、日程、約束する内容を担当者が見てから送る | AIは返信案までにして、送信前は必ず人が確認したい |
| 予約変更 | 変更希望日、人数、連絡先、急ぎ度を読み取り、確認すべき項目を出す | 空き枠、担当者、設備、キャンセル料を見てから確定する | AIに変更内容を整理させ、確定は受付担当が行いたい |
| 申込内容の確認 | 入力漏れ、同じ人らしい申込、確認が必要そうなメモを見つける | 本人確認、重複扱い、受付可否を人が決める | AIは確認候補を出し、最終的に受け付けるかは人が見たい |
| 月ごとの確認 | 未対応、確認中、完了済みなどの候補を整理する | 何を1件として数えるか、締めた後の修正をどう扱うかを決める | 月ごとの確認はAIの候補を見ながら、人が確定したい |
| 社内メモの整理 | 紙、メール、LINEの内容から、相談先へ伝えるメモを作る | 実際の業務と違う内容が混ざっていないかを現場担当が直す | AIで相談メモを作り、現場で事実だけ直してから相談したい |
この表は、AIを使うための機能一覧ではありません。
「AIが手伝うところ」と「人が責任を持って見るところ」を分けるための表です。
代表的な始め方を比べる
AIを使った業務システムには、いくつかの始め方があります。
料金やプラン差は変わりやすいため、この記事では載せません。
ここでは、相談前に比べやすいように、始め方、向いているケース、主なメリット、確認点を並べます。
| 始め方 | 向いているケース | 主なメリット | デメリット・確認点 | 相談時の言い方 |
|---|---|---|---|---|
| AIで相談メモだけ作る | まだシステム化する範囲が決まっておらず、今の困りごとを文章にしたい | 開発会社へ相談する前に、電話、LINE、メール、紙の流れを整理しやすい | お客様情報や社外秘をそのまま入れない。AIの文章は現場の事実で直す | まず相談内容の整理だけAIに手伝ってもらいたい |
| AIを入れない小さな試作から始める | 受付、一覧、通知、状態確認の流れが先に必要で、AIの必要性はまだ分からない | AIの正しさに悩む前に、現場が毎日使う基本の流れを確認できる | AIで楽になる部分が後から見つかる可能性があるため、情報の持ち方を相談しておく | まずAIなしで受付から確認までを小さく試したい |
| 開発者がAIを使って試作を早める | 画面、文面、テスト用の例などを早く形にしたいが、公開前は人が確認する | 試作の速度が上がり、相談中に画面や文面を直しやすい | AIが作ったものでも、公開前の確認、動作確認、安全確認は省かない | AIを使って早く試作する場合も、確認の進め方を知りたい |
| 業務画面の中にAIを入れる | 問い合わせの分類、返信案、入力漏れの候補など、毎日の確認を軽くしたい | 担当者がゼロから読む時間を減らし、確認が必要なものを見つけやすくなる | AIが間違う前提で、確認画面、やり直し、送信前の人の確認を用意する | AIは候補を出すだけにして、人が確認して進める画面にしたい |
| AIが送信や更新まで進める | 十分に試した後で、定型的な返信や社内通知だけを自動に近づけたい | 人が毎回同じ確認をする負担を減らせる | 初回からは急がない。送信、更新、削除は承認ボタンや記録を先に相談する | 将来は自動化したいが、最初は承認ありで始めたい |
ランキングではありません。
AIを入れない試作から始めた方がよい場合もあります。
最初に見るべきなのは、AIの有無ではなく、お客様に影響する作業を誰が確認するかです。
公式情報から見た注意点
AIは、便利な作業補助として使えます。
ただし、AIを業務システムへ入れる場合は、便利さだけでなく、間違い、情報の扱い、使う人の確認手順も見ます。
経済産業省のAI事業者ガイドラインは、最新版として第1.2版が公開されています（参考）。これはAIを提供する側だけでなく、AIを業務で利用する側にとっても、責任を分けて考える材料になります。
NISTのAI Risk Management Frameworkは、AIを設計、開発、利用、評価するときに信頼性を考えるための枠組みです（参考）。同じページでは、生成AIに特有のリスクを整理する資料も紹介されています。
OWASPのLLM向け資料では、入力文でAIが操作される問題、AIの出力を確認せず使う問題、秘密情報が出る問題、AIに任せすぎる問題などが挙げられています（参考）。
この3つから分かるのは、AIを使うかどうかよりも、AIの答えを誰が確認し、どの操作まで進めてよいかを決めることが重要だということです。
また、氏名、電話番号、住所、予約内容、支払い状況のような情報を扱うなら、安全対策も外せません。IPAの中小企業向けガイドラインは、小規模事業者も含めて段階的に情報セキュリティへ取り組む資料として公開されています（参考）。
AIを入れる前に、誰が情報を見られるか、AIに渡してよい情報はどれか、送信や更新の前に誰が確認するかを決めておくと、相談が具体的になります。
AI利用で最初に見る5つの線引き
ここからは、相談前に見る線引きを5つに分けます。
1. お客様へ出る文章は、AI案のまま送らない
AIは返信案を作るのが得意です。
ただし、日程、金額、支払い、キャンセル条件、個別の約束は間違えることがあります。
返信案は、担当者が事実を見てから送る前提にします。
2. 予約枠、在庫、支払い状況はAIに決めさせない
AIは文章から候補を拾うことはできます。
しかし、実際の空き枠、在庫数、支払い済みかどうかは、元の記録で確認します。
AIの役割は「確認すべき候補を出す」までにして、確定は人が見ます。
3. AIに渡してよい情報を先に決める
お客様の氏名、電話番号、住所、注文内容をそのままAIに入れる前に、必要な範囲を確認します。
相談メモを作るだけなら、氏名を「お客様A」のように置き換えられる場合があります。
AIをシステムに組み込む場合は、情報をどこへ送るか、保存されるか、誰が見られるかを相談します。
4. 送信、更新、削除は承認を挟む
AIが外部へメールを送る、予約枠を変える、申込を削除する、支払い状態を変える場合は、影響が大きくなります。
最初は、AIが候補を出し、人がボタンで承認する形が分かりやすいです。
どの操作を自動で進めるかは、十分に試してから決めます。
5. AIなしでも動く基本の流れを先に持つ
AIが止まったり、答えに自信が持てなかったりする日もあります。
そのときに、受付、一覧、担当者確認、返信、月ごとの確認が止まらない形にしておくと安心です。
AIは、基本の流れを置き換えるものではなく、まずは手間を減らす補助として考えます。
相談前にできる5つの整理
AIを使うかどうかは、最初の相談で一緒に決めても構いません。
その前に、次の5つだけ整理しておくと話が早くなります。
- 最近1週間で、AIに手伝ってほしい作業を3つ書く
- その作業が、お客様へ直接影響するかを分ける
- AIが間違えたときに困る内容を先に書く
- AIに渡してよい情報と、渡さない情報を分ける
- AIの案を誰が確認してから送るかを決める
たとえば、次のように整理します。
この一文があるだけで、相談先は「AIを入れるべきか」だけでなく、「どこに入れると安全に試せるか」を考えやすくなります。
AI利用範囲の整理チェック
次の項目に当てはまるか確認してみてください。
すべて埋まらなくても大丈夫です。未定の項目は、初回相談で一緒に決める材料になります。
そのまま使える相談メモ
相談先へ送る前のメモとして使えます。
分からない項目は空欄のままで構いません。
AI利用範囲の相談メモをコピーできます
AIに手伝ってほしい作業と、人が確認する作業を分けて相談するためのメモです。未定の項目は「相談で決めたい」と書けます。
AIを使った業務システムについて相談したい内容： 【今の業務の流れ】 例：LINEで予約変更を受ける → 紙に書く → 担当者へ確認する → メールで返信する → 手元の表へ移す 【AIに手伝ってほしい作業】 例：問い合わせ内容の整理、返信案づくり、入力漏れの候補出し、未対応の整理 【人が必ず確認したい作業】 例：お客様へ送る返信、予約枠の確定、金額、支払い状況、キャンセル条件 【AIに渡してよい情報】 例：個人名を伏せた問い合わせ文、よくある質問、公開済みの説明文 【AIに渡さない情報】 例：氏名、電話番号、住所、支払い情報、社外秘のメモ 【送信や更新の前に挟みたい確認】 例：AIの返信案を受付担当が確認してから送る。予約変更は店長が確認してから反映する。 【AIなしでも続けたい基本の流れ】 例：受付一覧、担当者確認、返信、月ごとの確認 【最初に試したい範囲】 例：問い合わせ返信案だけを小さく試し、送信前は必ず人が確認する 【不安なこと】 例：AIが間違った内容を出さないか、お客様情報をどこまで渡してよいか 【共有できる資料】 例：紙の受付票、今の表、よくあるメール文面、LINEの定型文
次にやること
まず、AIに任せたい作業を一つだけ選びます。
おすすめは、お客様へ直接送る前に人が確認できる作業です。
たとえば、問い合わせの返信案、予約変更の確認項目、申込内容の不足チェックです。
そのうえで、次の一文にまとめます。
この一文があれば、AIを入れるか、AIなしで小さく試すか、AIをどこに組み込むかを相談しやすくなります。
AIを使うこと自体を目的にしなくて大丈夫です。
大事なのは、現場の確認漏れを減らし、お客様への対応を安心して続けられる形にすることです。
参考情報
- 経済産業省, AI事業者ガイドライン。AI事業者ガイドライン第1.2版、チェックリスト、ワークシートの公開状況確認に使用。最終更新日 2026-04-01。2026-07-22参照。
- NIST, AI Risk Management Framework。AIの設計、開発、利用、評価で信頼性を考える枠組みと、生成AI向け資料の確認に使用。AI RMF 1.0は2023-01-26公開、NIST-AI-600-1は2024-07-26公開、ページ上ではAI RMF 1.0改訂中との記載あり。2026-07-22参照。
- OWASP Foundation, OWASP Top 10 for Large Language Model Applications。AI入力、出力確認、秘密情報、任せすぎに関する注意点の確認に使用。ページ上で公開日・更新日は未確認、Version 2025への案内あり。2026-07-22参照。
- IPA, 中小企業の情報セキュリティ対策ガイドライン。小規模事業者を含む中小企業向けの情報セキュリティ対策と第4.0版の確認に使用。公開日 2016-11-15 / 最終更新日 2026-07-03。2026-07-22参照。
- デジタル庁, デジタル社会推進標準ガイドライン。サービス・業務改革と情報システム整備を合わせて見る考え方の確認に使用。最終更新日 2026-07-15。2026-07-22参照。