東海DX伴走室
生成AI研修

生成AI研修の効果測定はどうする?削減時間の測り方と経営者への報告

公開  約13分で読めます
この記事の要点
  • ✓効果測定は研修の前から始めます。研修で扱う業務に絞り、研修前の作業時間と件数を分単位で記録しておくと、研修後と比べられます。
  • ✓作業時間だけでなく、生成AIを使った回数、使った結果、使わなかった理由を記録すると、効果が出ない原因と次の手が見えてきます。
  • ✓経営者への報告は1枚にまとめ、結論・業務ごとの比較・使っている人・数字にしにくい効果・課題・次の手を並べます。

1. 生成AI研修の効果測定は研修の前から始まる

研修が終わってから「どれくらい役に立ったのか」と社長に聞かれても、比べる元の記録がなければ答えられません。よくあるのは、研修後に慌てて数字を集めようとして、研修前にその作業に何分かかっていたのか誰も分からない、という状態です。生成AI研修の効果を説明するには、研修の前に「どの業務を、誰が、どうやって測るか」を決めておく必要があります。

測る対象は、研修で扱う題材と同じ業務にします。研修で日報のまとめ方や客先へのメールの下書きを練習したのに、測るのが見積書の作成時間では、研修の効果が出たのかどうか判断できません。研修の内容と測る業務をそろえることが、効果測定の出発点です。対象業務を選ぶときは、次の条件に当てはまるものを優先します。

  • ・研修の中で実際に練習する業務であること
  • ・週に何度か決まって発生する業務であること(月に一度しかない業務は、前後で比べる件数が足りません)
  • ・1件あたりの手順がおおむね決まっていること(日報のまとめ、作業手順書の清書、問い合わせへの返信、議事録の作成など)
  • ・担当者が研修の受講者であること
  • ・件数をもとからある台帳・受注一覧・送信記録などで数えられること
ポイント対象業務は部署ごとに1〜3つに絞ります。全部の業務を測ろうとすると記録の手間が増え、現場が途中で記録をやめてしまいます。測る業務が少なくても、前後の比べ方がしっかりしていれば、経営者が判断できる材料になります。

2. 研修の前後で作業時間を測る方法

作業時間は、1件ごとに「始めた時刻」と「終わった時刻」を書いておく方法が一番確実です。専用の道具は要りません。スマホの時計を見て、紙かExcelの記録シートに書けば足ります。記録は分単位で十分です。秒まで測ろうとすると、記録そのものが負担になります。

研修前の記録は、研修の2〜4週間前から取り始めます。期間が短すぎると、たまたま簡単な案件が続いた週だけを測ってしまいます。記録シートには、あとで集計しやすいように次の項目を入れておきます。

表1 作業時間の記録シートに入れる項目
項目書く内容入れる理由
日付作業した日繁忙期とそれ以外を分けて見るため
担当者作業した人の名前人による差を分けて見るため
業務名「日報のまとめ」「客先へのメール返信」など、あらかじめ決めた名前業務ごとに集計するため
件数その時間で処理した件数1件あたりの時間を出すため
開始・終了の時刻分単位で記入作業時間を出すため
生成AIを使ったか使った・使わない研修後に使った件と使わなかった件を比べるため
メモ途中で電話が入った、資料探しに手間取った など極端な記録を外すときの判断材料にするため
出典:東海DX伴走室編集部の整理

前と後で条件をそろえる

研修の前後で比べるときは、同じ人が、同じ種類の業務を、同じくらいの量だけ処理した記録どうしで比べます。条件がばらばらなまま平均を出すと、生成AIのおかげで減ったのか、たまたま楽な案件だったのかが区別できません。

  • ・同じ担当者の記録どうしで比べる
  • ・書類の種類と難しさをそろえる(短いお礼のメールと長い報告書を混ぜない)
  • ・繁忙期と閑散期を混ぜない。決算前や年度末の工事集中期は分けて見る
  • ・研修直後の慣れるまでの期間は、別に分けて見る
注意研修直後は、生成AIの画面や指示の出し方に慣れていないため、かえって作業時間が延びることがあります。この時期の記録だけを見て「効果がない」と判断しないでください。慣れるまでの期間は使った回数だけを記録し、作業時間の比較はその後に行います。

削減時間の出し方

削減時間は、「研修前の1件あたりの時間」から「研修後の1件あたりの時間」を引き、それに月の件数をかけて出します。1件あたりの時間は、記録した合計時間を件数で割った平均を使います。極端に長い記録や短い記録は、メモ欄を見て理由がはっきりしているものだけ外します。理由の分からない記録まで外すと、都合の良い数字だけを残したと受け取られます。

金額に直す場合は、削減時間に社内で使っている人件費の単価をかけます。単価は総務・経理で決まっているものを使い、報告書には「どの単価を使ったか」を書き添えます。単価の根拠が書いてあれば、経営者は他の投資と同じ物差しで比べられます。

3. 使った回数と業務の件数を記録する

作業時間だけでは、研修の効果は見えきりません。生成AIを使い続けているのが一部の人だけなら、会社全体では時間が減りません。逆に、時間が思ったほど減っていなくても、使う人が少しずつ増えているなら、次の手を打つ価値があります。そこで、作業時間と並べて「使った回数」と「業務の件数」を記録します。記録するのは次の4つです。

  • ・使った回数:誰が、どの業務で生成AIを使ったか。1日の終わりに正の字で数える程度で足ります
  • ・業務の件数:その期間に処理した日報・見積・メール・手順書などの件数。受注一覧や工事台帳など、もとからある記録で数えられるものはそれを使います
  • ・使った結果:「そのまま使えた」「直して使った」「使えなかった」の3つから選びます
  • ・使わなかった理由:「使い方を忘れた」「社外に出せない情報だった」「手で書いたほうが早かった」など、ひと言で書きます

使った回数を人ごとに並べると、研修のあとに誰が使い続けていて、誰が使わなくなったかが分かります。使わなくなった人の「使わなかった理由」を見ると、手順を忘れたのか、社内ルールで迷ったのか、そもそもその業務に向いていなかったのかが分かれます。理由によって、追加の説明会を開くのか、社内ルールを見直すのか、対象業務を変えるのかが決まります。

ポイント「使えなかった」という記録は失敗ではありません。どの業務で、どんな指示を出して、何が足りなかったのかが分かれば、次の研修の題材や、社内で共有する指示文の見本に変えられます。記録を責める材料にしないことを、最初に受講者へ伝えておきます。

記録の置き場所は、部署で共有しているExcelのシート1枚で足ります。1回使うごとに1行、日付・名前・業務名・結果を書くだけにしておけば、慣れた人なら手間はほとんどかかりません。紙の方が続く現場なら、机や詰所に記録用紙を置いておき、週の終わりに記録係がまとめて入力する形でも構いません。

4. 受講者アンケートの取り方

時間や回数で表せない部分は、受講者へのアンケートで拾います。研修直後に「満足しましたか」と聞くだけでは、仕事が変わったかどうかは分かりません。アンケートは研修直後と、研修から1か月ほどたった時点の2回に分けます。直後は「できそうか」を、1か月後は「実際に何に使ったか」を聞くと、研修の中身と現場での使われ方の両方が見えます。

表2 アンケートで聞くことと答え方
時期聞くこと答え方
研修直後研修で練習した業務を、自分の仕事でもできそうかできる・手順を見ればできる・できない から選ぶ
研修直後どの業務で使ってみたいか業務名を自由に書く
研修直後分かりにくかったところ自由に書く
1か月後実際に使った業務はどれか選択肢から当てはまるものをすべて選ぶ
1か月後使って楽になった作業と、変わらなかった作業自由に書く
1か月後使うのをためらった場面とその理由自由に書く
1か月後社内で誰かに使い方を聞いたか、教えたかはい・いいえと、相手の部署
出典:東海DX伴走室編集部の整理

アンケートを作るときは、答える側の負担を軽くすることを優先します。現場の人は休憩時間や終業前に答えることが多いため、設問が多いと最後のほうが空欄になります。

  • ・設問は少なくし、5分ほどで答え終わる量にする
  • ・「役に立ったか」ではなく「何に使ったか」「何が変わったか」を聞く
  • ・記名にするか無記名にするかは目的で決める。作業時間の記録とつなげたいなら記名、率直な不満を聞きたいなら無記名
  • ・紙でもかまわない。スマホが苦手な人がいる職場では紙のほうが回収できる
  • ・回収したら、自由記述をそのまま一覧にして残しておく。報告書の材料になる
注意アンケートの点数を平均して「満足度は〇点でした」と報告するだけでは、経営者は次の投資を判断できません。自由記述に出てきた具体的な業務名や、使うのをためらった理由を拾って、報告の中身に使います。

5. 測る時期の目安と、記録を続けるコツ

作業時間、使った回数、アンケートは、それぞれ取る時期が違います。研修の日程が決まった時点で、測る時期も一緒に予定表へ入れておくと、記録の取り忘れを防げます。目安は次のとおりです。

図1 効果測定の時期の目安
  1. 研修の1か月ほど前測る業務を決め、記録シートと記録の取り方を受講者に配る
  2. 研修の2〜4週間前から研修前の作業時間と件数を記録する
  3. 研修当日直後アンケートを取る。研修で作った指示文や手順を社内で保存する
  4. 研修後1〜2週間慣れる期間。使った回数と使った結果だけを記録する
  5. 研修後1か月作業時間の記録を再開し、1か月後アンケートを取る
  6. 研修後3か月研修前と比べて削減時間をまとめ、経営者へ報告する

記録が途中で止まる一番の理由は、「何のために書いているのか分からない」ことです。書いた記録がどこにも使われず、本人に結果が返ってこないと、忙しい時期から順に記録が抜けていきます。次のような工夫で、記録を続けやすくします。

  • ・記録係を部署ごとに1人決め、週の終わりに記録の抜けを確かめてもらう
  • ・途中経過を朝礼や部署の打ち合わせで短く共有し、本人にも結果を見せる
  • ・記録期間に終わりがあることを最初に伝える。いつまで書けばよいか分かると続きやすい
  • ・記録の項目を途中で増やさない。増やしたい項目は次の測定で入れる
ポイント工場長や工事部長が自分でも記録をつけると、現場の記録は続きやすくなります。上の立場の人が「面倒だから」と書かずにいると、記録は形だけになります。

6. 経営者への報告は1枚にまとめる

経営者が報告書で知りたいのは、大きく3つです。どの業務でどれだけ時間が減ったのか、生成AIを使い続けている人がどれくらいいるのか、次に何をするのか。集めた記録をすべて載せる必要はありません。判断に要るものだけを1枚に並べ、細かい記録は別紙として添えます。報告書は次の順番でまとめます。

図2 報告書をまとめる流れ
  1. 01記録を集める作業時間の記録、使った回数、2回分のアンケートを部署ごとに集める
  2. 02業務ごとに比べる研修前と研修後の1件あたりの時間を並べ、月の件数をかけて削減時間を出す
  3. 03使っている人を数える使い続けている人と使わなくなった人を分け、使わなくなった理由を添える
  4. 04数字にしにくい効果を拾うアンケートの自由記述から、具体的な業務名が出ている声を選ぶ
  5. 05次の手を決める広げる業務、やめる業務、追加で教える内容、見直す社内ルールを決める
次の手まで書いてあると、経営者は報告をその場で判断に使えます。
表3 報告書1枚の構成
欄書くこと書き方の注意
結論研修で変わった業務と、減った時間最初の数行で言い切る
業務ごとの比較研修前・後の1件あたりの時間と月の件数比べた期間と条件を書き添える
使っている人使い続けている人数と部署使わなくなった人の理由も書く
数字にしにくい効果現場の声、書類の質やミスの変化誰の声かを部署名で示す
課題使えなかった業務、社内ルールで止まった場面隠さずに書く
次の手広げる業務、追加の研修、ルールの見直し担当者と時期を入れる
出典:東海DX伴走室編集部の整理
注意削減時間を良く見せようとして、条件の違う記録を混ぜたり、効果の出た人だけを集計したりすると、次の投資の判断を誤らせます。効果が小さかった業務も、そのまま載せたほうが報告全体を信用してもらえます。

研修のときに記録を取る習慣をつけておくと、ほかの場面でも役に立ちます。たとえば、中小企業庁・中小企業基盤整備機構の「デジタル化・AI導入補助金」でITツールを導入した場合は、導入後に効果の報告が求められます。研修の効果測定で使った記録シートや報告書の形をそのまま流用できれば、報告のたびに一から準備する手間が省けます。

7. 数字にしにくい効果の書き方

生成AI研修の効果には、時間で測りにくいものがあります。書類の言い回しがそろった、新人が質問しやすくなった、上司の確認の手間が軽くなった、といった変化です。こうした効果は「便利になった」「好評だった」と書くと、経営者には伝わりません。誰の、どの作業が、どう変わったのかを、前と後で並べて書きます。

図3 報告書に書く「数字にしにくい効果」の書き方の例
導入前
  • 客先へのお詫びや納期変更のメールを書くたびに、上司に文面を最初から見てもらっていた
  • 作業手順書の言い回しが担当者ごとにばらばらで、読む人が迷っていた
  • 新人が分からない用語を聞きたくても、先輩が現場に出ていて手が止まっていた
  • 会議の議事録が後回しになり、決まったことが関係者に届くのが遅れていた
導入後
  • 生成AIで下書きを作ってから上司に回すようになり、上司は言い回しの確認だけになった
  • 手順書の書き方をそろえる指示文を部署で共有し、言い回しがそろった
  • 新人がまず生成AIに用語を聞き、残った疑問だけ先輩に聞くようになった
  • 会議の当日に議事録の下書きが回るようになった

このように並べると、数字がなくても「どこで手間が減ったか」が経営者に伝わります。書くときは次の点に気をつけます。

  • ・誰の、どの作業が、どう変わったかを1文で書く
  • ・前の状態と今の状態を必ず並べる
  • ・数字は無理に付けない。上司に見てもらう回数や差し戻しの回数など、数えられるものだけ回数を添える
  • ・アンケートの自由記述は言い換えずに、本人の言葉のまま引用する
  • ・悪い変化も書く。生成AIの下書きを確認する手間が増えた、などの声も次の手の材料になる
ポイント品質やミスの変化を書く場合は、品質記録や手直しの記録など、もとからある記録と照らし合わせます。「ミスが減った気がする」という声だけでは、報告として弱くなります。記録で確かめられない場合は、「受講者の実感」と明記して書きます。

8. よくあるご質問

9. よくあるご質問

Q
研修前の作業時間を記録し忘れました。もう比べられませんか。
A
過去の日報、メールの送信時刻、台帳の記録日などから、1件にかかっていた時間をおおよそ割り出せる場合があります。担当者に聞き取りをして補う方法もあります。その場合は、報告書に「研修前の時間は聞き取りによる推定」と書き添えてください。次の研修からは、日程が決まった時点で記録を始めます。
Q
研修後に作業時間がほとんど減っていません。研修は失敗だったのでしょうか。
A
まず使った回数と使わなかった理由を見てください。使っている人が少ないなら、使い方の説明や社内ルールの見直しで変わる可能性があります。使っているのに時間が減らないなら、測った業務が生成AIに向いていないことも考えられます。対象業務を変えて測り直すかどうかを、報告書の次の手として書きます。
Q
受講者が数人しかいない小さな会社でも、効果測定は必要ですか。
A
人数が少なくても、研修にお金と時間をかけた以上、何が変わったかを残しておく意味はあります。記録の項目を減らし、測る業務を1つに絞れば、手間はそれほどかかりません。記録があれば、次に研修を受ける人を選ぶときや、ほかの部署に広げるかを決めるときの材料になります。
Q
効果測定の記録は誰がまとめればよいですか。
A
日々の記録は部署ごとの記録係、全体の集計と報告書づくりは総務や研修の担当者がまとめる形が回りやすいです。報告書の「次の手」の欄は、工場長や工事部長など現場の責任者と一緒に書くと、現場で実行できる内容になります。
編集部
この記事を書いた人
東海DX伴走室編集部
東海4県の製造業・建設業のDXを支援しています。制度の内容は、公開日時点の公的機関の資料をもとにしています。
まずは30分、
無料でご相談ください
売り込みはしません。つくらないほうがよい場合は、そうお伝えします。
フォームで相談する(無料)
訪問でも、オンラインでも伺います。