大手自動車メーカーでデータアナリストとして働くY氏から興味深い話を聞いた。ある会議で、同僚がオンライン会議ソフトに搭載されたAI議事録作成機能を利用した。しかし、Y氏が議事録を確認すると、実際の会議内容とは異なる記述が数多く含まれていた。
これまで、多くの職場で議事録の作成は若手社員が担当してきた。一見すると地味な作業だが、そこには仕事内容を理解し、他の人が見てもわかりやすいように内容を整理するという思考のプロセスが含まれていた。AIに任せれば、その時間は大幅に短縮できる。しかし、作業そのものと一緒に、そこで行われていた「考える訓練」が省略されたのだ。
なぜ人はAIの回答を簡単に信じてしまうのだろうか。
一つは、AIが実際に急速な進化を続けていることがある。AIが間違い続けるのであれば、人は自然と警戒する。しかし、10回、20回と正しい回答が続けば、「今回も正しいだろう」と考えるようになる。
その上、AIは、非常に「それらしい文章」を書く。心理言語学やコミュニケーションに関する研究では、同じような内容であっても、文章の構造や語彙、表現の流暢さなどによって、読み手が感じる権威性や信頼性、説得力が変化することが指摘されている。
ただ、総合商社で中間管理職を務めるO.T氏によると、経験のある社員は若手と比べて、AIの生成結果の誤りや問題に気づくことが比較的多いという。
経験豊富な社員であれば、過去の事例や業界特有の慣行、契約上の注意点など、自分の中に蓄積された知識と照らし合わせて、「何かがおかしい」と感じることができる。
しかし、職業経験の浅い社員にとっては、AIが提示した回答そのものが「正解」を学ぶ材料になってしまう可能性がある。AIは、若手社員の学びを加速させる強力な道具になり得る。同時に、その回答を疑うための知識や経験をどのように身につけさせるのかという、新しい人材育成上の課題も生み出している。
AIと向き合うため、それぞれの現場では試行錯誤が始まっている。日本通信で中間管理職を務めるチャン氏は、受け取る情報の確認について、自社で行っている取り組みをこう説明する。
「インターネット上で取得する情報自体が、すでにAIによって生成された不正確な情報の影響を受けている可能性があります。そのため、取得した情報について、まず複数のAIでレビューし、その後、人間が確認するんです」
AIが誤った情報を作るだけなら、その都度訂正すればいい。しかし、その誤情報が次のAIにとっての「情報源」になったとしたらどうだろう。AIが普及すればするほど、確認が大切になる。
旅行テック企業の共同創業者N氏とCFOのB氏も、重要な成果物のAI出力についてこう話す。「客観的な事実、重要な意思決定、顧客の利益、専門的な業務に関わるAIの出力については、必ず人間による二次確認が必要だと考えています」
一方で、AIの利用を過度に制限するだけでも問題は解決しない。
T氏とY氏が指摘したのは、「表向きのルール」と「実際の使い方」が乖離する危険性だ。企業側がAIの利用を厳しく制限しても、便利である以上、社員が実際には使い続ける可能性がある。そうなると、業務にAIを使ったこと自体を言い出しにくくなり、万が一AIによる誤りを発見したとしても、チーム内で共有されない。
ここまで聞いた話から浮かび上がるのは、AIの利用を隠す職場ではなく、AIの間違いを共有できる職場をつくる必要性である。誰か一人が発見したAIの誤りをチーム全体で共有できれば、同じ失敗を繰り返す可能性を下げることができる。
また、AIの出力結果そのものの精度を高める工夫も、現場では進められている。より性能の高いモデルを選択する。曖昧な指示ではなく、目的や条件を明確にしたプロンプトを使う。重要な業務については、信頼できる社内情報を参照できる環境を整える。T氏が経験したように、モデルそのものの性能向上によって、回答の正確性が大きく改善する場合もある。
一方、N氏とB氏は、AIが判断を誤る理由の一つとして、AIが持っていない情報の存在を挙げた。
業界内部で共有されている知識、企業内の非公開データ、過去の経緯、そして経営者による裁量的な判断。こうした情報は、当然ながらインターネット上にすべて存在するわけではない。AIが限られた情報だけをもとに判断すれば、論理的にはもっともらしくても、実際のビジネスでは適切でない結論を導くことがある。
AIの能力だけではなく、AIに何が見えていて、何が見えていないのかを理解することも、利用する側には求められる。
T氏は、少し逆説的な言葉でAI時代の働き方を表現した。「AIが普及すると、人間はむしろ忙しくなるかもしれません。
AIの回答が正しいかどうかを判断するために、知識が必要なのです。今まで以上に幅広い知識を持っていなければならないと思います」
AIは、人間がすべてを覚える必要をなくしてくれる存在だと思われてきた。
しかし、AIが提示した答えの正しさを判断するためには、少なくとも「何がおかしいのか」に気づけるだけの知識が必要になる。
O.T氏は、AIを一度の質問で答えを得るための道具としてではなく、対話の相手として使うことが重要だと話す。「AIが最初に出してくる内容は、表面的なことも多いです。そこからさらに議論して、なぜそう考えたのか、どのような前提条件があるのかを一つずつ確認していく。そうするとAIが持っていない前提条件や情報に気づくことがありますし、途中で間違いが見つかることもあります」
最初の回答をコピーして終わるのではない。
「なぜそう言えるのか」「その根拠は何か」「別の可能性はないのか」と問い続ける。
そして最終的には、AIが作った答えを、自分自身が理解し、説明し、責任を持てるものにする。
今の時代に必要なのは、AIから正解を引き出す能力だけではなく、AIの答えを材料に、自分自身で考え続ける能力なのかもしれない。
AIの導入コスト、個人情報や機密情報の漏えい、著作権など、企業が向き合わなければならない問題はほかにも数多く存在する。また、技術の進歩に制度の整備が追いつかない状況も、しばらく続くだろう。
AIがもたらす生産性向上は大きい。この流れは不可避だ。AIが生み出した情報を、誰が確認するのか。どこまでAIに任せ、どこから人間が判断するのか。結局、最終的に求められるのは、AIと適切に向き合い、自分で考える力を持つことではないだろうか。
復旦大学ＯＢチームメンバー
毛相程、中島大地、梁蘭、王雅雯、中島龍一
取材先
総合商社、自動車メーカー、通信企業、旅行テック企業などで働く方々（匿名）
参考文献
1. Spearman, C. “General Intelligence” Objectively Determined and Measured. In Studies in individual differences: The search for intelligence (eds Jenkins, J. J. & Paterson, D. G.) 59–73 (Appleton-Century-Crofts, 1961).
2. Oppenheimer, D. M. Consequences of erudite vernacular utilized irrespective of necessity: Problems with using long words needlessly. Appl. Cogn. Psychol. J. Appl. Res. Mem. Cogn. 20 (2), 139–156 (2006).
3. Zimmermann, M. & Jucks, R. How experts’ use of medical technical jargon in different types of online health forums affects perceived information credibility: Randomized experiment with laypersons. J. Med. Internet Res. 20 (1), e30 (2018).
4. Warren, K., Nichols, C., Petersen, D. et al. Stylistic language drives perceived moral superiority of LLMs. Sci Rep 15, 39168 (2025).
5. Alafnan, M. A. & Mohdzuki, S. F. Do artificial intelligence chatbots have a writing style? An investigation into the stylistic features of ChatGPT-4. J. artif. intell. technol. 3 (3), 85–94 (2023).
6. Kobak, D., Márquez, R. G., Horvát, E. Á., & Lause, J. Delving into ChatGPT usage in academic writing through excess vocabulary. arXiv preprint http://arxiv.org/abs/2406.07016 (2024).
7. Aharoni, E. et al. Attributions toward artificial agents in a modified moral turing test. Sci. Rep. 14 (1), 8458 (2024).
