以下はクラウディア・セント・ジョン（The Workplace Advisors創業者兼 CEO）によるものです。

人工知能（AI）に関する話題は、最近あらゆる場所で取り上げられています。米国では議会がAIに関する公聴会を開催し、世界的にもニュースメディアが広範囲にわたって報道しています。Dscoopの「AIイノベーターズ」シリーズを活用して、すでにAIを業務に取り入れて効率化を図っている方もいるかもしれません。

では、AIが貴社の人事ポリシーや手続きにどのような影響を及ぼすのでしょうか？

ピュー研究所によると、アメリカ人の62％がAIが労働者に大きな影響を与えると考えていますが、自分に直接影響を及ぼすと考えるのはわずか28％に過ぎません。しかし実際には、AIはすでに従業員に影響を及ぼしています。私のコンサルティング会社のお客様である印刷業界の企業では、「AIによる解雇」が非雇用の理由として挙げられるケースが増えつつあります。

採用プロセスにおけるAIの影響

採用プロセスで使用されるAIツールは、採用担当者の時間を節約し、初期審査の偏りを排除して多様な候補者のプールを作り出すことで評価されています。しかし、一部ではこれらのツールに意図せぬバイアスが組み込まれているとの懸念もあります。

履歴書審査ツールは、予測分析を用いてオープンポジションに最適な候補者のプロファイルを決定し、受け取った電子履歴書を比較して「最適な」候補者を見つけ出します。しかし、候補者が特定の言葉やフレーズを使用しない場合、AIツールの期待する基準に合わないと判断され、不当に低い評価を受けることがあります。

さらに懸念されるのは、録画された面接の回答や表情を分析して、応募者の性格や知識、コミュニケーション能力を評価するツールです。これらのツールは、企業の「理想的な従業員」のプロファイルに合うかどうかを外見や話し方、体の動き、性格などをもとに判断しますが、性別や人種、民族、障がいに関する偏りがあり、眼鏡やスカーフの着用、顔の形状やアクセントなどの要素で不当に低い評価を与えるケースも報告されています。

これらのツールの使用に対する規制はすでに導入されています。2023年4月、米国の4つの連邦機関—平等雇用機会委員会（EEOC）、司法省（DOJ）、消費者金融保護局（CFPB）、連邦取引委員会（FTC）—が共同声明を発表し、AIの使用に関する懸念に対応しました。この声明では、AIの定義、ポジティブな活用例や潜在的な問題点の認識、差別の可能性のある分野について言及し、各機関が「自動化システムの開発と使用を監視し、責任ある革新を促進する」こと、そして「法律違反が伝統的な手段や高度な技術によって発生するか否かにかかわらず、個人の権利を保護するために集団的な権限を積極的に行使する」ことを誓いました。

イリノイ州、メリーランド州、ニューヨーク市はすでに採用プロセスにおける「自動雇用判断ツール」の使用を規制する法律を可決しており、他の州や都市でも同様の法律が検討されています。

クラウディアが米国の印刷業界の経営者に対して、大量の求職者が今後見込めない理由について解説します。

生成AIコンテンツ

最近のニュースで注目を集めているのは「チャットボット」と、AIが生成するコンテンツです。OpenAIのChatGPTをはじめ、多くのツールがソフトウェアやアプリのダウンロードとアカウントの設定だけで簡単に利用可能となっています。

職場では、チャットボットを使用してトピックのリサーチを行ったり、ポリシーや手続き、メール、手紙、懲戒処分の文書を生成したりすることができます。AIを人事に利用することには、法的な問題や一般的な聴衆に対するメッセージに効果的に対応できるという利点があります。

しかし、AIが生成するコンテンツは、共感に欠ける、具体性がない、他者のプライバシーを無視する、対面でのやり取りがない、矛盾しているといった欠点も見られます。質問の仕方を少し変えるだけで異なる結果が得られる場合もあり、問題がさらに複雑になったり混乱を招いたりすることがあります。

さらに、チャットボットには固有の制限があります。チャットボットは、大規模な言語モデルを基にしており、多くのデータソースに依存していますが、参照されるデータが必ずしも正確とは限りません。たとえば、Wikipediaはよく使われるリソースですが、利用者によって編集されるため、正確性は80％に留まります。さらに、チャットボットが誤った情報や架空の参照資料を作成し、それに基づいて回答を生成するケースもあります。

データベースを構築するために、チャットボットは入力された情報を将来の参照用に保持します。最適な結果を得るためには、機密情報や企業秘密を入力する必要があるかもしれませんが、それがチャットボットのデータベースに追加されます。後日、他のユーザーが適切な質問をした場合、企業の機密情報が誰でもアクセスできる状況になる可能性があるのです。

AI導入前に行うべき3つの対策

AIツールが発展し続ける中、AIは多くの職場で取り入れられることになるでしょう。AIの導入に際して、以下の3つの対策を検討してください。

1. AIとAIツールをリサーチする: AIが何であるか、そして現在または将来的に使用するツールにどのように組み込まれているかを理解しましょう。仮にAIツールを使用する場合は、その有効性と限界についても把握することが重要です。たとえば、録画された面接の分析を行う場合、そのツールが暗黙のバイアスを除去するために適切にテストされているかを確認してください。
2. AI使用に関するポリシーと手続きを制定する: AIの使用に関するポリシーを策定し、どのような状況で使用するのか、また使用しないのかを明確に規定しましょう。差別の禁止や機密情報の開示を防ぐための具体的な指針を含めます。ポリシーは一般的にAI全般に適用されるものとしても、AIツールを導入する際には具体的な手続きや期待事項を設定します。
3. 従業員と管理職のトレーニング: 会社でのAIツールの使用を拡大するにあたり、従業員と管理職に対して適切かつ合法的な使用方法をトレーニングします。AIを使用する際の禁止事項や期待事項について教育し、すべてのコンテンツを公開前に確認し、従業員や顧客に対する手紙を個別にカスタマイズするよう指導しましょう。

The Workplace Advisorsのチームは、この新たな技術とそれに関連する規制の進展を引き続き注視していきます。