IBM「AI人事評価」、元人事責任者も知らない全容　労使紛争、都労委で証人尋問

AI（人工知能）による賃金査定や人事評価を巡る日本で初めての労使紛争が、東京都労働委員会（都労委）で係争中だ。救済申し立てをしているのは日本IBMの従業員でつくる労働組合、JMITU日本アイビーエム支部。同支部は2020年4月、AIを使った人事評価と賃金決定について同社が団体交渉に誠実に応じないのは不当な団交拒否と支配介入だとして、都労委に救済を申し立てた。

【関連記事：「流産しろ」川崎希さん、ネット中傷に「発信者情報開示請求」　追い詰められる投稿主】

5月16日に証人尋問が行われ、日本IBM側の人事労務の元部長が証言した。元部長は「AIが考慮する項目について全ては知り得ていない」「（AIの）レコメンデーション通りに（賃金査定）できないというのは各マネージャーが感じていることが多かったと思う」などと述べ、AIによる賃金査定の実態は、なかなか見えてこない。（ライター・国分瑠衣子）

●プライバシー侵害や賃金査定のブラックボックス化の懸念

申立書などによると、日本IBMは2019年に、IBMが開発したAI「ワトソン」を給与調整をサポートするツールとして導入したことをグループ社員に通達した。組合は複数回の団体交渉でAIの学習データや、評価する側の上司にAIが表示するアウトプットの内容などの開示や説明を求めたが、同社は「AIが上司に示す情報は、社員に開示することを前提としていない」と主張し、開示や説明を拒否した。

労組側が挙げるAIによる不利益の可能性は次の4点だ。

①プライバシーの侵害
個人の業績や職務遂行能力以外の情報の収集や利用は、労働者のプライバシーを侵害する懸念がある。

②公平性、差別の問題
会社の中で、優位性が高い立場にいる人に親和的な言動をとる人が高く評価され、逆の人は低く評価される懸念がある。AIは正義や倫理を持たないので、差別を認識して是正することができない。

③ブラックボックス化
何が正しいかAIは判断できないし、判断に至った過程を説明することができない。低評価を受けた従業員は、どのような理由で低評価になったのか分からないままでは、労働者が成長しようとする機会が失われる。

④自動化バイアス（コンピューターによる自動化された判断を過信してしまう傾向）
ある組合員は、上司から「ワトソンが昇給させろと言うから、今回、（賃金を）上げといたよ」と説明を受けたことがあった。日本IBMはワトソンは人事評価を「サポート」するツールと位置付けるが、自動化バイアスが働き、マネージャーはAIに逆らえない可能性が高い。

●AI「ワトソン」、スキルや業務の専門性など40項目を考慮

日本IBMの給与調整は、従業員の職務内容とスキル、個人の業績、給与の競争力などを総合的に勘案して決まる。

ワトソンはどのようなデータに基づいて、従業員を評価しているのだろうか。都労委の調査でIBM側が出した資料によると、ワトソンは昇給に関する提案をするために40項目のデータを考慮するという。40項目には「市場におけるスキルの多寡」「主たる業務の専門性」「IBMにおけるスキルの必要性」「過去の昇給」などがある。ただし、会社側は40項目のうち一部のデータしか開示していない。ワトソンは40項目のデータを「スキル」「基本給の競争力」など4つの要因ごとに評価した上で、具体的な評価提案をパーセントで示す。

同社は、報酬アドバイスを表示したワトソンのテスト画面も提出した。画面には従業員の役職や所属、現在の給与、パフォーマンスなどの項目があり、一部には「8%to12%（8％から12％）」と書かれていた。労組側の代理人は「ワトソンが評価する側に対して、具体的に賃金査定を明示した提案をしていることが分かる」と指摘する。

●日本IBM側の責任者「ワトソンと評価が異なることはかなり多い」

5月16日の証人尋問ではワトソンの評価項目や、賃金査定にどのぐらい影響を与えているかなどが問われた。

日本IBM側の証人として、人事労務の元部長がワトソンの位置づけや評価項目について語った。元部長は「ワトソンは、マネージャーが社員の給与をよりスマートに効率的に判断できるツール」と述べ、あくまで補助的なツールで、最終評価するのはマネージャーだと説明した。

その上で、組合側が開示を求める40項目の中身について「全ては知り得ていない」と主張。「全ての項目はマネージャーがバンドごとに管理する。IBMにおいて重要な情報なので全て開示できない可能性もある」と答えた。

また、40項目には組合員か否かということは含まれておらず、有給休暇の消化率や育児休暇の取得率なども「確認はしていないが、そういったキャラクターのものは入っていないだろう」と説明した。

この日、証言した日本IBMの元部長もワトソンを使い、給与調整をしていた立場だ。組合側の代理人は「ワトソンの提案した（賃金査定の）パーセントと、マネージャーの最終的な判断が食い違った例は1年間でどれぐらいあるのか」と質問した。

これに対し元部長は「確認したことはないが、違った結果になっていることがかなり多いと思う。記憶としては（ワトソンの）レコメンデーション通りにできないというのは各マネージャーが感じていることが多かったと思う。6、7割はあるのではないか」と答えた。

ワトソンが賃金の減額提案をすることがあるかどうかについては「自分は経験していないので、わからない」と話した。また、尋問の中で、ワトソンはグローバル共通のツールで、日本の規定に合うようにプログラムを変えていないことも分かった。

証人尋問では組合側の中央執行委員長も証言し、「ワトソンの賃金査定の内容が分からないため、集団的な労使交渉が成り立たない。どのようなデータが使われているのか非常に心配だ」と訴えた。

組合側の代理人の穂積匡史弁護士は、記者の取材に対して、「実際にワトソンを使っていた担当者が、40項目のデータについて知らないということはあり得ない。AIのアルゴリズムやデータを考慮し、何を出力するのか、上司がどう使うかを団体交渉で話し合ってできる限り合意形成するというのが本来あるべき姿。無責任な状態で、賃金査定に使うということがいかに危険かということを考えてほしい」と話している。