從篩選求職者到面試評分：招聘用人工智能真能消除偏見嗎？

雖然使用人工智能進行招聘的其中原因，是為了更加客觀一致，但多項研究發現，這項技術實際上很可能存有偏見，因為人工智能從訓練它的數據集中學習，如果訓練數據有缺陷，那麼人工智能也會有缺陷。

有研究學者開展研究，著眼於人工智能在招聘和僱用中的使用，這一領域已經廣泛採用人工智能去自動篩選應聘者，並對求職者的視頻面試評分。 Source: Moment RF / Narisara Nami/Getty Images

人工智能（AI）革命已經開始，幾乎擴延到職業和個人生活的各個方面——包括招聘。

對於人工智能應用，雖然藝術工作者擔心版權受到侵犯或被替代，但企業和管理領域則越來越意識到，在供應鏈管理、客戶服務、產品開發和人力資源管理等各個方面提高效率的可能性。

很快，所有業務領域和操作都將面臨以某種形式採用人工智能的壓力。 然而，人工智能的本質及其處理和背後的數據，意味著人類偏見正在被嵌入到這項技術當中。

我們的研究著眼於人工智能在招聘和僱用中的使用，這一領域已廣泛採用人工智能去自動篩選應聘者，並對求職者的視頻面試評分。

在招聘過程中所使用的人工智能，保證通過消除人為偏見，從而加強客觀和效率。

但是，我們的研究表明，人工智能可以微妙地——有時甚至是明顯地——加劇偏見。 而人力資源專業人士的參與，可能會加大而非減輕這些影響。 這挑戰了我們的信念，即人類的監督可以遏制和調節人工智能。

放大人類偏見

雖然使用人工智能進行招聘的原因之一，是為了更為客觀一致; 但多項研究發現，實際上，這項技術很可能存在偏見，因為人工智能從用於訓練它的數據集中學習。

如果訓練數據存有缺陷，那麼人工智能也會有缺陷。

支援人工智能的演算法（由人類創造），可能會使數據中的偏見更嚴重，這些演算法設計中往往包含人類偏見。

在對22位人力資源專業人士的採訪中，我們發現兩種常見招聘偏見——「刻板印象偏見」和「與我相似的偏見」。

當決定受到對某些群體的刻板印象影響時，例如偏愛同性候選人，就會產生刻板印象偏見，從而導致性別不平等。

而在招聘人員青睞與他們有相似背景或興趣的候選人時，就有可能產生「和我相似」偏見。

這些偏見會嚴重影響招聘過程的公平。 它們被嵌入到歷史招聘數據中，然後用於訓練人工智能系統，就又會導致有偏見的人工智能。 

現在人工智能的應用，已經擴展到職業和個人生活。 Source: Getty / Getty Images

因此，如果過往招聘做法傾向於某些人口統計數據，人工智能將繼續這樣做。 減輕這些偏見具有挑戰性，因為演算法可以根據其他相關信息的隱藏數據，推斷出個人資訊。 例如，在男女服役時間不同的國家，人工智能可能根據其服役期推斷出性別。

這種偏見的持續存在，強調了仔細規劃和監督的必要性，以確保人類和人工智能所驅動的招聘過程公平。

人類能幫忙嗎？

除了人力資源專業人士，我們還採訪了17位人工智能開發人員。 我們想研究如何開發一種人工智能招聘系統，能夠減輕而不是加劇招聘偏見。

基於上述的採訪，我們開發了一個模型，其中人力資源專業人員和人工智能程式編制員會在檢查數據集和開發演算法時交換資訊，並質疑先入之見。

我們的研究結果顯示，實施這種模型存在困難，這源於人力資源專業人員和人工智能開發人員之間存有教育、專業和人口統計學差異。

這些差異妨礙了有效的溝通、合作，甚至是相互理解。 傳統上，人力資源專業人士接受的是人員管理和組織行為學方面的培訓，而人工智能開發人員則擅長數據科學和技術。

這些不同背景會令他們合作時，導致誤解和不一致，特別是在有的國家——資源有限、專業網路也不夠多樣化的國家——這個問題會更為明顯。

連接人力資源和人工智能

基於人工智能的招聘中的偏見問題，如果公司和人力資源行業想要解決，那麼需要作出一些改變。

首先，為人力資源專業人員提供以資訊系統開發和人工智能為重點的結構化培訓計劃，至關重要。 培訓內容應涵蓋了解人工智能的基本原理、識別人工智能系統中的偏見，以及減少這些偏見的策略。

其次，促進人力資源專業人員和人工智能開發人員之間更好的合作也很重要。 公司應該創建包括人力資源和人工智能專家在內的團隊。 這有助於彌合溝通差距，更好協調雙方的努力。

此外，開發與文化相關的數據集，對於減少人工智能系統中的偏見，也同樣重要。 人力資源專業人員和人工智能開發人員需共同努力，確保人工智能驅動的招聘程序所使用的數據多樣化，能代表不同人口群體。 這將有助於創造更公平的招聘方式。

最後，各國需要制定在招聘中使用人工智能的指導方針和道德標準，説明建立信任並確保公平。 各組織應在人工智能驅動的決策過程中，實行促進透明度和問責制的政策。

通過採取這些步驟，我們可以創建一個更加包容和公平的招聘系統，充份利用人力資源專業人員和人工智能開發人員的優勢。

本文作者

Melika Soleimani

梅西大學（Massey University）高級數據分析師

Ali Intezari

昆士蘭大學（The University of Queensland）管理學高級講師

David J Pauleen

梅西大學技術管理學教授

Jim Arrowsmith

梅西大學管理學院教授

聲明：

本文作者沒有為任何可能從本文獲益的公司或組織工作、諮詢、持有股份或接受資助，並已披露除其學術任命之外沒有其他任何相關隸屬關係。 

瀏覽更多最新時事資訊，請登上 SBS 廣東話 Facebook 專頁、MeWe 專頁、Twitter 專頁，或訂閱 Telegram 頻道。

隨住Facebook取消對新聞機構的部份支援，如果大家繼續想Facebook收聽同收看新聞及資訊，請Like SBS廣東話節目的主頁。

SBS 中文堅守《SBS 行為守則》及《SBS 編採指引》，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過 SBS Radio 1 收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過 SBS Audio App 手機應用程式收聽直播、節目重溫及其他語音內容。按此進一步了解 SBS 中文。