Pymetrics是一件專注于向企業提供招聘服務的初創企業。最近，Pymetrics在Github上開源了企業使用的偏差檢測（bias detection）算法，稱為“Audio AI”。Audit AI用于降低存在于訓練數據集中的判別模式。這些判別模式會改進或影響機器學習算法在選取總體上的概率。

\\

現在，越來越多的工作任務借助于機器學習實現過程自動化。重要的是應確保這些算法不會產生可從中不當受益的偏差。Pymetrics一直致力于確保機器學習算法的公平性。

\\\

我們研究的總體目標，就是提出一種合理的考慮問題方式，使機器學習算法更公平。即便識別了訓練數據集中存在的偏差，使用該訓練集訓練的機器學習算法并不足以解決其中的判別問題。當前，越來越多的決策使用人工智能自動做出。人們需要理解并識別算法的公平或偏差程度，這是朝正確方向邁出的一步。

\\\

企業對多樣性的關注與日俱增。一些人擔心算法學習偏差的方式事實上可能會破壞這些多樣性努力。最近，法國宣布希望成為能在國際舞臺占有一席之地的人工智能強國。今年三月，法國總統Emmanuel Macron發布了人工智能國家戰略，其中包括在未來五年內支出18.5億美元，發展可與硅谷和中國競爭的生態系統?？偨y做出如此層次的AI投資，這無疑是經過了仔細的考慮：

\\\

我認為AI完全可能危及民主。例如，我們正在使用人工智能來組織學生訪問大學，對算法委以重任。很多人認為算法是一個黑箱，他們并不明白選取學生的過程是如何發生的。但當他們開始明白這依賴于某種算法時，算法就具有了特定的責任。要避免爭議的發生，必須為算法創造公平性和完全透明性的條件。這樣的算法中并不存在偏見，至少不存在歧視性偏見，我對此充滿信心。

\\\

對于法國而言，“公平”的算法可確保在性別、年齡及其它個體特征上不存在偏見。如果算法中并未建立公平性和透明度，那么Macron總統預計“人們最終會拒絕這種創新”。

\\

Pymetrics的客戶包括消費品企業、技術企業和研究企業。Pymetrics提供的部分產品是為應聘候選者給出了一套參與性游戲。這些游戲通常完成于招聘的前期過程，完全不考慮應聘者的種族、性別和教育水平等個體特征，而是基于應聘者的記憶、對風險的態度等近80個特征做出評估。之后，Pymetrics就能夠針對已有的最佳表現者對應聘者做出評定，預測應聘者在應聘職位上可能的未來表現。

\\

出于社會責任上的考慮，Pymetrics選擇開源Audit AI。Pymetrics的產品負責人Priyanka Jain給出了解釋：

\\\

作為技術的創造者，我們十分強烈地感受到，我們的責任就是構建人工智能，努力創造一個人人希望生活于其中的未來。如果我們可以為其他技術創造者繼續構建特性提供幫助，那么我們責無旁貸應做出共享。

\\\

在Audit AI的Github代碼庫中，開發人員可以看到一個用于實現上述“公平”的機器學習算法的Python軟件庫，該軟件庫是基于pandas和sklearn構建的。此外，代碼庫還給出了兩個示例數據集，場景分別涉及德國的學分和學生的成績。

\\

查看英文原文：?Pymetrics Open-Sources Fairness-Aware Machine Learning Algorithms

總結

以上是生活随笔為你收集整理的Pymetrics开源公平性感知机器学习算法Audit AI的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。