亞馬遜的機器學習部門關閉了過去三年一直在從事的人工智能(AI)項目。機器學習部門的一個團隊一直在構建計算機程序，這些程序旨在審查求職者的簡歷，使他們的評分從1到5，這與購物者對從亞馬遜在線購買的產品的評價方式不同。

但是，在項目開始的一年之內，該公司意識到其系統(tǒng)偏向女性申請人。

該軟件經(jīng)過培訓，目的是通過觀察十年來提交給公司的簡歷中的模式來審查申請人，其中大多數(shù)(由于高科技行業(yè)的男性主導地位)來自男性。因此，該系統(tǒng)告訴自己，男性候選人更可取，從而對包含“婦女”一詞的簡歷進行了懲罰，并降低了所有女性大學的畢業(yè)生的評級。通過使用固有偏差的數(shù)據(jù)進行訓練，從某種意義上講，機器學習出了厭女癥。

近三年來，人們對AI的興趣一直在增長，尤其是在醫(yī)療保健領域。從疾病的診斷，以一天到一天的醫(yī)院管理，人工智能的發(fā)展具有醫(yī)療保健的各個方面幾乎變換電源。

AI可以為臨床醫(yī)生提供所有數(shù)據(jù)的綜合視圖，以查看在哪里最好地部署其產品，并在成像領域蓬勃發(fā)展，在AI領域它可以處理X射線和掃描產生的信息，其速度和準確性越來越超出人類。該技術甚至已被用于教導開源假肢根據(jù)穿戴者的動作進行樞轉和移動，并通過新的用戶數(shù)據(jù)在每一個轉彎處進行改進。

有關患者數(shù)據(jù)的隱私性以及在技術中納入疏忽歧視的風險的問題，使許多行業(yè)專家開始關注機器學習的倫理意義?？雌饋恚M管該行業(yè)渴望看到一些有關醫(yī)學中機器學習道德的官方監(jiān)管準則，但很少有利益相關者確定這些形式應該采取什么形式。

面對商業(yè)壓力時人工智能的道德規(guī)范

在歐洲創(chuàng)新技術研究院(EIT)的健康部門進行的一項調查中，有59%的醫(yī)療保健機器學習初創(chuàng)企業(yè)期望他們正在開發(fā)的AI技術需要獲得監(jiān)管部門的批準，但只有22%的人可以提出建議應該由道德和人工智能準則來解決。

對他們而言，幸運的是，由52個獨立專家組成的歐洲委員會AI高級專家組(AI HLEG)發(fā)布了可信賴人工智能的道德準則。

這些指南列出了AI系統(tǒng)應符合道德標準的關鍵要求。像Google，IBM和Microsoft這樣的大型科技公司也發(fā)布了自己的道德AI原則-當許多醫(yī)療公司正在使用這些組織的開放式AI解決方案來運行自己的項目時尤其方便。

但就目前情況而言，目前幾乎沒有官方的AI法規(guī)，甚至政府也被警告不要試圖對技術進行過于嚴格的監(jiān)管。而且，當AI受到更多的指導而不是實際規(guī)則的約束時，很難說這些新技術的開發(fā)者是否會認真對待道德問題。

EIT Health首席執(zhí)行官簡·菲利普·貝克(Jan-Philipp Beck)說：“如果您面臨業(yè)務壓力，并且需要確保您令投資者滿意，那么您是否真的會全力以赴，確保對自己的算法進行實際的代表培訓?”