9月27日,由瑪娜數(shù)據(jù)基金會主辦的“促進(jìn)人工智能算法性別平等”報告發(fā)布會暨政策研討會在上海舉行,聯(lián)合國婦女署駐華辦公室高級項(xiàng)目官員馬雷軍、上海市浦東新區(qū)婦女聯(lián)合會副主席國云丹、瑪娜數(shù)據(jù)基金會秘書長張唯、瑪娜數(shù)據(jù)基金會課題組專家負(fù)責(zé)人周旅軍、專家況琨,以及小米集團(tuán) 科技 委員會技術(shù)向善議題召集人朱汐、信也集團(tuán)首席算法科學(xué)家王春平、Thought Works(中國)數(shù)據(jù)智能團(tuán)隊(duì)解決方案架構(gòu)師任添石等各界嘉賓出席了本次會議,共同探討如何促進(jìn)人工智能算法中的性別平等。

作為金融 科技 企業(yè)信也 科技 集團(tuán)的代表,也是在人工智能領(lǐng)域取得優(yōu)秀成就的女性從業(yè)者,王春平博士在會上闡述了其對于人工智能在研究、應(yīng)用中對于數(shù)據(jù)倫理、性別平等的觀點(diǎn)與建議。

人工智能時代加速,促進(jìn)性別平等即發(fā)展大前提

人工智能自1956年被提出以來,短短60余年的時間中,這項(xiàng)科學(xué)技術(shù)的飛速發(fā)展給人類 社會 帶來了不小的變化。人工智能算法是以數(shù)學(xué)方式或計(jì)算機(jī)代碼表達(dá)的意見,由算法模型和數(shù)據(jù)輸入決定著預(yù)測的后果。

隨著人工智能時代的加速到來,人類將生活在一個算法無所不在的世界,隨著算法決策開始介入并主導(dǎo)人類 社會 事務(wù),算法對人類的生活和未來都將產(chǎn)生不可估量的影響。基于此,由算法偏見可能帶來的倫理風(fēng)險也開始引起人們重視。單就性別角度而言,由于目前人工智能領(lǐng)域目前仍處于男性主導(dǎo)的狀況,使得人工智能算法在日常應(yīng)用中不自覺就容易出現(xiàn) “性別歧視“的爭議。

據(jù)當(dāng)日發(fā)布的《促進(jìn)人工智能算法性別平等》報告(后文簡稱《報告》)介紹,目前人工智能算法的諸多應(yīng)用場景中均存在一定的性別歧視現(xiàn)象。以人工智能開放平臺為例,一張“端著水果籃的男性”圖片被AI人臉識別平臺檢測為“女性”,單獨(dú)截出頭像卻能夠被檢測為“男性”。在就業(yè)場景中,2018年亞馬遜公司的自動招聘算法傾向于給關(guān)鍵詞含“女”字的簡歷打低分,降低了女性工作申請成功率,最后棄用了該招聘算法。

信也 科技 首席科學(xué)家王春平表示:“人工智能算法的基礎(chǔ)是數(shù)據(jù),但在實(shí)際生活中因?yàn)榉N種原因,沉淀下來的很多數(shù)據(jù)分布是有偏的,從而可能將 社會 中的一些偏見滲透進(jìn)算法中。作為人工智能算法的女性從業(yè)者,我認(rèn)為需要通過多種方式去消除這些偏見。”

消除偏見與歧視,數(shù)據(jù)算法從業(yè)者新課題

2019年,國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,提出了人工智能治理的框架和行動指南,明確提出要在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視。該委員會近日又發(fā)布了《新一代人工智能倫理規(guī)范》,第十三條特別強(qiáng)調(diào)避免偏見歧視,在數(shù)據(jù)采集和算法開發(fā)中,加強(qiáng)倫理審查,充分考慮差異化訴求,避免可能存在的數(shù)據(jù)與算法偏見,努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。

“算法中存在性別歧視問題,主要源于訓(xùn)練AI的數(shù)據(jù)集反映了人類 社會 存在的性別偏見,而算法工程師對這一問題缺乏意識,未將解決性別偏見納入開發(fā)需求,從而使得算法放大了性別歧視?！艾斈葦?shù)據(jù)基金會課題組專家況坤表示。

據(jù)《報告》中專題 社會 調(diào)研的數(shù)據(jù)顯示,58%的人工智能算法從業(yè)者不知道算法當(dāng)中存在的性別偏見問題,73%的從業(yè)者不知道存在專門針對女性的惡意算法。從業(yè)者對算法性別平等的意識及能力亟需提升。

王春平博士表示,“對于在人工智能算法中盡可能地促進(jìn)性別平等,我們認(rèn)為首先需要從研發(fā)者的意識與環(huán)境培養(yǎng)開始。比如在信也 科技 集團(tuán)內(nèi)部,我們有很多公司政策都在保證并促進(jìn)不同性別員工得到平等的機(jī)會。比如說我們會有比較完善針對人工智能領(lǐng)域或數(shù)字化應(yīng)用相關(guān)的培訓(xùn)課程,這些課程包含了業(yè)務(wù)場景、算法學(xué)習(xí)、工程化落地,會開放給所有職位的員工,并且會盡可能地幫助公司內(nèi)部對于人工智能算法有興趣的員工參與一些實(shí)驗(yàn)性的創(chuàng)新項(xiàng)目,為其提供平等的崗位機(jī)會。我們認(rèn)為保障女性員工獲得公平的職業(yè)機(jī)會,為算法開發(fā)團(tuán)隊(duì)營造沒有明顯兩性區(qū)分的環(huán)境,并有意識消除算法工程師們的性別偏見,對于人工智能算法在應(yīng)用中盡可能實(shí)現(xiàn)性別平等是有益的?！?/p>

商業(yè)與倫理的平衡,價值觀在前的人工智能算法未來

人工智能算法獨(dú)特的運(yùn)行邏輯導(dǎo)致人們 社會 生活的結(jié)構(gòu)性場景發(fā)生了重大變化,加劇了決策者與相對人之間的“數(shù)字鴻溝”,人工智能算法獨(dú)特的運(yùn)行邏輯正在深刻地改變著以往的生產(chǎn)方式和生活方式,并與人的行為形成了支配關(guān)系。這也表示,人們的行為可以借助于數(shù)據(jù)算法來預(yù)測甚至被改變。

對于企業(yè)來說,人工智能算法的準(zhǔn)確為商業(yè)行為的執(zhí)行提供了準(zhǔn)確的預(yù)判,但同時算法發(fā)展帶來的倫理問題、性別歧視問題同樣也是企業(yè)需要考慮的問題。

王春平博士認(rèn)為,目前為止,人工智能算法在應(yīng)用中反映的依然是相關(guān)性,在開發(fā)過程中考慮的因素與得到的決策結(jié)果之間,很大程度上只是相關(guān)。在很多應(yīng)用里,性別可能是被引入的一個帶有相關(guān)性的干擾項(xiàng),如何排除偏見,公平地看待不同的性別,但是又不會影響到最終的商業(yè)判斷準(zhǔn)確性,具有不小挑戰(zhàn)。目前這個問題已經(jīng)引起了重視,有很多從不同角度試圖解決這個問題的嘗試,比如基于因果推理理論,尋找與期望預(yù)測結(jié)果擁有直接因果關(guān)系的因素;通過創(chuàng)新性地構(gòu)造特征表征空間,抑制某些帶有偏見的因素,比如由于性別帶來差異。

“雖然很多時候,基于商業(yè)行為,我們很難判定部分情況下算法在偏好與偏見之間的界限,但是在算法的創(chuàng)新開發(fā)過程中,作為人工智能算法工程師如果擁有正確的價值觀,就能盡可能提前審視并察覺歧視偏見的存在,很好地利用對于算法的不斷更新去調(diào)整它帶來的問題,這是我們作為算法開發(fā)者的使命與責(zé)任,也是人工智能算法發(fā)展的重要前提?！?王春平如是說到。

信也 科技 作為國內(nèi)領(lǐng)先的金融 科技 企業(yè)之一,一直致力于推進(jìn) 科技 應(yīng)用與 社會 發(fā)展的互相融合與發(fā)展,尤其是在人工智能領(lǐng)域,信也 科技 通過在開發(fā)過程中納入 社會 性別多元化視角,盡己所能為促進(jìn)算法中的性別平等而努力。作為企業(yè),信也 科技 致力推動在內(nèi)部技術(shù)開發(fā)中的客觀認(rèn)識和理性反思,從而更好地促進(jìn) 科技 發(fā)展。未來,信也 科技 將繼續(xù)通過技術(shù)的不斷創(chuàng)新,以確立正確價值觀,助力促進(jìn)人工智能時代的性別平等。