自1956年，人工智能的概念被提出之后，經(jīng)歷了跌宕起伏的62年。隨著大數(shù)據(jù)、深度學(xué)習(xí)、算法等技術(shù)的快速發(fā)展、人工智能也開始呈現(xiàn)井噴式的發(fā)展。
如今，人工智能日益滲透到人們的日常生活中：幫助人們提高工作效率、提高生活品質(zhì)，人們滿懷歡喜地感受著科技的巨大變革力。
不過，我們?nèi)绻痛藢⑷斯ぶ悄芤暈榕c生俱來的優(yōu)秀，當(dāng)然有失偏頗。事實(shí)上，人工智能涉及到的道德、安全和包容性應(yīng)用所需要的重要研究和開發(fā)同樣不可忽視。因?yàn)樵愀獾臄?shù)據(jù)、令人費(fèi)解的代碼或匆忙的部署常常導(dǎo)致人工智能系統(tǒng)陷入棘手的爭論。
例如，自動(dòng)化決策系統(tǒng)也會(huì)帶有偏見。一項(xiàng)來自非營利組織ProPublica的調(diào)查顯示，用于評估美國犯罪風(fēng)險(xiǎn)得分的COMPAS程序本身就對非裔美國人存有偏見。
通過對7000多名犯罪人的追蹤，ProPublica發(fā)現(xiàn)，由Northpointe公司開發(fā)的犯罪風(fēng)險(xiǎn)評估算法COMPAS系統(tǒng)性地歧視黑人，白人更多被錯(cuò)誤地評估為具有低犯罪風(fēng)險(xiǎn)，而黑人被錯(cuò)誤地評估為具有高犯罪風(fēng)險(xiǎn)的幾率兩倍于白人。
這無疑揭示了一個(gè)重要的現(xiàn)實(shí)：首先，人工智能的影響是非常真實(shí)的，并影響到真實(shí)的生活和家庭。其次，這是現(xiàn)在正在發(fā)生著的事情——它們并非是遙不可及的未來可能發(fā)生的情景。
影響評估
盡管存在這些風(fēng)險(xiǎn)，世界各國對人工智能的興趣并未降低。
在加拿大，人工智能已被置于國家戰(zhàn)略層面。在過去的一年里，聯(lián)邦政府對人工智能研究的投入更是引人注目。2017年的預(yù)算中包括將由加拿大高等研究所（CIFAR）管理的高達(dá)1.25億加元投資的“泛加拿大人工智能策略”，用于開展人工智能領(lǐng)域的研究和實(shí)施人才戰(zhàn)略。
今年2月，一項(xiàng)基于魁北克的人工智能和供應(yīng)鏈研究提案，與其余四個(gè)項(xiàng)目組共同分享了9.5億美元的聯(lián)邦“超級集群基金”�？〉倪@一提案側(cè)重于定義全球AI平臺(tái)，該平臺(tái)將促進(jìn)加拿大的人工智能和數(shù)據(jù)科學(xué)的發(fā)展，特別是針對零售、制造和基礎(chǔ)設(shè)施三大領(lǐng)域。
如此慷慨的支持，讓加拿大在人工智能領(lǐng)域快速崛起。加拿大的學(xué)界、業(yè)界、政府、以及個(gè)人企業(yè)家正合力在多倫多—滑鐵盧、蒙特利爾和埃德蒙頓等城市建立超級人工智能中心（AI Superclusters ）。
然而人工智能研究的迅速發(fā)展，免不了帶來與其相連的社會(huì)責(zé)任問題。如果不與那些在新技術(shù)的社會(huì)、文化和政治后果方面具有專長的部門進(jìn)行適當(dāng)?shù)亟佑|，那么這些舉措很可能會(huì)擴(kuò)大技術(shù)公司與公眾利益之間的差距，并使研究脫離批判性反思。
幸運(yùn)的是，人工智能的社會(huì)影響開始出現(xiàn)在加拿大聯(lián)邦政府的“雷達(dá)”上。
目前，加拿大財(cái)政委員會(huì)秘書處（TBS）正在就政府負(fù)責(zé)任使用人工智能進(jìn)行第一輪公眾咨詢。與此同時(shí)，TBS與人工智能社區(qū)緊密合作，通過開放的在線咨詢，讓人們得以就后續(xù)的指導(dǎo)方針進(jìn)行合作。
與此同時(shí)，加拿大全球事務(wù)（GAC）正在領(lǐng)導(dǎo)一項(xiàng)關(guān)于人工智能和人權(quán)的多校合作。例如，在康考迪亞大學(xué)的Fenwick McKelvey的媒體政策研討會(huì)上，研究生們正在對人工智能之于人權(quán)的政策影響進(jìn)行廣泛的調(diào)查研究。
該媒體政策研討會(huì)旨在將圍繞人工智能的爭論與傳播和文化研究領(lǐng)域的專業(yè)知識(shí)聯(lián)系起來，其長期以來一直對媒體和技術(shù)的文化、社會(huì)和政治層面提出質(zhì)疑。McKelvey的研究通過探索算法和人工智能對互聯(lián)網(wǎng)治理和寬帶性能的影響，與這些具體舉措聯(lián)系起來。
此外，加拿大麥吉爾大學(xué)人工智能領(lǐng)域的道德問題研究人員Abhishek Gupta正在評估人工智能支持的自動(dòng)化在金融服務(wù)業(yè)的影響，以及如何調(diào)整大學(xué)課程以更好地培訓(xùn)從業(yè)人員以滿足不斷變化的工作需求。
作為“蒙特利爾人工智能道德聚會(huì)”的發(fā)起人，Gupta注意到，谷歌、微軟、Facebook 、加拿大皇家銀行等巨頭都宣布在蒙特利爾注資，開發(fā)人工智能實(shí)驗(yàn)室，這推動(dòng)了蒙特利爾在人工智能研究上不斷向前，與此同時(shí)人工智能研究的快速發(fā)展，不可避免會(huì)帶來與其相連的社會(huì)責(zé)任問題。
因此，Gupta和其他一些研究人員都希望，蒙特利爾不僅在 AI研究上要走在前面，而且還應(yīng)該顧及到社會(huì)責(zé)任。
2017年11月，Gupta和蒙特利爾大學(xué)的研究人員協(xié)助撰寫了《人工智能負(fù)責(zé)任發(fā)展蒙特利爾宣言》。該宣言為人工智能將如何尊重幸福、自主、正義、隱私、知識(shí)、民主和自身責(zé)任發(fā)展提供了明確的原則。
作為一種數(shù)據(jù)策略的AI
事實(shí)上，人工智能戰(zhàn)略不必在孤立的狀態(tài)下發(fā)展。
針對人工智能的全國性方法應(yīng)該從慈善和非營利性部門圍繞數(shù)據(jù)正在進(jìn)行的新興討論中吸取經(jīng)驗(yàn)。蒙特利爾的數(shù)據(jù)支持有助于就慈善組織和非營利組織如何成為更多的數(shù)據(jù)驅(qū)動(dòng)領(lǐng)域進(jìn)行重要對話，并為數(shù)據(jù)的包容性和道德使用提供典范。
數(shù)據(jù)只是該行業(yè)將數(shù)字創(chuàng)新融入運(yùn)營和開發(fā)數(shù)字戰(zhàn)略以助于鎖定任務(wù)的方式之一。
這一轉(zhuǎn)變，部分地需要根據(jù)數(shù)字自動(dòng)化重新評估不平等和歧視問題。作為一個(gè)創(chuàng)新和創(chuàng)業(yè)政策研究所，布魯克菲爾德研究所已經(jīng)研究了自動(dòng)化對勞動(dòng)力市場的潛在利益和威脅。他們的評估表明，這些影響并不會(huì)在加拿大各地平均分布，有些社區(qū)的工作機(jī)會(huì)更容易受影響而隨之減少。
但這些舉措在其他地方缺乏干預(yù)的規(guī)模和范圍。
在美國，福特基金會(huì)和麥克阿瑟基金會(huì)資助了紐約大學(xué)的AI Now 研究所。該所已經(jīng)發(fā)布了兩份關(guān)于人工智能治理的重要報(bào)告，引發(fā)了一場關(guān)于應(yīng)如何開發(fā)和使用人工智能的國際辯論，并證明了這些部門可以發(fā)揮重要作用。
“大量的資金和精力都被投入到研究加速人工智能的代碼中，這意味著，沒有太多的精力去思考這些系統(tǒng)里社會(huì)、經(jīng)濟(jì)和道德框架，”微軟研究院的首席研究員Kate Crawford表示，“我們認(rèn)為，這些是迫切需要盡快地實(shí)現(xiàn)的。”
AI Now的成功表明，慈善和非營利性部門可以為人工智能的發(fā)展和應(yīng)用提供信息。通過建立一個(gè)有長期舉措的機(jī)構(gòu)或委員會(huì)，這些部門可以確保制定一種人工智能戰(zhàn)略，并與有關(guān)不穩(wěn)定的勞動(dòng)力、數(shù)據(jù)歧視和和解等的重要討論相聯(lián)系。
加拿大如何領(lǐng)先
在新一輪的人工智能浪潮中，世界各國紛紛摩拳擦掌，在技術(shù)開發(fā)方面使出了“洪荒之力”。
而對于加拿大來說，只能有一個(gè)選擇。要么包含成為一個(gè)負(fù)責(zé)任人工智能領(lǐng)導(dǎo)者的潛力，要么冒著讓道德、公平和正義缺席的競爭合法化的風(fēng)險(xiǎn)。
就研究人員而言，如何將《加拿大權(quán)利與自由憲章》與人工智能研究和開發(fā)相關(guān)聯(lián)，以更好地指導(dǎo)科學(xué)研究則是首先要做的。只有這樣，加拿大才得以為研究議程建立一個(gè)公正、公平和穩(wěn)定的基礎(chǔ)，從而將新技術(shù)置于長期存在的社會(huì)機(jī)制中。
當(dāng)然，加拿大還需要一個(gè)更協(xié)調(diào)、更具包容性的國家方面的努力——優(yōu)先處理其他邊緣化的聲音。這些與之相關(guān)的磋商將是把加拿大定位為該領(lǐng)域“燈塔”的關(guān)鍵。
如果沒有這些措施，加拿大可能會(huì)落后。因?yàn)槭澜绺鲊家呀?jīng)開始行動(dòng)。歐洲已經(jīng)在起草重要的數(shù)據(jù)保護(hù)新方案；紐約市也成立了一個(gè)特別工作組，成為自動(dòng)化決策管理的全球領(lǐng)導(dǎo)者。專家們希望通過這些努力可以與城市機(jī)構(gòu)、科學(xué)界和人文界的學(xué)者以及社區(qū)團(tuán)體進(jìn)行積極的咨詢，并且要對算法的影響評估充分考慮。
其他國家的這些措施或許能為加拿大制定自己的治理戰(zhàn)略提供有益的背景，同時(shí)也能解決將本國文化納入戰(zhàn)略之中的問題�！�