該公司希望通過預(yù)測錯(cuò)誤的性別來避免冒犯用戶

Gmail 的Smart Compose是 Google 多年來最有趣的 AI 功能之一，它可以預(yù)測用戶將在電子郵件中寫什么并主動(dòng)為他們完成句子但與許多 AI 產(chǎn)品一樣，它的智能程度取決于它所訓(xùn)練的數(shù)據(jù)，并且容易出錯(cuò)這就是為什么谷歌阻止 Smart Compose 在電子郵件中建議基于性別的代詞，如他和她——谷歌擔(dān)心它會(huì)猜錯(cuò)性別

路透社報(bào)道稱，該限制是在該公司的一名研究科學(xué)家于今年 1 月發(fā)現(xiàn)該問題后引入的當(dāng) Gmail 建議一個(gè)后續(xù)問題你想見他嗎時(shí)，研究人員在消息中輸入了我下周要見一位投資者，這對投資者進(jìn)行了誤判

Gmail 產(chǎn)品經(jīng)理 Paul Lambert 告訴路透社，他的團(tuán)隊(duì)試圖通過多種方式解決這個(gè)問題，但沒有一個(gè)足夠可靠最后，Lambert 說，最簡單的解決方案就是將這些類型的回復(fù)一起刪除，谷歌表示這一變化影響不到 1% 的 Smart Compose 預(yù)測蘭伯特告訴路透社，在這種情況下保持謹(jǐn)慎是值得的，因?yàn)樾詣e是一件大事，容易出錯(cuò)

GMAIL 的性別偏見只是一個(gè)更大問題的小例子

這個(gè)小錯(cuò)誤是使用機(jī)器學(xué)習(xí)構(gòu)建的軟件如何反映和加強(qiáng)社會(huì)偏見的一個(gè)很好的例子與許多人工智能系統(tǒng)一樣，Smart Compose 通過研究過去的數(shù)據(jù)來學(xué)習(xí)，梳理舊電子郵件以找到它應(yīng)該建議的單詞和短語

在蘭伯特的例子中，Smart Compose 似乎從過去的數(shù)據(jù)中了解到，投資者更可能是男性而不是女性，因此錯(cuò)誤地預(yù)測了這一點(diǎn)也是如此。

這是一個(gè)相對較小的失誤，但表明一個(gè)更大的問題如果我們相信使用過去數(shù)據(jù)訓(xùn)練的算法做出的預(yù)測，那么我們很可能會(huì)重復(fù)過去的錯(cuò)誤在電子郵件中猜錯(cuò)性別并不會(huì)產(chǎn)生巨大的后果，但人工智能系統(tǒng)在醫(yī)療保健，就業(yè)和法院等領(lǐng)域做出決策呢就在上個(gè)月，有報(bào)道稱亞馬遜不得不放棄使用機(jī)器學(xué)習(xí)訓(xùn)練的內(nèi)部招聘工具，因?yàn)樗鼘ε院蜻x人有偏見人工智能偏見可能會(huì)讓你失去工作，或者更糟

對于谷歌來說，這個(gè)問題可能是巨大的該公司正在將算法判斷整合到其更多產(chǎn)品中，并在全球銷售機(jī)器學(xué)習(xí)工具如果其最明顯的人工智能功能之一就是犯了如此微不足道的錯(cuò)誤，那么消費(fèi)者為什么要信任該公司的其他服務(wù)呢

該公司顯然已經(jīng)看到了這些問題的到來在Smart Compose的幫助頁面中，它警告用戶它使用的 AI 模型也可以反映人類的認(rèn)知偏見意識到這一點(diǎn)是一個(gè)好的開始，圍繞如何處理它的對話正在進(jìn)行中 不過，在這種情況下，該公司并沒有修復(fù)太多問題——只是消除了系統(tǒng)出錯(cuò)的機(jī)會(huì)

其他方面，別克SmartPod智慧駕艙將擁有800公里純電續(xù)航里程，搭載業(yè)內(nèi)創(chuàng)新的電池管理系統(tǒng)，實(shí)現(xiàn)無線連接和智能無線充電功能，可根據(jù)當(dāng)前電量和出行計(jì)劃制定充電方案?？斐淠Ｊ较?，這款車30分鐘可增加300公里續(xù)航里程。