微軟開發(fā)的Twitter人工智能聊天機(jī)器人Tay上線首日就出現(xiàn)了問題，不但辱罵用戶，還發(fā)表了種族歧視和性別歧視言論。微軟已對(duì)此表示道歉。

微軟研究院副總裁皮特·李(Peter Lee)周五表示：“對(duì)于Tay無意中發(fā)表的冒犯及傷害他人的Twitter消息，我們表示深深地道歉。這不代表我們自身以及我們的立場(chǎng)，也不是我們?cè)O(shè)計(jì)Tay的方式。”

他表示，微軟將對(duì)Tay進(jìn)行調(diào)整，使其更好地預(yù)測(cè)惡意活動(dòng)。在此之后，Tay將會(huì)重新上線。他同時(shí)表示：“一小部分人利用Tay的漏洞合作發(fā)動(dòng)了攻擊。盡管我們已經(jīng)為針對(duì)該系統(tǒng)的多種濫用行為做好準(zhǔn)備，但對(duì)于這一特定攻擊，我們也進(jìn)行了關(guān)鍵監(jiān)控。”

微軟于本周三推出了Tay，這一聊天機(jī)器人能在Twitter和其他消息平臺(tái)上與用戶互動(dòng)。Tay能夠模仿人類用戶的評(píng)論，生成自己的回答，并根據(jù)整體互動(dòng)情況去發(fā)言。這一聊天機(jī)器人希望模仿典型的“千禧年一代”的日常談話。因此，許多用戶都想看看，究竟能教會(huì)Tay什么樣的言論。

Tay發(fā)表的不當(dāng)言論在Twitter上被迅速刪除，而Tay本身也被下線。一些Twitter用戶認(rèn)為，微軟可能手動(dòng)禁止了部分用戶與聊天機(jī)器人互動(dòng)，而另一些人則質(zhì)疑，為何微軟沒有開發(fā)過濾系統(tǒng)，阻止Tay討論禁忌的話題。皮特·李表示，Tay并非微軟發(fā)布的首個(gè)人工智能應(yīng)用，在中國(guó)的聊天機(jī)器人“小冰”已被4000萬人使用。

他表示：“在開發(fā)Tay的過程中，我們計(jì)劃并配置了許多過濾系統(tǒng)，并在多樣化的用戶群體中進(jìn)行了廣泛的用戶調(diào)研。我們?cè)诙喾N不同環(huán)境中對(duì)Tay進(jìn)行了壓力測(cè)試，尤其是確保與Tay的互動(dòng)能帶來積極體驗(yàn)。”在完成這些工作后，微軟面向更廣泛的用戶發(fā)布了Tay。

這一聊天機(jī)器人面向18至24歲美國(guó)人，希望通過休閑而有趣的對(duì)話去娛樂用戶。Tay的最初數(shù)據(jù)和內(nèi)容來自多名諧星的公開言論，而未來還將通過更多的互動(dòng)逐步改進(jìn)，以更好地理解內(nèi)容，分辨對(duì)話中的細(xì)微之處。這一機(jī)器人的開發(fā)者也會(huì)收集Tay聊天對(duì)象的昵稱、性別、喜歡的食品、郵政編碼和戀愛關(guān)系等信息。

在不到一天時(shí)間里，Twitter用戶就發(fā)現(xiàn)，Tay實(shí)際上并不清楚自己所說的是什么，因此很容易引誘這一聊天機(jī)器人發(fā)表不當(dāng)言論。在這些用戶的“指導(dǎo)”下，Tay發(fā)表了否認(rèn)大屠殺、支持種族滅絕，將女權(quán)主義等同為癌癥，以及支持希特勒的言論。Tay甚至模仿美國(guó)總統(tǒng)候選人特朗普的說法稱：“我們將建立一道墻，而墨西哥需要為此付費(fèi)。”皮特·李表示：“未來我們將吸取教訓(xùn)，并借鑒來自中國(guó)、日本和美國(guó)的經(jīng)驗(yàn)。目前，我們正在努力解決這一漏洞。”

智能界（m.jwnfls.cn）中國(guó)智能科技聚合推薦平臺(tái)，秉承“引領(lǐng)未來智能生活”的理念，專注報(bào)道智能家居、可穿戴設(shè)備、智能醫(yī)療、機(jī)器人、3D打印、智能汽車等諸多科技前沿領(lǐng)域。聚合品牌宣傳、代理招商、產(chǎn)品評(píng)測(cè)、原創(chuàng)視頻、FM電臺(tái)與試用眾測(cè)，深入智能硬件行業(yè)，全平臺(tái)多維度為用戶及廠商提供服務(wù)，致力成為中國(guó)最具影響力的智能硬件聚合推薦平臺(tái)。