<p>無(wú)論是噴子、種族主義、性別歧視、打醬油，還是普通的騷擾，互聯(lián)網(wǎng)都存在不良行為問(wèn)題。加州理工學(xué)院和視頻游戲發(fā)行商動(dòng)視出版公司的研究人員正在合作，將他們的專(zhuān)業(yè)知識(shí)結(jié)合起來(lái)，解決視頻游戲中的這種行為。</p> <p>&nbsp;</p> <p>由于這種有害行為使互聯(lián)網(wǎng)成為一個(gè)令人不快的地方，多年來(lái)有許多嘗試來(lái)確保人們?cè)诰W(wǎng)上表現(xiàn)良好。在互聯(lián)網(wǎng)的早期，網(wǎng)站通常依賴(lài)于版主(志愿者或工作人員)，他們受過(guò)培訓(xùn)，以保持討論和內(nèi)容的文明和適當(dāng)。但隨著互聯(lián)網(wǎng)的持續(xù)發(fā)展，有害行為變得更加極端，版主顯然需要更好的工具。</p> <p>&nbsp;</p> <p>越來(lái)越多的網(wǎng)絡(luò)世界正朝著自動(dòng)審核工具發(fā)展，這些工具可以在不需要人工干預(yù)的情況下識(shí)別辱罵性的詞語(yǔ)和行為?，F(xiàn)在，來(lái)自加州理工學(xué)院的兩名研究人員，一名是人工智能(AI)專(zhuān)家，另一名是政治科學(xué)家，正在與動(dòng)視(Activision)合作進(jìn)行一項(xiàng)為期兩年的研究項(xiàng)目，旨在創(chuàng)建一種可以檢測(cè)在線虐待行為的人工智能，并幫助公司的支持和審核團(tuán)隊(duì)打擊這種行為。</p> <p>&nbsp;</p> <p>這項(xiàng)贊助研究協(xié)議包括布倫大學(xué)計(jì)算和數(shù)學(xué)科學(xué)教授阿尼瑪&middot;阿南德庫(kù)馬爾，她訓(xùn)練人工智能駕駛無(wú)人機(jī)和研究冠狀病毒;政治和計(jì)算社會(huì)科學(xué)教授邁克爾&middot;阿爾瓦雷斯(Michael Alvarez)曾使用機(jī)器學(xué)習(xí)工具研究社交媒體中的政治趨勢(shì);以及動(dòng)視的數(shù)據(jù)工程師，他們將提供玩家粘性和游戲驅(qū)動(dòng)數(shù)據(jù)的洞察。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯和阿南德庫(kù)馬爾已經(jīng)合作訓(xùn)練人工智能來(lái)檢測(cè)社交媒體上的惡意言論。他們與《使命召喚》電子游戲團(tuán)隊(duì)的合作項(xiàng)目將允許他們開(kāi)發(fā)類(lèi)似的技術(shù)，以潛在地應(yīng)用于游戲領(lǐng)域。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯說(shuō):&ldquo;在過(guò)去幾年里，我們與阿尼瑪&middot;阿南德庫(kù)馬爾的團(tuán)隊(duì)的合作非常富有成效。&rdquo;&ldquo;關(guān)于如何使用大數(shù)據(jù)和深度學(xué)習(xí)來(lái)識(shí)別有害的對(duì)話和行為，我們已經(jīng)學(xué)到了很多。這個(gè)新方向，以及我們?cè)趧?dòng)視的同事們，給了我們一個(gè)機(jī)會(huì)，將我們所學(xué)到的知識(shí)應(yīng)用到一個(gè)新的重要領(lǐng)域&mdash;&mdash;游戲領(lǐng)域&mdash;&mdash;研究有毒行為。&rdquo;</p> <p>&nbsp;</p> <p>對(duì)于Anandkumar來(lái)說(shuō)，這項(xiàng)研究將回答的重要問(wèn)題是:&ldquo;我們?nèi)绾螌?shí)現(xiàn)透明的、對(duì)社會(huì)有益的、沒(méi)有偏見(jiàn)的人工智能?&rdquo;以及&ldquo;我們?nèi)绾未_保每個(gè)人都有一個(gè)安全的游戲環(huán)境?&rdquo;</p> <p>&nbsp;</p> <p>她補(bǔ)充說(shuō)，與動(dòng)視的合作不僅讓研究人員獲得了人們?cè)谠诰€游戲中如何互動(dòng)的數(shù)據(jù)，還讓他們獲得了專(zhuān)業(yè)知識(shí)。</p> <p>&nbsp;</p> <p>&ldquo;我們想知道玩家是如何互動(dòng)的。他們使用哪種語(yǔ)言?他們有什么樣的偏見(jiàn)?我們應(yīng)該找什么?這需要領(lǐng)域?qū)I(yè)知識(shí)。&rdquo;</p> <p>&nbsp;</p> <p>動(dòng)視的首席技術(shù)官邁克爾&middot;萬(wàn)斯(Michael Vance)表示，該公司很高興能與加州理工學(xué)院合作。</p> <p>&nbsp;</p> <p>萬(wàn)斯說(shuō):&ldquo;我們的團(tuán)隊(duì)在打擊破壞性行為方面繼續(xù)取得巨大進(jìn)展，我們也希望在未來(lái)的道路上走得更遠(yuǎn)。&ldquo;這次合作將使我們能夠在現(xiàn)有工作的基礎(chǔ)上，探索這一領(lǐng)域的研究前沿。&rdquo;</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>