<p>無論是噴子、種族主義、性別歧視、打醬油，還是普通的騷擾，互聯(lián)網(wǎng)都存在不良行為問題。加州理工學院和視頻游戲發(fā)行商動視出版公司的研究人員正在合作，將他們的專業(yè)知識結合起來，解決視頻游戲中的這種行為。</p> <p>&nbsp;</p> <p>由于這種有害行為使互聯(lián)網(wǎng)成為一個令人不快的地方，多年來有許多嘗試來確保人們在網(wǎng)上表現(xiàn)良好。在互聯(lián)網(wǎng)的早期，網(wǎng)站通常依賴于版主(志愿者或工作人員)，他們受過培訓，以保持討論和內(nèi)容的文明和適當。但隨著互聯(lián)網(wǎng)的持續(xù)發(fā)展，有害行為變得更加極端，版主顯然需要更好的工具。</p> <p>&nbsp;</p> <p>越來越多的網(wǎng)絡世界正朝著自動審核工具發(fā)展，這些工具可以在不需要人工干預的情況下識別辱罵性的詞語和行為?，F(xiàn)在，來自加州理工學院的兩名研究人員，一名是人工智能(AI)專家，另一名是政治科學家，正在與動視(Activision)合作進行一項為期兩年的研究項目，旨在創(chuàng)建一種可以檢測在線虐待行為的人工智能，并幫助公司的支持和審核團隊打擊這種行為。</p> <p>&nbsp;</p> <p>這項贊助研究協(xié)議包括布倫大學計算和數(shù)學科學教授阿尼瑪&middot;阿南德庫馬爾，她訓練人工智能駕駛無人機和研究冠狀病毒;政治和計算社會科學教授邁克爾&middot;阿爾瓦雷斯(Michael Alvarez)曾使用機器學習工具研究社交媒體中的政治趨勢;以及動視的數(shù)據(jù)工程師，他們將提供玩家粘性和游戲驅(qū)動數(shù)據(jù)的洞察。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯和阿南德庫馬爾已經(jīng)合作訓練人工智能來檢測社交媒體上的惡意言論。他們與《使命召喚》電子游戲團隊的合作項目將允許他們開發(fā)類似的技術，以潛在地應用于游戲領域。</p> <p>&nbsp;</p> <p>阿爾瓦雷斯說:&ldquo;在過去幾年里，我們與阿尼瑪&middot;阿南德庫馬爾的團隊的合作非常富有成效。&rdquo;&ldquo;關于如何使用大數(shù)據(jù)和深度學習來識別有害的對話和行為，我們已經(jīng)學到了很多。這個新方向，以及我們在動視的同事們，給了我們一個機會，將我們所學到的知識應用到一個新的重要領域&mdash;&mdash;游戲領域&mdash;&mdash;研究有毒行為。&rdquo;</p> <p>&nbsp;</p> <p>對于Anandkumar來說，這項研究將回答的重要問題是:&ldquo;我們?nèi)绾螌崿F(xiàn)透明的、對社會有益的、沒有偏見的人工智能?&rdquo;以及&ldquo;我們?nèi)绾未_保每個人都有一個安全的游戲環(huán)境?&rdquo;</p> <p>&nbsp;</p> <p>她補充說，與動視的合作不僅讓研究人員獲得了人們在在線游戲中如何互動的數(shù)據(jù)，還讓他們獲得了專業(yè)知識。</p> <p>&nbsp;</p> <p>&ldquo;我們想知道玩家是如何互動的。他們使用哪種語言?他們有什么樣的偏見?我們應該找什么?這需要領域?qū)I(yè)知識。&rdquo;</p> <p>&nbsp;</p> <p>動視的首席技術官邁克爾&middot;萬斯(Michael Vance)表示，該公司很高興能與加州理工學院合作。</p> <p>&nbsp;</p> <p>萬斯說:&ldquo;我們的團隊在打擊破壞性行為方面繼續(xù)取得巨大進展，我們也希望在未來的道路上走得更遠。&ldquo;這次合作將使我們能夠在現(xiàn)有工作的基礎上，探索這一領域的研究前沿。&rdquo;</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學態(tài)度觀點。</p> </blockquote>