科技前沿看點Facebook機器人與不良行為作斗爭

新時代高科技不計其數越來越發達,小伙伴們看過不少科技新聞吧,在我們生活中應該也用到很多這些高科技東西,有哪些小伙伴值的關注的呢,今天就跟大家分享一篇有關科技方面知識,希望大家會喜歡。

作為世界上最大的社交網絡,Facebook為超過26億的用戶提供了無休止的討論,娛樂,新聞,視頻和好時光。

惡意活動,僵尸攻擊,詐騙和仇恨言論也已經成熟。

為了與不良行為作斗爭,Facebook在社交網絡的模擬版本中部署了一系列機器人,以研究其行為并跟蹤其如何發展為反社會活動。

Facebook工程師借鑒了機器學習,人工智能,游戲理論和多智能體系統的原理,開發了程序Web-Enabled Simulation(WES),它是Facebook的高度逼真的大規模復制品。

他們希望糾正網上騷擾的爆炸性增長,尤其是在這個政治錯誤信息,騙子陰謀論和仇恨言論時代。

WES機器人經過訓練可以相互互動,發送消息,在帖子上發表評論并提出好友請求。他們無法與實際用戶互動。

Facebook研究首席科學家馬克·哈曼(Mark Harman)周四在博客上發布了WES工作的摘要,他解釋說:“ WES方法可以自動在模擬環境中探索復雜的場景。目前該項目僅處于研究階段,希望這一天能夠幫助我們改善我們的服務,并在潛在的可靠性或完整性問題影響到使用該平臺的真實人之前發現它們。”

可以在實驗系統中部署數百萬個具有不同目標的機器人。例如,有些人會試圖購買該網站上不允許的物品,例如槍支或。研究人員將跟蹤機器人在進行搜索,訪問頁面并復制人類可能采取的行動時所應用的模式。

然后,他們將評估各種對策,以查看哪些對策最有效地阻止甚至防止了不良行為。

Harmon將他們的方法與尋求創建更安全道路的方法的交通工程師進行了比較。例如,為了遏制超速駕駛者,城市規劃人員可以安裝更多停車標志。如果該措施不足,則可能會安裝路障。對于Facebook的行為,對策可能包括限制帖子評論的頻率或將事實檢查應用于可疑的陰謀帖子。

哈曼說:“我們將“減速帶”應用到我們的機器人可以執行的動作和觀察中,因此迅速探索了我們可以對產品進行的可能變化,以抑制有害行為而不損害正常行為。”

該項目處于研究階段。盡管研究人員表示,一旦他們確認補救性機器人行為會以足夠高的準確性和可靠性來模仿人類行為,就會對其進行修改,但尚未對實際的Facebook平臺進行任何更改。

WES被親切地稱為dub-dub。昵稱源自“ WW”(“ dub”而不是“ double-u”)發音的縮寫,其本身是“ WWW”或萬維網的截短版本。WES是萬維網的縮寫版本,因此,僅用兩個W來表示。

該實驗可能使人想起發生意外事件時Facebook放棄的一個最近項目。在2017年的一項嘗試教聊天機器人如何相互協商的實驗中,研究人員獨自留下了兩個聊天機器人以了解他們的談判將如何進行。但是當Facebook AI研究實驗室的研究人員返回時,他們被驚呆了,發現聊天機器人Alice和Bob脫離了腳本,實際上發明了一種新語言。

研究人員也許會銘記著名物理學家斯蒂芬·霍金(Stephen Hawking)的嚴厲警告,即AI自身“起飛并以越來越高的速度重新設計”并“可能預示著人類的終結”,突然終止了研究。實驗。

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時候聯系我們修改或刪除,多謝