Facebook周五表示，它關閉了數百個虛假賬戶，頁面和群組，這些賬戶，頁面和群組誤導了用戶，其中包括一些利用人工智能生成虛假個人資料圖片的用戶。研究該賬戶組的研究人員表示，這是他們第一次看到如此大規模使用AI生成的圖像，這引發了人們對社交網絡如何在2020年大選之前解決這個問題的擔憂。
(相關資料圖)
該公司還從其擁有的照片共享服務Instagram中刪除了虛假帳戶。它取消了來自和越南的610個Facebook帳戶，89個頁面，156個群組和72個Instagram帳戶。至少有5500萬個帳戶關注了至少一個頁面，這些追隨者中的大多數來自以外。
Facebook在博客中說：“我們一直在努力檢測并停止這種活動。”“我們不希望我們的服務被用來操縱人們。”
該公司表示，已刪除涉嫌參與外國和政府干預或“虛假行為協調”的賬戶，這意味著經營這些賬戶的人會誤導他人其身份和行為。
這些假賬針對公民以及越南語，西班牙語和中文的聽眾，通常“張貼模因和其他有關政治新聞和內容的內容，包括彈imp，保守派意識形態，政治候選人，選舉，貿易，家庭價值觀和宗教自由”，Facebook說。
據Facebook稱，許多虛假賬戶通過一家名為“ BL”的媒體，宣傳親的內容，“ BL”是“生命之美”的縮寫。事實檢查組織Snopes聲稱，BL與擁有《時代時報》的Epoch Media Group有關。根據Snopes的說法，大紀元時代的前雇員經營BL或為媒體服務。
《大紀元時報》(The Epoch Times)版的出版商史蒂芬·格雷戈里(Stephen Gregory)否認兩家公司之間存在關聯。他承認大紀元時代的前雇員在BL公司工作，但他說這并不能證明兩家公司之間有聯系。BL也是越南《大紀元時報》的出版物，但從2018年起，它不再列為大紀元媒體集團的一部分。
已經禁止Epoch Media Group刊登廣告的Facebook說，它也禁止了BL。該社交網絡表示，BL違反了其規則，包括禁止垃圾郵件和虛假陳述的規則。Facebook表示，盡管有人努力逃避偵查，但仍能夠將虛假帳戶活動與Epoch Media Group相關聯。
BL并未立即回應置評請求。時代傳媒集團指出了格雷戈里的觀點。
社交媒體分析公司Graphika和大西洋理事會的數字取證實驗室分析了虛假賬戶網絡，發現很多英語內容都是親的，或者是在攻擊的競爭對手。
這些賬戶使用偽造的個人資料圖片，并假裝是人加入“需要”和“”等組織。使用AI，這些偽造的帳戶包含了實際上并不存在的人的個人資料照片。
研究人員注意到個人資料照片中的細微細節表明它們是假的。例如，在某些照片中，眼鏡和耳環等配件并不對稱。某人脖子的尺寸可能有些變形，或者照片的背景看上去有些偏斜。
Graphika和大西洋理事會的報告說：“為了獲得其偽造的帳戶(主要是使人信服的面孔)，該行動成功生成如此多的合成圖片的難易程度令人擔憂”。
在其他情況下，偽造帳戶會使用在線圖片中的庫存圖片或魅力照片。
另一個虛假帳戶網絡源自佐治亞州。Facebook刪除了39個Facebook帳戶，344個頁面，13個群組和22個Instagram帳戶，這些帳戶共有45萬名關注者和成員。該網絡假裝為媒體，政黨和激進主義者，發布有關新聞，政治問題和政治批評的消息。
星期五早些時候，Twitter分享了來自沙特阿拉伯的5,929個帳戶的數據，該帳戶已被刪除以處理信息。
Twitter說：“這些帳戶代表了一個更大的網絡的核心部分，該網絡擁有超過88,000個帳戶，這些帳戶從事涉及廣泛主題的垃圾郵件行為。”“我們已永久停用所有這些帳戶。”
