網信辦公安部約談11網企
督促防止「深度偽造」安全隱患
網信中國公眾號昨又發布消息稱，針對近期未履行安全評估程序的語音社交軟件和涉「深度偽造」技術的應用，國家互聯網信息辦公室和公安部依法約談映客、小米、快手、字節跳動、鯨准數服、雲賬戶、喜馬拉雅、阿里巴巴、網易雲音樂、騰訊、去演等11家企業，督促其切實履行企業信息內容安全主體責任。事實上，隨着人工智能技術的不斷發展，這項可以實現圖像、聲音、視頻的篡改、偽造和自動生成，產生高度逼真且難以甄別效果的「深度偽造」技術正快速發展，且已相當成熟，但令人擔憂的是，這項技術一旦被濫用，極有可能給個人及國家帶來安全隱患。
消息稱，上述11家企業被促按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規及政策要求，認真開展安全評估，完善風險防控機制和措施，並對安全評估中發現的安全隱患及時採取有效整改措施。
資料顯示，「深度偽造」是一種基於人工智能的人體圖像合成技術，它能「以假亂真」，不僅偽造裸照，還能實現換臉、模仿真人語言和動作，創造出不存在的人物及活動。「深度偽造」是英文「deep learning」（深度學習）和「fake」（偽造）的混合詞，即利用深度學習算法，實現音視頻的模擬和偽造。
事實上，深度偽造技術在教育、文創、客服、娛樂等諸多領域具有積極應用價值。比如，在教育方面，逼真的虛擬教師讓數字教學更具互動性和趣味性；在娛樂方面，合成的歷史人物演講視頻則可以再現歷史場景，讓觀眾更具代入感。
服務供應者應評估安全
不過，這項技術亦有令人擔心的一面。業內人士指出，這項技術一旦被濫用，將會給國家安全甚至世界秩序帶來新風險。因為不法分子借助深度偽造技術，可以散布虛假視頻，激化社會矛盾，煽動暴力和恐怖行動，還可以用於干擾競爭國家的情報機構。而在民眾個人人身安全方面，則會因為視頻換臉技術門檻降低，普通人亦容易學會而導致別有用心之人可以輕易綁架或盜用他人身份，甚至可以藉此實施違法犯罪、商業競爭、敲詐勒索、網絡攻擊等非法行為。
對此，消息稱，根據相關規定要求，出現具有輿論屬性或社會動員能力的信息服務上線，或信息服務增設相關功能；使用新技術新應用，使信息服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更；用戶規模顯著增加等情形，互聯網信息服務提供者應當自行開展安全評估，對評估結果負責，並向網信部門和公安機關提交報告。網信部門和公安機關根據對安全評估報告的書面審查情況，認為有必要的，應當依據各自職責對互聯網信息服務提供者開展現場檢查。消息指，下一步中國將加大巡查檢查力度，督促屬地互聯網企業嚴格遵守相關法律法規。
