下載APP
AI作假高發領域整治刻不容緩 上市企業積極布局網絡信息安全業務流程
字體：
小
中
大
一方面，監督機構需盡早不斷完善人工智能技術研發及運用有關法律法規和質量標準體系，強化對高科技企業、網絡媒體等嚴格監管。另一方面，給予深層生成服務的公司要堅決落實網絡安全管理監督責任，不斷完善優化算法體制審批、高新科技倫理審查、反電信詐騙等管理方案，提升生成視頻的核查及管理，對智能對話、生成人聲伴奏、面部形成、沉浸式體驗車禍模擬情景等形成信息進行明顯標志，防止群眾搞混或錯認
本報訊記者許林艷
前不久，AI領域發展中的諸多亂相，引起了銷售市場高度關注，網絡信息安全再度立在鏡頭下，好幾家全產業鏈上市企業也關心愛護網絡信息安全有關合理布局狀況。
AI市場亂象高發
“AI孫燕姿”的人氣還未完全消退，“AI變臉”明星直播間便再次成為社交媒體上關注的焦點話題討論。打開直播房間，就能看到換臉楊冪、熱巴等女星在直播賣貨。這讓顧客在感慨科技創新的前提下，還對AI發展形勢以及相關安全性問題表示憂慮。
“現在大多數企業能直接給予相關明星的算法優化，質優價廉，在3萬元至4萬之間，選購以后就能直接仿冒大牌明星開展直播賣貨。如今AI市場發展亂相許多，到務必加強監管力度和整治的時刻。”一位不愿具名的業內人士對記者表示。
前不久就會有福州某高新科技公司法人孫先生10分鐘之內上當受騙430萬元事情發生。據統計，騙子公司先攻占了孫先生的好朋友手機微信，從而通過智能AI變臉和擬音設備對孫先生實施詐騙。
深度科技科學研究院張孝榮接受《證券日報》采訪時表示：“現階段的AI變臉和AI擬音牽涉到‘深度偽造’，是AI科技的衍化運用。這類運用一般根據使用‘生成式對抗網絡’的深度學習模型，將照片或視頻合成累加到源圖片或者視頻上，依靠神經網絡技術開展大樣本學習培訓，將自身的聲響、臉部情緒及形體動作拼湊生成虛報具體內容?！?/p>
張孝榮還強調，現階段也有一種新的發展趨向，即AI練習形成虛擬人物連接ChatGPT這種NLP大模型，再根據視頻語音精仿技術性，還原與真實事件交流的實際效果，如此一來，就會使線上“武松”和“內鬼”更為真假難分。
應對現階段AI市場的發展亂相，網絡信息安全整治已刻不容緩。風險投資人、杰出人工智能專家郭濤接受《證券日報》采訪時表示：“一方面，監督機構需盡早不斷完善人工智能技術研發及運用有關法律法規和質量標準體系，強化對高科技企業、網絡媒體等嚴格監管。另一方面，給予深層生成服務的公司要堅決落實網絡安全管理監督責任，不斷完善優化算法體制審批、高新科技倫理審查、反電信詐騙等管理方案，提升生成視頻的核查及管理，對智能對話、生成人聲伴奏、面部形成、沉浸式體驗車禍模擬情景等形成信息進行明顯標志，防止群眾搞混或錯認?！?/p>
網絡信息安全受重視
AI亂相所產生的網絡信息安全引發網友熱議，好幾家全產業鏈上市企業還在關心愛護有關市場布局狀況。
“AI領域發展中消極事情高發，本質上還是由于AIGC是新鮮事物，對AIGC的使用場景欠缺必須的監管方案和檢測方式。以AI詐騙為例子，假如各種運用在鑒別到傳送內容就是AI產生的情況下，可以對具體內容接受者進行深入提示，那樣犯罪嫌疑人執行詐騙難度將會大大增加。但目前還沒有相近嚴格監管規章，缺乏足夠的充足合理、低成本無損檢測技術?！鄙钚欧嚓P工作人員告知《證券日報》新聞記者，企業致力于網絡信息安全行業，在AI安全生產方面關鍵對焦三個情景：一是運用AI技術賦能檢測服務和經營業務流程，比如威脅檢測、數據分析、威脅情報、智能化系統安全運行等；二是運用AI全過程中數據安全與隱私維護難題，比如多方安全計算、聯邦學習等；三是AI實體模型本身安全問題，包含AI實體模型可擴展性、數據信息下毒進攻等。
永信至誠人員在接納《證券日報》采訪時表示，對于運用人工智能技術執行的新式網絡詐騙，永信至誠集團旗下“i春秋”知名品牌根據多年來的網絡信息安全一線實踐經驗，可面對不一樣用戶場景，根據場景式、高模擬仿真、可視化體感互動系統軟件提高用戶安全防范意識水準。以AI變臉行騙為例子，用戶可以通過“i春秋”的AI變臉感受系統軟件掌握AI變臉的基本原理及存有安全隱患，進而增強安全意識，降低AI變臉詐騙案的產生。
信安世紀也十分重視網絡信息安全，談起在這個方面合理布局狀況，信安世紀層面對《證券日報》記者說：“密碼技術在抵抗真實身份假冒、數據信息仿冒層面本身具有的優點，現階段信安世紀正積極將人工智能應用與密碼技術結合，以提供更加友善、安全系數高的使用體驗。”
方正證券表明，AI將產生網絡安全產業邏輯重要更改。從進攻側來說，大模型、GPT、生成式AI技術將大幅度降低黑客入侵準入門檻，明顯加重了總體威協趨勢，從而產生各種安全性硬件軟件需求以及市企安全性費用預算的提高；從管控側來說，在類ChatGPT的形成語言工具得到了廣泛的應用以后，管控側針對視頻的監督和核查將會成為頭等大事，網絡安全內容、網絡信息安全、總流量可視性等安全管理側需求量獲得大幅提升。
消費界所刊載信息，來源于網絡，傳播內容僅以學習參考使用，并不代表本站觀點。本文所涉及的信息、數據和分析均來自公開渠道，如有任何不實之處、涉及版權問題，我們會及時處理，舉報投訴郵箱：Jubao_404@163.com，
相關資訊
未經書面授權不得復制或建立鏡像，違者必究。
Copyright © 2012 -2023 CONSUMER TIMES. All Rights Reserved.
深圳市贏銷網絡科技有限公司版權所有
粵ICP備14076428號
粵公網安備 44030702005336號