面對新技術“浪潮”,如何筑牢“安全堤”?
今年以來,數(shù)字中國建設峰會、中國網絡文明大會、2023年國家網絡安全宣傳周等重要活動接連在福建舉辦,這三場活動都與互聯(lián)網有關,但聚焦的卻是截然不同的兩個關鍵詞。
互聯(lián)網是把“雙刃劍”,“發(fā)展”和“安全”正是它的一體兩面。隨著新一輪科技革命和產業(yè)變革深入發(fā)展,網絡安全領域面臨的風險和挑戰(zhàn)日益突出。
例如,近年來越來越受輿論關注的“AI換臉術”,在今年的網絡安全博覽會上,“AI換臉”的“攻”和“防”亦備受關注。
只需一張目標人物的照片,依托人工智能合成,站在攝像頭前的你就能在屏幕上“變成”他,還能通過網貸平臺的人臉認證,眨眨眼、搖搖頭就把錢轉出去了。在美亞柏科展區(qū),工作人員演示了這一“騙術”。
對此,現(xiàn)場工作人員表示,目前,美亞柏科自主研發(fā)了深度偽造檢測鑒定平臺,可以進行智能檢測和識別偽造的視頻,助力監(jiān)管部門提升內容安全治理能力。
于今年4月在福州舉辦的數(shù)字中國建設峰會上聊“發(fā)展”時,AI稱得上是最熱的詞;在當下正在舉辦的網絡安全宣傳周上談“安全”時,AI仍是最大的焦點。
“數(shù)據(jù)可以說是AI大模型最重要的一個要素,大家認識不同,但是總的來說幾乎所有人都認為數(shù)據(jù)的質量對模型智能水平影響最高,差不多要超過60%?!痹诒本┲窃慈斯ぶ悄苎芯吭涸洪L、北京大學計算機學院教授黃鐵軍看來,大模型基于背后的數(shù)據(jù),所有的功能都源于數(shù)據(jù),這也意味著越來越高的風險,“對于AI技術,你給它‘喂’的數(shù)據(jù)出錯了,它就永遠照這個錯誤的來辦,有的時候相互矛盾。”
粵港澳大灣區(qū)數(shù)字經濟研究院創(chuàng)院理事長沈向洋談到“AI對社會的沖擊”時用了三個詞:不完美的數(shù)據(jù)源、一本正經的“胡說八道”和更難被察覺的AI謠言。
搜索引擎和AI大模型都有搜集資料、解答疑問的功能,沈向洋形象地將搜索引擎形容為“責任有限公司”,而將AI大模型形容為“責任無限公司”。如此論斷的區(qū)別在于深層次學習。
“搜索引擎搜出來不好的東西,你知道它的出處在哪里,所以它責任有限,而AI大模型通過深層次的人工智能將內容生成,我把它叫做‘責任無限公司’?!鄙蛳蜓笳f。
在一些專家看來,生成式人工智能,新型安全風險正在顯現(xiàn),比如不良輿情、算法偏見、認知錯誤、心理誤導、數(shù)據(jù)泄露等。
今年7月,我國出臺了全球首部針對生成式人工智能的專門立法——《生成式人工智能服務管理暫行辦法》,對數(shù)據(jù)合規(guī)提出明確要求。
中央宣傳部副部長、中央網信辦主任、國家網信辦主任莊榮文在會上表示,要創(chuàng)新數(shù)據(jù)治理,大力提升數(shù)據(jù)安全和個人信息保護水平,加大數(shù)據(jù)領域違法違規(guī)行為的打擊力度,保障個人信息安全。要強化規(guī)范引領,加強新技術新應用前瞻性研究,劃清安全紅線,有效規(guī)范引導新技術新應用健康有序安全發(fā)展。(人民網)
版權聲明:凡注明“來源:中國西藏網”或“中國西藏網文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網和署著作者名,否則將追究相關法律責任。
- 芝麻“上新”、小麥“升級”……中原糧倉真的“中”!
- 連續(xù)三個月上升!中小企業(yè)發(fā)展指數(shù)為何持續(xù)走高?
- 主動擁抱新技術 傳統(tǒng)商場加快數(shù)字化轉型
- 國臺辦談兩岸關系:沒有一個冬天不可逾越,沒有一個春天不會來臨
- 國臺辦:上半年臺胞來大陸人次較去年同期增長7倍
- 林毅夫:有為政府應給先行企業(yè)家提供激勵補償、基礎設施和各種制度
- 中消協(xié)等倡議:住宿餐飲經營者不得相互串通,操縱市場價格
- 三部門聯(lián)合推進郵政快遞隱私運單應用
- 杭州亞運會火炬今日在舟山傳遞 路線全長約10.9公里
- 我國已經成為世界最大船東國 港口吞吐量連續(xù)多年位居世界第一