面對新技術(shù)“浪潮”,如何筑牢“安全堤”?
今年以來,數(shù)字中國建設(shè)峰會、中國網(wǎng)絡(luò)文明大會、2023年國家網(wǎng)絡(luò)安全宣傳周等重要活動接連在福建舉辦,這三場活動都與互聯(lián)網(wǎng)有關(guān),但聚焦的卻是截然不同的兩個關(guān)鍵詞。
互聯(lián)網(wǎng)是把“雙刃劍”,“發(fā)展”和“安全”正是它的一體兩面。隨著新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展,網(wǎng)絡(luò)安全領(lǐng)域面臨的風(fēng)險和挑戰(zhàn)日益突出。
例如,近年來越來越受輿論關(guān)注的“AI換臉術(shù)”,在今年的網(wǎng)絡(luò)安全博覽會上,“AI換臉”的“攻”和“防”亦備受關(guān)注。
只需一張目標(biāo)人物的照片,依托人工智能合成,站在攝像頭前的你就能在屏幕上“變成”他,還能通過網(wǎng)貸平臺的人臉認(rèn)證,眨眨眼、搖搖頭就把錢轉(zhuǎn)出去了。在美亞柏科展區(qū),工作人員演示了這一“騙術(shù)”。
對此,現(xiàn)場工作人員表示,目前,美亞柏科自主研發(fā)了深度偽造檢測鑒定平臺,可以進(jìn)行智能檢測和識別偽造的視頻,助力監(jiān)管部門提升內(nèi)容安全治理能力。
于今年4月在福州舉辦的數(shù)字中國建設(shè)峰會上聊“發(fā)展”時,AI稱得上是最熱的詞;在當(dāng)下正在舉辦的網(wǎng)絡(luò)安全宣傳周上談“安全”時,AI仍是最大的焦點(diǎn)。
“數(shù)據(jù)可以說是AI大模型最重要的一個要素,大家認(rèn)識不同,但是總的來說幾乎所有人都認(rèn)為數(shù)據(jù)的質(zhì)量對模型智能水平影響最高,差不多要超過60%?!痹诒本┲窃慈斯ぶ悄苎芯吭涸洪L、北京大學(xué)計算機(jī)學(xué)院教授黃鐵軍看來,大模型基于背后的數(shù)據(jù),所有的功能都源于數(shù)據(jù),這也意味著越來越高的風(fēng)險,“對于AI技術(shù),你給它‘喂’的數(shù)據(jù)出錯了,它就永遠(yuǎn)照這個錯誤的來辦,有的時候相互矛盾。”
粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長沈向洋談到“AI對社會的沖擊”時用了三個詞:不完美的數(shù)據(jù)源、一本正經(jīng)的“胡說八道”和更難被察覺的AI謠言。
搜索引擎和AI大模型都有搜集資料、解答疑問的功能,沈向洋形象地將搜索引擎形容為“責(zé)任有限公司”,而將AI大模型形容為“責(zé)任無限公司”。如此論斷的區(qū)別在于深層次學(xué)習(xí)。
“搜索引擎搜出來不好的東西,你知道它的出處在哪里,所以它責(zé)任有限,而AI大模型通過深層次的人工智能將內(nèi)容生成,我把它叫做‘責(zé)任無限公司’。”沈向洋說。
在一些專家看來,生成式人工智能,新型安全風(fēng)險正在顯現(xiàn),比如不良輿情、算法偏見、認(rèn)知錯誤、心理誤導(dǎo)、數(shù)據(jù)泄露等。
今年7月,我國出臺了全球首部針對生成式人工智能的專門立法——《生成式人工智能服務(wù)管理暫行辦法》,對數(shù)據(jù)合規(guī)提出明確要求。
中央宣傳部副部長、中央網(wǎng)信辦主任、國家網(wǎng)信辦主任莊榮文在會上表示,要創(chuàng)新數(shù)據(jù)治理,大力提升數(shù)據(jù)安全和個人信息保護(hù)水平,加大數(shù)據(jù)領(lǐng)域違法違規(guī)行為的打擊力度,保障個人信息安全。要強(qiáng)化規(guī)范引領(lǐng),加強(qiáng)新技術(shù)新應(yīng)用前瞻性研究,劃清安全紅線,有效規(guī)范引導(dǎo)新技術(shù)新應(yīng)用健康有序安全發(fā)展。
版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。
- 芝麻“上新”、小麥“升級”……中原糧倉真的“中”!
- 江淮江南華南等地仍有較強(qiáng)降水 弱冷空氣繼續(xù)影響北方地區(qū)
- 新聞1+1丨跨境電詐犯罪,如何跨境打擊?
- 首批268家!文化和旅游部公布經(jīng)營中國公民組團(tuán)赴俄羅斯免簽旅游業(yè)務(wù)旅行社名單
- 人工智能產(chǎn)業(yè)發(fā)展引關(guān)注 網(wǎng)絡(luò)安全博覽會深度探索其更多可能
- 亳州市譙城區(qū)稅務(wù)局:“E稅易辦” 貼心服務(wù)
- 宣城市宣州區(qū)扎實(shí)推進(jìn)長江流域重點(diǎn)水域禁漁工作
- 國臺辦新任發(fā)言人陳斌華亮相,普通話與閩南話親切開場
- 淮南市田家庵區(qū)多舉措穩(wěn)步推進(jìn)“放心家政”暖民心行動
- 國臺辦新任發(fā)言人陳斌華亮相