人民網(wǎng)輿情數(shù)據(jù)中心主任輿情分析師 廖燦亮

近日，網(wǎng)絡(luò)上一張“課堂行為分析”的圖片引發(fā)網(wǎng)民疑慮和警惕。據(jù)媒體報道，南京一高校在部分試點教室安裝了人臉識別系統(tǒng)，用于日?？记诤驼n堂紀(jì)律管理。學(xué)生是否出勤、是否認(rèn)真聽講、課堂上是否抬頭低頭、是否閉眼打瞌睡等行為，均能被智能識別。一些網(wǎng)民認(rèn)為，它侵犯了學(xué)生的隱私權(quán)，是一種濫用技術(shù)的行為。對此，涉事高?；貞?yīng)稱，該系統(tǒng)在校園只是“試點”“規(guī)劃”，且教室屬于公開場所，不存在“侵犯隱私”。教育部科學(xué)技術(shù)司相關(guān)人員在接受媒體采訪時表示，校園推廣人臉識別技術(shù)應(yīng)謹(jǐn)慎，要加以限制和管理。開發(fā)該系統(tǒng)的曠視科技也發(fā)布聲明稱，該圖片只是為技術(shù)場景化概念演示。

相關(guān)爭議不斷發(fā)酵，截至9月17日，僅微博話題#高校試水教室人臉識別#閱讀量達(dá)1.1億次，討論量達(dá)2.5萬條。輿論場除擔(dān)憂此舉有侵犯個人隱私之嫌外，數(shù)據(jù)安全、科技倫理及防范人工智能新技術(shù)帶來的風(fēng)險等，成為輿論焦點并引發(fā)深度探討。

人工智能風(fēng)險引起普遍擔(dān)憂

人工智能一般是指“包括機(jī)器學(xué)習(xí)，基于收集、處理和適應(yīng)來自現(xiàn)實世界的數(shù)據(jù)的算法?！苯陙恚覈斯ぶ悄墚a(chǎn)業(yè)呈現(xiàn)出蓬勃發(fā)展的良好態(tài)勢，智能語音、智能網(wǎng)聯(lián)汽車、智能視頻圖像身份識別等技術(shù)的發(fā)展及其所帶來的日趨豐富的應(yīng)用場景，正在深刻改變?nèi)藗兊纳a(chǎn)生活方式，為經(jīng)濟(jì)社會發(fā)展注入了新動能。然而，人工智能帶來的風(fēng)險也引發(fā)輿論擔(dān)憂。

7月13日，在第四屆全球金融科技峰會上，央行科技司司長李偉警示AI人臉識別等新技術(shù)帶來的新風(fēng)險，強(qiáng)調(diào)要引導(dǎo)信息技術(shù)在金融領(lǐng)域合理的運用，不能濫用技術(shù)。他說，“前段時間在‘3·15’講到‘隔空盜刷’的問題，支付場景沒有表達(dá)出個人主觀支付意愿。而人臉支付的時候，一刷臉錢就沒了，其實更可怕。銀行卡可能還揣在兜里，臉卻是平常露在外面的，識別出來非常容易，現(xiàn)在有的技術(shù)在3公里之外識別你的人臉，沒有表達(dá)客戶主觀意愿去刷臉是多么可怕的一件事情”。

8月30日，一款名為“ZAO”的人工智能換臉軟件在社交媒體成為爆款。網(wǎng)民只需提供一張人臉照片，就可以將選定視頻中的人物面部替換掉，從而生成新的視頻片段。ZAO給網(wǎng)民帶來新奇體驗的同時，其存在的個人信息安全保護(hù)、肖像權(quán)、版權(quán)等安全隱患，也引發(fā)擔(dān)憂。此外，ZAO所使用的換臉技術(shù)，曾在國外被用于情色視頻制作。據(jù)報道，目前國內(nèi)AI換臉黑產(chǎn)已經(jīng)形成了完整的產(chǎn)業(yè)鏈，從下游成品情色視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務(wù)。英國《衛(wèi)報》稱此類軟件為“對未來可怕的一瞥”，顯示了對人工智能未來可能造成的倫理問題的擔(dān)憂。

9月3日，工信部網(wǎng)絡(luò)安全管理局對ZAO運營企業(yè)陌陌公司相關(guān)負(fù)責(zé)人進(jìn)行問詢約談，要求其組織開展自查整改，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)。對此，ZAO運營團(tuán)隊回應(yīng)稱，將嚴(yán)格按照法律法規(guī)和各主管部門的要求，以更加嚴(yán)格的標(biāo)準(zhǔn)，全面加強(qiáng)內(nèi)容管理、完善各項管理機(jī)制，確保用戶個人信息安全和數(shù)據(jù)安全。

人工智能帶來的輿情風(fēng)險

關(guān)于人工智能帶來的技術(shù)風(fēng)險一直是輿論熱議話題。習(xí)近平總書記1月25日在中共中央政治局集體學(xué)習(xí)中指出：“要全面提升技術(shù)治網(wǎng)能力和水平，規(guī)范數(shù)據(jù)資源利用，防范大數(shù)據(jù)等新技術(shù)帶來的風(fēng)險?！?/p>

人工智能在給人類生活、社會經(jīng)濟(jì)帶來新變化的同時，對于相關(guān)部門輿情處置與網(wǎng)絡(luò)治理工作，也帶來前所未有的挑戰(zhàn)。

一是虛假新聞問題。

人工智能可以改變影像中物體的運動軌跡或者重塑人物形象，這讓虛假新聞更難被識別，導(dǎo)致謠言的迅速擴(kuò)散，甚至影響輿論走向。2018年4月，美國制片公司“猴爪（Monkeypaw Productions）”就曾利用名為“深度仿真”人工智能技術(shù)，制作了一段虛假視頻。視頻中的奧巴馬對現(xiàn)任美國總統(tǒng)特朗普進(jìn)行了嚴(yán)厲批評，幾乎以假亂真。同年11月，美國白宮宣布吊銷美國有線電視新聞網(wǎng)（CNN）記者吉姆·阿科斯塔的“通行證”，因為在總統(tǒng)新聞發(fā)布會上他攻擊了一位女實習(xí)生。事后許多人質(zhì)疑，白宮公布的現(xiàn)場視頻是經(jīng)過了人工智能處理，使得阿科斯塔的動作顯得粗魯和富于攻擊性?？梢灶A(yù)見，隨著未來人工智能技術(shù)廣泛運用，此類“謠言視頻”將更多出現(xiàn)，助推輿情風(fēng)波發(fā)酵升級。

二是“人工智能+網(wǎng)絡(luò)平臺”帶來的復(fù)雜的信息管理難題。

當(dāng)前媒介融合方興未艾，人工智能成為提升生產(chǎn)力、傳播力與影響力的重要手段。互聯(lián)網(wǎng)商業(yè)平臺與主流媒體上主要用于進(jìn)行算法精準(zhǔn)推送、個性化內(nèi)容定制、機(jī)器人寫稿與“中央廚房”建設(shè)等，未來應(yīng)用場景將進(jìn)一步擴(kuò)展。同時，“人工智能+網(wǎng)絡(luò)平臺”也蘊含著諸多風(fēng)險因素，值得研究和關(guān)注。比如人工智能算法主導(dǎo)的新聞生產(chǎn)與信息分發(fā)，帶來了信息繭房效應(yīng)與算法偏見等問題，沖擊網(wǎng)絡(luò)輿論生態(tài)?！皺C(jī)器人水軍”的存在客觀上也影響著輿論生態(tài)。2018年3月，今日頭條被網(wǎng)民舉報避開北上廣深等審查嚴(yán)格的大城市，借助技術(shù)優(yōu)勢，在監(jiān)管松懈的二三線城市大量刊登違法廣告。根據(jù)《經(jīng)濟(jì)半小時》記者實地調(diào)查發(fā)現(xiàn)，如舉報所言，在南寧、成都等地，今日頭條的廣告推送中的確出現(xiàn)了大量的非法廣告，引發(fā)輿論譴責(zé)。再如“人工智能+網(wǎng)絡(luò)平臺”并不能真正生產(chǎn)內(nèi)容，而是內(nèi)容“搬運工”。其可能帶來的優(yōu)質(zhì)內(nèi)容減少、版權(quán)問題以及內(nèi)容質(zhì)量良莠不齊，一直備受質(zhì)疑。

三是輿論操控與數(shù)據(jù)濫用問題。

2018年3月，外媒報道臉書公司5000萬用戶信息被第三方公司“劍橋分析”用于大數(shù)據(jù)分析，根據(jù)用戶的興趣特點、行為動態(tài)精準(zhǔn)投放廣告和資訊內(nèi)容，甚至被懷疑利用數(shù)據(jù)預(yù)測用戶政治傾向，成為間接影響總統(tǒng)大選的力量。更有英美媒體報道稱，這家公司曾經(jīng)受雇于美國總統(tǒng)特朗普的競選團(tuán)隊和推動英國“脫歐”的陣營。再如，一些互聯(lián)網(wǎng)公司采用大數(shù)據(jù)技術(shù)“殺熟”，都為人工智能時代規(guī)范數(shù)據(jù)運用、加強(qiáng)隱私保護(hù)敲響了警鐘。

相關(guān)建議

在人工智能飛速發(fā)展的時代，其帶來的風(fēng)險與挑戰(zhàn)值得重視。需要政府相關(guān)部門、業(yè)界和公眾深入討論，加強(qiáng)對潛在風(fēng)險的研判和防范，讓新技術(shù)更好地為我所用。有聲音認(rèn)為，人工智能技術(shù)治理關(guān)鍵是抓住三個核心關(guān)鍵問題：算法、數(shù)據(jù)和算力，要在相關(guān)方面來立法和監(jiān)督。

第一，要高度重視人工智能給網(wǎng)絡(luò)輿論帶來的風(fēng)險。

今年6月，因擔(dān)心人工智能深度偽造會影響輿論生態(tài)，進(jìn)而干擾2020年美國總統(tǒng)大選，美國眾議院舉行聽證會。最終，美國眾議院承諾審視“AI賦能的虛假內(nèi)容引發(fā)的國家安全的威脅，要采取哪些措施才能發(fā)現(xiàn)并進(jìn)行打擊，公共部門、私營部門和整個社會要怎么做才能應(yīng)對這種嚴(yán)峻的‘后真相’的未來?！币虼耍浞衷u估人工智能給網(wǎng)絡(luò)安全、國家安全等構(gòu)成的威脅，加快人工智能前瞻性研究。

第二，確保算法公開透明、可監(jiān)督。

當(dāng)前，為規(guī)避人工智能帶來的虛假新聞，一個行之有效的辦法即要求公開商業(yè)平臺機(jī)器算法的源代碼，提升算法透明度。此外，人工智能技術(shù)目前被廣泛運用于追蹤和識別虛假新聞。2018年10月，美國麻省理工大學(xué)公布了其人工智能系統(tǒng)。該系統(tǒng)利用現(xiàn)有的信息來評估分析信息發(fā)布者的可信度，并能將潛在的“誤導(dǎo)性信息”篩選出來。今年4月，某互聯(lián)網(wǎng)公司發(fā)布“AI謠言粉碎機(jī)”。據(jù)稱，這款人工智能程序目前在特定場景中對網(wǎng)絡(luò)謠言和假新聞的識別準(zhǔn)確率已經(jīng)達(dá)到81%，是應(yīng)對虛假新聞的重要幫手。因此，要進(jìn)一步規(guī)避人工智能輿情應(yīng)對的風(fēng)險，也需要加強(qiáng)技術(shù)運用，把握技術(shù)“制空權(quán)”

最后，要健全人工智能技術(shù)方面的法律法規(guī)以及行業(yè)自律制度，加強(qiáng)數(shù)據(jù)安全與隱私保護(hù)。

當(dāng)前，包括人臉識別在內(nèi)的人工智能的廣泛應(yīng)用已是大勢所趨，更要安全地使用人工智能。比如網(wǎng)絡(luò)數(shù)據(jù)收集，需要保障用戶的數(shù)據(jù)安全，不得以犧牲用戶隱私為代價，需要加強(qiáng)數(shù)據(jù)保護(hù)立法，不斷強(qiáng)化人工智能應(yīng)用中的用戶隱私保護(hù)。