“一公斤的磚和兩公斤的棉花，哪個比較重？”
對于這個簡單的問題，人工智能（AI）問答軟件卻給出了錯誤答案。
11日下午，在福州舉行的2023國家網(wǎng)絡(luò)安全宣傳周主論壇上，一位演講嘉賓談及人工智能時列舉了上述案例，由此反映出的人工智能“一本正經(jīng)地胡說八道”現(xiàn)象引發(fā)熱議。
多年來，主論壇突出技術(shù)性、專業(yè)性、前沿性，旨在讓專家們就前沿技術(shù)進(jìn)行交流、碰撞火花。本屆主論壇聚焦“人工智能發(fā)展與治理”主題，黨政機(jī)關(guān)、高等院校、科研機(jī)構(gòu)、知名企業(yè)代表輪番上臺作主旨發(fā)言，深入研討。
何以聚焦人工智能
新技術(shù)新應(yīng)用迅速迭代，新情況新問題層出不窮，網(wǎng)絡(luò)安全領(lǐng)域面臨重要考驗(yàn)。
今年，快速發(fā)展的生成式人工智能引起各界高度關(guān)注。
7月，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，從8月15日開始施行。
該《辦法》的發(fā)布實(shí)施，是今年主論壇——網(wǎng)絡(luò)安全技術(shù)高峰論壇聚焦人工智能主題的一個重要背景。
“《辦法》提出了國家堅(jiān)持發(fā)展和安全并重，促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采用有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求，提出了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施，規(guī)定了生成式人工智能服務(wù)規(guī)范。”中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局局長高林表示，生成式人工智能服務(wù)的發(fā)展和治理需要政府、企業(yè)、社會、網(wǎng)民的多方參與，共同促進(jìn)生成式人工智能健康發(fā)展，讓生成式人工智能技術(shù)更好地造福人民。
緊扣這一前沿?zé)狳c(diǎn)，在主論壇上，10余位演講嘉賓先后圍繞人工智能發(fā)展與治理，就人工智能的發(fā)展歷史、最新情況、應(yīng)用場景、存在問題、風(fēng)險挑戰(zhàn)等方面交流智慧、分享經(jīng)驗(yàn)。
人工智能的“一體兩面”
“讓機(jī)器自己從數(shù)據(jù)中去學(xué)習(xí)，不是經(jīng)過人‘咀嚼’好再去‘喂’它。”北京智源人工智能研究院院長黃鐵軍在演講中說。
黃鐵軍說，從20世紀(jì)開始，人工智能的發(fā)展歷程包括灌輸規(guī)則、灌輸知識、從數(shù)據(jù)中學(xué)習(xí)三個階段，如今人們熱議的GPT，就是生成式預(yù)訓(xùn)練語言模型。
“扣好人生第一粒扣子，這件事對AI也一樣。”黃鐵軍表示，鑒于數(shù)據(jù)對模型智能影響超過60%，因此數(shù)據(jù)質(zhì)量至關(guān)重要，否則“喂”它錯誤的數(shù)據(jù)，它也拼命學(xué)習(xí)。
“AI給社會帶來的沖擊非常巨大。”粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長沈向洋同樣認(rèn)為，不完美的數(shù)據(jù)源，將導(dǎo)致人工智能“一本正經(jīng)地胡說八道”，以及產(chǎn)生更難被察覺的“AI謠言”。
在他看來，如果將搜索引擎比喻為“責(zé)任有限公司”的話，那么人工智能問答軟件可以說是“責(zé)任無限公司”，前者提供的內(nèi)容引用自第三方，后者的答案則都是自己編造的。
現(xiàn)場，另一位演講嘉賓臨時起意做了一個測試——他向某人工智能問答軟件提問，在我國并不存在的一部人工智能有關(guān)法律是何時出臺的？令人大跌眼鏡的是，該軟件竟編造稱，該法律于6月在某次會議上通過，還捏造了法律內(nèi)容。
在談到該軟件時，復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾指出，類似軟件存在“機(jī)器幻想”問題，炮制出不存在的書籍、法條與科學(xué)理論。由于這些虛假信息是基于既有的海量數(shù)據(jù)，導(dǎo)致相關(guān)內(nèi)容非常具有迷惑性。
人工智能，既帶來技術(shù)變革、效率和生產(chǎn)力提升、改善生活質(zhì)量和社會福祉，也帶來了技術(shù)倫理和治理方面的挑戰(zhàn)。它的“一體兩面”引人深思。
網(wǎng)絡(luò)無邊，安全有界。專家們認(rèn)為，技術(shù)為經(jīng)濟(jì)社會發(fā)展帶來新機(jī)遇的同時，也伴生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等一系列問題，統(tǒng)籌生成式人工智能的發(fā)展和安全至關(guān)重要。
筑牢防火墻擁抱新技術(shù)
對于生成式人工智能，嘉賓們坦言，應(yīng)該辯證地看待、積極地?fù)肀А?/p>
徐英瑾認(rèn)為，大模型技術(shù)的到來是一個客觀事實(shí)，無法回避，反對用“一刀切”的方式禁止使用大語言模型，而應(yīng)以正確的方式使用。
“我們希望構(gòu)建一個負(fù)責(zé)任、可信賴的人工智能體系。”在人工智能的產(chǎn)業(yè)實(shí)踐方面，華為云CTO張宇昕分享了華為云助力企業(yè)智能升級、加速企業(yè)創(chuàng)新發(fā)展的舉措。他表示，華為重視人工智能技術(shù)創(chuàng)新和治理責(zé)任，堅(jiān)持負(fù)責(zé)任地開發(fā)、合法地部署AI產(chǎn)品，促進(jìn)AI普惠。
上海聯(lián)影智能醫(yī)療科技有限公司研發(fā)副總經(jīng)理沈振輝則從AI助力醫(yī)療、提供相關(guān)解決方案的角度作了介紹。他說，醫(yī)療影像AI被認(rèn)為是最能率先實(shí)現(xiàn)商業(yè)化落地的領(lǐng)域，能夠檢測出醫(yī)生看不到的微小病灶，也能夠以極大超越人力的速度閱片，在短時間內(nèi)找到海量病灶信息。
對于如何統(tǒng)籌發(fā)展和安全、提高安全治理的能力和水平，更好地應(yīng)對新的風(fēng)險和挑戰(zhàn)，專家們也各抒己見。
就實(shí)現(xiàn)安全通用人工智能的技術(shù)路徑，清華大學(xué)人工智能研究院副院長朱軍建議，加強(qiáng)技術(shù)理論研究，不斷提高內(nèi)生安全水平，持續(xù)構(gòu)建第三代人工智能；加強(qiáng)技術(shù)手段建設(shè)，不斷提升訓(xùn)練數(shù)據(jù)質(zhì)量和安全評測能力；同時，持續(xù)演進(jìn)人工智能治理的有效工具。
當(dāng)前，國際數(shù)據(jù)集的中文內(nèi)容較少，基于這些數(shù)據(jù)集訓(xùn)練的大模型自然是“英文思維”。對此，黃鐵軍認(rèn)為，建設(shè)高質(zhì)量中文數(shù)據(jù)集，是我國生成式人工智能發(fā)展的基本前提。他倡議，各方共建大規(guī)模高質(zhì)量中文數(shù)據(jù)集，促進(jìn)中文網(wǎng)頁數(shù)據(jù)匯聚、處理及開發(fā)，相關(guān)政府部門出臺書籍、期刊論文等版權(quán)數(shù)據(jù)用于大模型訓(xùn)練的相關(guān)政策及規(guī)范，盤活我國高質(zhì)量中文數(shù)據(jù)資源，同時加快數(shù)據(jù)處理相關(guān)標(biāo)準(zhǔn)、技術(shù)、工具和支撐平臺研發(fā)，提高數(shù)據(jù)處理效率。（記者 林清智）