歡迎訪問甘肅政法網(wǎng) 今天是 2024年10月23日 星期三

警惕！人工智能便利背后的安全隱患

來源：保密觀 責(zé)任編輯：張曦云 發(fā)布時(shí)間：2024-09-30
字號：A A    顏色：

作為信息社會的革命性技術(shù)，人工智能（Artificial Intelligence）可謂智能化信息社會的核心技術(shù)，具有廣泛的應(yīng)用前景。


當(dāng)前，我們看到，隨著AI技術(shù)在人機(jī)對話、人形機(jī)器人、自動(dòng)駕駛、智能制造等領(lǐng)域的快速推廣和應(yīng)用，相關(guān)安全問題也愈加凸顯，亟須予以高度重視。


人機(jī)對話


以ChatGPT為代表的基于生成式預(yù)訓(xùn)練模型（GPT）的對話型人工智能能夠模擬人類對話，并應(yīng)用于自動(dòng)化寫作、智能客服等多個(gè)領(lǐng)域。隨著自然語言處理技術(shù)的進(jìn)步，ChatGPT在文本生成、內(nèi)容創(chuàng)作等方面展現(xiàn)出強(qiáng)大能力，已成為AI技術(shù)的一個(gè)重要分支。



圖片


安全隱患：由于主要通過交互問答開展工作，ChatGPT存儲并處理了大量用戶數(shù)據(jù)，其中可能包含國家秘密、敏感信息，一旦被黑客竊取或系統(tǒng)遭受攻擊，數(shù)據(jù)安全將受到嚴(yán)重威脅。此外，ChatGPT還可能被用于生成虛假信息或進(jìn)行社交工程攻擊，攻擊形式包括仿冒電子郵件、虛假新聞等，會給個(gè)人、企業(yè)和社會安全帶來極大隱患。


人形機(jī)器人


人形機(jī)器人是具有人類形態(tài)、具備一定程度智能的機(jī)器設(shè)備，能夠模擬人類的行為與動(dòng)作，在服務(wù)行業(yè)、醫(yī)療輔助、教育陪伴等領(lǐng)域有著廣泛的應(yīng)用前景。


圖片


安全隱患：人形機(jī)器人在執(zhí)行任務(wù)時(shí)需要獲取和處理大量用戶數(shù)據(jù)，可能涉及個(gè)人隱私、健康狀況等敏感信息，如果這些數(shù)據(jù)被黑客截獲，會導(dǎo)致用戶信息的泄露。此外，技術(shù)上的不成熟也將增加系統(tǒng)遭受攻擊的風(fēng)險(xiǎn)。


自動(dòng)駕駛


當(dāng)前，很多汽車廠家和互聯(lián)網(wǎng)公司相繼推出自動(dòng)駕駛汽車以及智能交通系統(tǒng)?？梢灶A(yù)見，在人工智能控制交通的時(shí)代，交通運(yùn)行效率會得到顯著優(yōu)化。在不遠(yuǎn)的將來，也許只有賽車手和發(fā)燒友才會駕駛汽車，交通事故則可能被系統(tǒng)事故所替代。


圖片


安全隱患：自動(dòng)駕駛汽車內(nèi)部往往集成了復(fù)雜的電子控制系統(tǒng)、傳感器網(wǎng)絡(luò)以及車聯(lián)網(wǎng)通信技術(shù)，黑客可以從智能汽車端、移動(dòng)應(yīng)用端和云平臺以及三者交互的通信管道實(shí)施攻擊，目前已經(jīng)出現(xiàn)黑客通過盜取 App 賬號密碼來控制自動(dòng)駕駛汽車的案例。


智能制造


通過人工智能技術(shù)對工業(yè)大數(shù)據(jù)進(jìn)行分析處理，可以有效提高生產(chǎn)效率，比如，Google 將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于數(shù)據(jù)處理，使用神經(jīng)網(wǎng)絡(luò)控制服務(wù)器等設(shè)備以降低耗電量，提升電力使用效率。


圖片


安全隱患：工業(yè)大數(shù)據(jù)是由生產(chǎn)不同階段的大量零散數(shù)據(jù)組成，數(shù)據(jù)間存在同步問題，因此，黑客對數(shù)據(jù)的任何一點(diǎn)入侵篡改都會使人工智能計(jì)算產(chǎn)生偏差，從而對企業(yè)、對社會造成巨大損害。


長遠(yuǎn)展望人工智能在信息社會的發(fā)展，基于人工智能的社會精細(xì)化管理將是未來社會的基本管理模式，也許未來會出現(xiàn)人工智能控制人類、威脅人類安全的風(fēng)險(xiǎn)隱患。技術(shù)就像一枚硬幣的兩面，發(fā)明一項(xiàng)技術(shù)需要聰明，駕馭一項(xiàng)技術(shù)則需要智慧。面對人工智能，確實(shí)需要人類有足夠的智慧去利用和駕馭，從而在確保安全的前提下便利人類生活和社會發(fā)展。