歡迎訪問甘肅政法網(wǎng) 今天是 2024年12月27日 星期五

警惕！人工智能便利背后的安全隱患

來源：保密觀 責任編輯：張曦云 發(fā)布時間：2024-09-30
字號：A A    顏色：

作為信息社會的革命性技術(shù)，人工智能（Artificial Intelligence）可謂智能化信息社會的核心技術(shù)，具有廣泛的應用前景。


當前，我們看到，隨著AI技術(shù)在人機對話、人形機器人、自動駕駛、智能制造等領域的快速推廣和應用，相關安全問題也愈加凸顯，亟須予以高度重視。


人機對話


以ChatGPT為代表的基于生成式預訓練模型（GPT）的對話型人工智能能夠模擬人類對話，并應用于自動化寫作、智能客服等多個領域。隨著自然語言處理技術(shù)的進步，ChatGPT在文本生成、內(nèi)容創(chuàng)作等方面展現(xiàn)出強大能力，已成為AI技術(shù)的一個重要分支。



圖片


安全隱患：由于主要通過交互問答開展工作，ChatGPT存儲并處理了大量用戶數(shù)據(jù)，其中可能包含國家秘密、敏感信息，一旦被黑客竊取或系統(tǒng)遭受攻擊，數(shù)據(jù)安全將受到嚴重威脅。此外，ChatGPT還可能被用于生成虛假信息或進行社交工程攻擊，攻擊形式包括仿冒電子郵件、虛假新聞等，會給個人、企業(yè)和社會安全帶來極大隱患。


人形機器人


人形機器人是具有人類形態(tài)、具備一定程度智能的機器設備，能夠模擬人類的行為與動作，在服務行業(yè)、醫(yī)療輔助、教育陪伴等領域有著廣泛的應用前景。


圖片


安全隱患：人形機器人在執(zhí)行任務時需要獲取和處理大量用戶數(shù)據(jù)，可能涉及個人隱私、健康狀況等敏感信息，如果這些數(shù)據(jù)被黑客截獲，會導致用戶信息的泄露。此外，技術(shù)上的不成熟也將增加系統(tǒng)遭受攻擊的風險。


自動駕駛


當前，很多汽車廠家和互聯(lián)網(wǎng)公司相繼推出自動駕駛汽車以及智能交通系統(tǒng)?？梢灶A見，在人工智能控制交通的時代，交通運行效率會得到顯著優(yōu)化。在不遠的將來，也許只有賽車手和發(fā)燒友才會駕駛汽車，交通事故則可能被系統(tǒng)事故所替代。


圖片


安全隱患：自動駕駛汽車內(nèi)部往往集成了復雜的電子控制系統(tǒng)、傳感器網(wǎng)絡以及車聯(lián)網(wǎng)通信技術(shù)，黑客可以從智能汽車端、移動應用端和云平臺以及三者交互的通信管道實施攻擊，目前已經(jīng)出現(xiàn)黑客通過盜取 App 賬號密碼來控制自動駕駛汽車的案例。


智能制造


通過人工智能技術(shù)對工業(yè)大數(shù)據(jù)進行分析處理，可以有效提高生產(chǎn)效率，比如，Google 將機器學習技術(shù)應用于數(shù)據(jù)處理，使用神經(jīng)網(wǎng)絡控制服務器等設備以降低耗電量，提升電力使用效率。


圖片


安全隱患：工業(yè)大數(shù)據(jù)是由生產(chǎn)不同階段的大量零散數(shù)據(jù)組成，數(shù)據(jù)間存在同步問題，因此，黑客對數(shù)據(jù)的任何一點入侵篡改都會使人工智能計算產(chǎn)生偏差，從而對企業(yè)、對社會造成巨大損害。


長遠展望人工智能在信息社會的發(fā)展，基于人工智能的社會精細化管理將是未來社會的基本管理模式，也許未來會出現(xiàn)人工智能控制人類、威脅人類安全的風險隱患。技術(shù)就像一枚硬幣的兩面，發(fā)明一項技術(shù)需要聰明，駕馭一項技術(shù)則需要智慧。面對人工智能，確實需要人類有足夠的智慧去利用和駕馭，從而在確保安全的前提下便利人類生活和社會發(fā)展。