發(fā)布日期：2023-06-26
點擊量：1626 作者：張濤 來源：近年來，不論各行各業(yè)最熱點的非“智能化、智慧化、數(shù)字化、信息化”莫屬，有了帶頭人，各行各業(yè)都“卷”起來了。農(nóng)業(yè)不搞數(shù)字化，如何成為新時代新農(nóng)人；企業(yè)不搞智能化，如何幫助企業(yè)優(yōu)化資源提升管理；地方政府不搞智慧化、數(shù)字化、信息化，如何以建設數(shù)字經(jīng)濟新城市推動經(jīng)濟高質(zhì)量發(fā)展。
因為數(shù)字化、信息化，行業(yè)中的整個業(yè)務過程被數(shù)據(jù)化地記錄下來，并被機器系統(tǒng)反復學習數(shù)據(jù)和行為模式，最后因為比人更加專業(yè)而反過來指導人。
因為智能化、智慧化，數(shù)據(jù)信息越來越完備，機器系統(tǒng)越來越智能，二者逐漸變成你中有我我中有你的“人機一體”世界，最終終極模式的人工智能誕生了。
人工智能（AI）技術逐步出現(xiàn)在公眾的視野里，大家被迫與之熟悉、融洽。雖然現(xiàn)階段的AI技術只能算是智腦階段，但隨著受眾體驗用戶的增多，大數(shù)據(jù)基礎被逐步夯實，人和機器之間的語言裂隙逐步被填平，并逐步走向無差異或者無法判別差異。
新事物、新技術的產(chǎn)生和運用總是伴隨著未知的風險與變革，大數(shù)據(jù)時代家庭成員的信息很容易通過外賣、快遞、手機導航、人臉識別認證等途徑泄漏。提到AI技術，大多數(shù)人對其概念還比較模糊，但使用者數(shù)量卻并不少。隨著AI技術演變，會給使用者的人身財產(chǎn)安全帶來未知的風險，給不注意保護隱私的用戶敲響“危機”的警鐘。
例如，各軟件中的直播帶貨被AI技術攻占，用戶端的我們美美地欣賞漂亮博主辛苦地講解帶貨，甚至被博主的經(jīng)歷等感動得一塌糊涂，卻不知網(wǎng)絡這邊的直播間沒有一個真人，全是AI生產(chǎn)的虛假博主，可見AI技術生產(chǎn)的視頻多么的逼真和難以防范。
例如，抖音里經(jīng)常會刷到的AI技術視頻，有小伙子用AI技術把老丈人照片用在小孩身上，有身邊朋友用AI技術把自己變成某影視經(jīng)典片段里的主角，也有朋友用AI技術把自己變成歌手演唱片段中的歌星，更有使用者用AI技術把自己孩子的照片轉(zhuǎn)換成藝術風格的繪畫。經(jīng)過AI換臉的“朋友”，容貌變得很像，聲音變得很接近，不熟悉者很難辨別真假。
有人模擬過，假如這項技術被惡意者用在拐賣詐騙上，采用AI換臉技術變成孩子的家長，就連家里老人的方言也有AI技術賦能，從而模仿對話，最后冒充家長通過手機聯(lián)系幼兒園老師將孩子拐跑，導致兒童被拐賣的概率將直線上升。雖然現(xiàn)在還未出現(xiàn)關于AI拐賣詐騙新聞報道，但其他AI“作惡”案件頻發(fā)，仿如潘多拉魔盒被打開一般。如AI電信詐騙，受害者被換臉后用在系統(tǒng)軟件人臉識別上，導致銀行卡、微信錢包里的錢被詐騙。
正如百度創(chuàng)始人李彥宏所言：“人工智能技術飛速發(fā)展的過程當中，確實有可能出現(xiàn)對人類不利的發(fā)展方向，防止失控就需要擁有先進AI技術的國家通力合作，從人類命運共同體的高度來制定規(guī)則。”
為確保人工智能（AI）技術健康發(fā)展和規(guī)范應用，本月國家發(fā)布了《生成式人工智能服務管理辦法（征求意見稿）》。但制度終歸是制度，大多時候總是落后現(xiàn)實狀況半拍，這就給了不法分子可乘之機，因而相關的防范技術措施就不得不思考和探討了。