近日，多個電商直播間被爆出使用明星AI換臉直播，引發(fā)爭議。南都記者留意到，有不少直播間里出現(xiàn)了“明星臉”，還是不同的主播共享同一張明星臉。

不同時段、不同主播同一張“楊冪”臉，她們都在向網(wǎng)友推銷某個女裝品牌；換一個直播間，網(wǎng)友又看到了“迪麗熱巴”在推銷茶葉……眼前的明星光彩奪目，但在主播低頭、轉身時，又會暴露出其實這不過是“換臉”后的結果。

在一般人看來，使用“明星臉”無論如何應該算是高科技了，但實際上專業(yè)人士透露:“AI換臉直播對算力的要求會低很多，也不涉及什么大模型，就只是一個面部輪廓，然后中間某些區(qū)域的合成?！备屓顺泽@的是AI換臉直播的成本。南都記者咨詢了一家提供AI換臉直播軟件的企業(yè)，對方收費僅99元……

(相關資料圖)

不算高端的技術、低廉的費用，意味著使用門檻很低。這一點又會帶來什么樣的結果，產(chǎn)生什么樣的影響?

使用明星AI換臉直播，性質(zhì)并不模糊。根據(jù)法律，直播間未經(jīng)明星同意，利用深度合成技術使用其肖像制作“AI換臉”行為，對明星來說屬于侵權，同時它又涉嫌“故意告知消費者虛假情況或者故意隱瞞真實情況，誘使消費者作出錯誤意思表示的行為”，已構成欺詐。

隨著AI技術的應用越來越廣泛、越來越智能化，惹出的事端越來越多了。

最近，“AI孫燕姿”因其翻唱《下雨天》等歌曲走紅網(wǎng)絡。而且“AI孫燕姿”居然連其“換氣聲”都可以模仿，一時間“AI出來后第一個失業(yè)的是孫燕姿”等話題被推上熱搜。

面對AI孫燕姿，盡管孫燕姿本人給予了包容，而且從產(chǎn)業(yè)發(fā)展的角度，“AI孫燕姿”的出圈宣告人工智能技術對音樂產(chǎn)業(yè)有了比較深入的滲透，但是聲音權、著作報酬分配權等法律問題注定無法繞過。

如果說使用明星AI換臉直播、“AI孫燕姿”等事件為AI技術應用增加了話題性，那么另外一些事件就讓人不寒而栗了。

此前人們或許聽說過應用AI技術的聲音合成詐騙。聲音合成詐騙，騙子會先通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過目標，達成目的。但福州市某科技公司法定代表人郭先生10分鐘內(nèi)被騙430萬元，騙術顯然要遠較聲音合成詐騙“高級”，因為對方是通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

聲音對上了，“臉”也對上了，碰到這樣的騙術，誰能抵御?

科技的進步一日千里，但若用之于不善，也會讓作惡的效率大幅提升，并且增加人們防范的難度。

面對AI相關的侵權、詐騙事件頻發(fā)，專家提醒不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻。這些提醒是及時的，信息安全意識對每個人都是必需的，但是現(xiàn)代生活的便捷不正是拜技術進步之賜嗎?

AI技術改變了公眾的生活，也帶來了很多挑戰(zhàn)。顯然，馴化而非拒絕，才是適宜的態(tài)度。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務管理辦法(征求意見稿)》。其中明確提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務的組織和個人，不僅要承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任，還要承擔個人信息處理者的法定責任，履行個人信息保護義務。

可以看出，《辦法》既是對生成式人工智能的規(guī)范管理，也凸顯了國家對其未來發(fā)展的明確支持。只有協(xié)調(diào)好創(chuàng)新發(fā)展和風險防控之間的關系，確保生成式人工智能的行為服務全部處于監(jiān)管之下，才能使其慢慢步入正軌，行穩(wěn)致遠。

馴服AI技術，法律和倫理規(guī)制都要跟上。因為要維系其良好生態(tài)，離不開政府監(jiān)管，也需要企業(yè)履責、社會監(jiān)督和網(wǎng)民自律，任何時候，科技向善的底線都必須堅守。