“AI孫燕姿”一夜間走紅。在某視頻平臺，這位虛擬歌手翻唱的《發如雪》累計播放超221萬次。如果不是明確標注，連歌迷都很難分清“真假孫燕姿”。一系列連鎖反應正在發生：在各大視頻平臺，明星AI翻唱的教學視頻遍地開花，復制明星聲音、肖像的門檻被進一步拉低。

“真假孫燕姿”讓現實世界和AI世界的邊界越來越模糊，知識產權和市場監管問題也接踵而至。

首先是防侵權。據不完全統計，“AI孫燕姿”已經翻唱了超過1000首作品，這一數量遠超出孫燕姿本人作品的總和。一方面，“AI孫燕姿”涉嫌侵犯現實孫燕姿的權益。有律師指出，在《民法典》里，對聲音的保護是參照肖像權保護進行的，而對肖像權保護有明確的規定——那就是不允許進行偽造；另一方面，涉及著作權的問題，翻唱作品中包含大量未經授權的歌曲，超出了法律中“合理使用”的范疇。

(資料圖)

如何界定侵權以及如何懲罰侵權，有待監管部門和行業專家加強調研，提出有效方法。

其次是防詐騙。近期，內蒙古包頭市公安局偵破了一起使用AI智能技術進行詐騙的案件，受害者認不清對方是AI臉還是真人臉，居然10分鐘被騙走430萬元。網友紛紛支招視頻通話時“怎么證明我是我”，也成為一時奇談。

如何在不打擊新技術發展的前提下嚴格監管，成為當下社會面臨的問題。

筆者認為，對待AI生成的內容，不管是模仿生成的，還是完全新創作的，都應該壓實生產發布者、平臺管理者的責任，完善監管措施。

一是，凡是利用生成式人工智能生產制作的產品，都應向公眾公開聲明，進行明確標注。參考《廣告法》中“廣告應當具有可識別性，能夠使消費者辨明其為廣告”的要求，AI生成的內容，包括圖片、文字、視頻、音頻等，都應明確標注“AI生成”，不標注即為違法。

同時，進一步強化平臺審核責任和管理責任，明確處罰措施，實行日常監督檢查，接受公眾舉報，對違規的發布者、平臺予以懲戒。

二是，提高AI內容發布的門檻，發布者必須提供真實身份信息，對于可能存在的“異地登陸”“大額轉賬”等風險行為，設置警示提醒機制，觸發警戒時平臺可以自動切斷服務。同時，應建立用戶投訴接收處理機制，全方位杜絕濫用AI技術的行為。

三是，嚴格規范企業對用戶個人信息的保護，出臺加密算法標準，對使用后的信息存儲和銷毀程序進行監管，織密織牢安全防護網。防止盜用他人個人信息用于AI產品生產。

誘進以仁義，束縛以刑罰。AI正在飛速進化，我們要迎風而上，用好新工具，使其為經濟社會發展服務。同時，要從技術、法律、倫理等方面立好規矩，與時俱進完善監管。

4月11日，國家互聯網信息辦公室發布的《生成式人工智能服務管理辦法（征求意見稿）》（簡稱《管理辦法》）明確提出“利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息”。這為加強AI生成內容管理提供了基本遵循，希望相關措施進一步細化，并加快出臺。