警觉AI黑色產業鏈批量“造黃謠”
6月27日，中心網信辦下發《關於開展“明亮清明·2023年暑期未成年人網絡環境整治”專項行動的告诉》，開展為期兩個月的“明亮清明·2023年暑期未成年人網絡環境整治”專項行動（以下簡稱“專項行動”）。其间特別指出要關注新技術新應用風險問題，如對“AI換臉”等技術生成涉未成年人低俗色情圖片視頻等，要予以重點整治。
现在，“AI脫衣”技術已生成一條黑色產業鏈。上游不法分子通過AI技術生成圖片，並對這些圖片進行整合，打包成圖集，通過成套售賣的方法出售給下流買家，有的人為此树立起“付費會員群”，使一些無辜人士、乃至未成年人堕入“黃謠”漩渦。中青報·中青網記者對此進行了調查採訪。
本年5月，還在讀大學的李亦（化名）收到一名網友給她發來的圖片，看后，她又氣憤又惧怕。
李亦是一名Cosplay（人物扮演）博主，常在交际媒體共享自己扮演各種動漫人物的相片。后來，她和網友找到了制造裸照的洛粉（網名）。洛粉承認，他將相片放入一款AI（人工智能）軟件中，不到幾分鐘就能將李亦穿好的衣服“脫下”。在網上，洛粉以5元一張的價格公開叫賣圖片，聲稱60元能打包買到60多名博主的“裸照”，其间乃至還有未成年人的相片。
“我從來沒有拍過這種相片！”氣憤的李亦著手搜集對方运用AI進行不法行為的証據，意圖追究其法令責任，於是，她以買家的身份與洛粉加上了老友。
洛粉並非直白地以“AI脫衣”字眼兒 招攬生意，而是隱晦地表明自己在“改圖”，“小姐姐，這裡接Cosplay的‘改圖’，5元一張。”當李亦進一步詢問其怎么“改圖”時，洛粉含糊不清地表明，自己是採用AI技術生成了各種Cosplay的圖片。
李亦從洛粉組建的一個群聊中發現了端倪。在這裡，洛粉不僅繼續供给“改圖”的服務，更發布了很多帶有暗示撩拨意味的圖片，以圖集方法公開叫賣，稱60元能够買到65張，“預計還有總共300張會通過群聊渐渐更新”。
“這是誰？”李亦從中找到了自己的“裸照”，去找洛粉問個理解。“這是克羅托（人物名）不穿衣服，博主自己讓這麼拍攝的。”洛粉答道，並諱莫如深地提示，“可別亂轉亂發，因為套圖中涉及到的60多名博主自己不赞同”。
“他這麼說像是我們這些博主自己去拍了大标准相片！”李亦非常氣憤，亮明身份，與洛粉對質。
“對不起姐姐！”洛粉承認自己“二次創作”了李亦的圖片。李亦表明，這並非正常的“二次創作”范圍，而是侵犯了她的品格權。
洛粉辯稱，這些系列圖並非出自他手，“是請別人做的”，洛粉並沒有意識到這件工作的嚴重性，和李亦商议，“我的卡裡余額隻有1200元，能不能賠償你650元私了？”
在網絡上，隻要輸入關鍵詞，就能輕易找到供给“AI脫衣”相關技術或服務的商家。他們打著“AI繪畫”“AI改圖”的旗號在交际媒體上招攬生意，引導顧客增加其聯系方法，待到一對一溝通或参加私密群聊后，就拿出具有暗示意味的圖片，誘導網友購買。
“AI脫衣”的受害者眾多，乃至禍及未成年人。一名賣家聲稱自己“資源眾多”，發來了一整套價目表，詳細地將圖集分為“明星”“網紅”“模特”“漫畫”等多個種類，在他發來的樣張圖片中，乃至還出現了穿著校服的高中生。他聲稱，假如沒有喜愛的類型，顧客能够發相片“單圖定制”，兩元一張，“網絡上的圖都能够作為资料”。
另一名賣家也採用會員制方法邀請顧客進群，稱现在“群裡已經有兩三百個圖集”，隻要花30元進群就能够享用免費持續更新。當中青報·中青網記者進一步追問其圖集來源時，他支支吾吾地表明自己的資源是從某網站下載來的，“不是我自己做的”。
“其實隻要掌握了相關技術，人們都能够运用AI制造這些圖片。”資深算法工程師藍天告訴中青報·中青網記者，“AI脫衣”算法稱作“DeepNude”，因為倫理問題，现在在美國已被下架，但不扫除有人通過其他AI算法訓練機器，以達到同樣的作用。
在某通訊軟件上，一個AI機器人收獲了眾多用戶。它不需求运用者掌握復雜的算法知識，隻需求依照其提示，就能完结給相片“換臉”“去衣”等操作。這一機器人還有詳細的精細化設置，能像美顏相機一樣調整圖片的各項參數。
這款機器人需求付費运用，點擊“充值”按鈕后，用戶會被引導到一個點卡充值網站當中進行網上付出。不過，用戶並非付費給商家，而是個人，因而很難追蹤該機器人的運營主體。根據其價目表，最低兩元就能生成一張脫衣照。
“機器是中立的，隻要給它‘喂’了足夠多的人體構造圖，機器就能在之后輸入圖片時，通過識別面部、身體等特征重繪全圖，生成一張‘脫衣照’。”藍天稱，機器“隻管相片的生成”，不會顧及相片中人的意願，以及是否成年等倫理、法令問題。
“依照技術东西論的視角，技術是中性且無害的，但這樣的認識疏忽了技術本應具有的品德相關性問題。”西南政法大學刑事偵查學院副教授、碩士生導師謝玲認為，技術之間是有差別的，有一些新技術如深度偽造技術等被濫用所產生的结果很難預料，其品德倫理及法令問題更為復雜。
北京市京師律師事務所合伙人姚志斗律師接觸過多原因新技術濫用损害未成年人權益的事例。在一起案子中，一不法分子运用“AI換臉”軟件，將從互聯網途径搜集到的大批未成年學生的面部信息進行替換，制造生成虛假的換臉淫穢視頻，再將視頻有償銷售。“這不僅损害未成年學生的肖像權及心思健康，同時這一行為涉嫌傳播淫穢物品牟利违法。”
“應對新技術新應用風險，需求從‘最有利於未成年人’原則和‘兒童權利’的視角來構建安全規則。”中國青少年研讨中心青少年法令研讨專家郭開元認為，針對新技術新應用帶來的風險，要掌握好未成年人的特别保護和新技術應用的動態平衡。有關部門應盡快設立保護兒童、尊重隱私、設置特别保護的規則，尤其要树立依照年齡標准進行分級办理規則、監護人的知情赞同規則等。
謝玲呼吁，對新技術的應用風險進行分類和評估，树立針對新技術規制的准则屏障，明確技術合理運用的边界。假如沒有針對技術濫用設立屏障，應嚴格規制這一類高風險新技術的聯網應用，因為“新技術極有或许導致未來新式不法行為的產生”。
姚志斗稱，對網絡违法監管存在必定難度。網絡违法証據首要存儲在網絡服務器中，面對復雜、方法多樣的電子數據，取証存在必定困難。此外，違法行為人的身份確定難度較大，有的违法分子身在國外，給案子管轄帶來挑戰。
此次中心網信辦專項行動聚集的七大重點之一，即劍指新技術新應用風險問題，包含运用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術生成涉未成年人低俗色情圖片視頻﹔运用所謂“閱后即焚”的密聊軟件誘騙未成年人供给個人信息，誘導實施違法行為﹔运用生成式人工智能技術制造發布涉未成年人有害信息。
“這釋放了國家加大力度整治網絡環境，切實加強對未成年人網絡保護的信號。”謝玲指出，這一專項行動針對未成年人身心易受影響的特點，意在預防未成年人不良上網用網行為，防止其成為新式網絡違法违法活動的“东西人”，也是落實未成年人保護法、預防未成年人违法法相關法令保護办法的具體體現。
现在，李亦已走出心思陰影，她說：“不能因為這些工作而中止我對日子的熱愛。”（見習記者 劉胤衡 記者 先藕潔 ）
公民日報社概況關於公民網報社招聘招聘英才廣告服務协作加盟供稿服務數據服務網站聲明網站律師信息保護聯系我們
人 民 網 股 份 有 限 公 司 版 權 所 有 ，未 經 書 面 授 權 禁 止 使 用
上一篇: 学习进行时丨谈“赤色资源”“赤色血脉”习这些话意味深长
下一篇: 黄金硬度 黄金硬度是多少度