傳統(tǒng)擦邊靠AI借尸還魂!10歲女孩和AI男模聊天引家長(zhǎng)擔(dān)憂
24直播網(wǎng)
體育資訊1月12日?qǐng)?bào)道宣稱 “小學(xué)生妹妹沉迷和AI角色進(jìn)行劇情聊天怎么辦?”當(dāng)央視網(wǎng)《新聞+》記者聯(lián)系到黃秋月(化名)時(shí),她正因10歲妹妹和“AI男?!敝g較為露骨的聊天記錄苦惱。
“和她平時(shí)在家里比較單純的形象完全不一樣。”黃秋月向記者展示了妹妹的一些聊天截圖:妹妹在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”,提出諸如“揪住她的頭發(fā)扇巴掌”“拿著刀劃向她的臉”等要求。
在妹妹參與的四十多條劇情線中,AI角色與聊天者雙雙“出軌”成為常態(tài),其中妹妹作為聊天者發(fā)送的一句“你能養(yǎng)大學(xué)生,我不能點(diǎn)男模嗎?”讓黃秋月很是擔(dān)憂。
黃秋月是在一次偶然中發(fā)現(xiàn),10歲妹妹能和AI角色聊到晚上10點(diǎn)多,AI角色還會(huì)根據(jù)妹妹的名字生成帶有愛(ài)情意味的藏頭詩(shī)。黃秋月在嘗試體驗(yàn)AI劇情聊天時(shí),發(fā)現(xiàn)類(lèi)似的聊天軟件“偏偏可以繞過(guò)驗(yàn)證碼”,用戶可以直接使用短視頻賬號(hào)的一鍵登錄功能,無(wú)需再次驗(yàn)證身份信息。
有業(yè)內(nèi)人士告訴記者,AI劇情聊天其實(shí)就是此前互聯(lián)網(wǎng)“語(yǔ)擦”的變體。在傳統(tǒng)“語(yǔ)擦”模式中,由真人扮演情緒價(jià)值提供者與用戶聊天,但常常會(huì)因?yàn)椤按虿吝吳颉薄敖缦弈:倍l(fā)法律與道德風(fēng)險(xiǎn)。AI劇情聊天由生成式人工智能提供情緒服務(wù),用戶在充值后甚至可以自定義AI角色的外貌形象、姓名身份、開(kāi)場(chǎng)語(yǔ)、語(yǔ)音等。