南昌新建区夜场KTV公司招聘男模/外场模特-教育委員-+Q:-:4397301:-:底薪5000-10000以上,可日结/周结/月结,详情咨询了解:-:{《法治日報》記者近日調(diào)查發(fā)現(xiàn),不少未成年人的家長正在被AI劇情聊天軟件所困擾,這些打著“角色扮演”等旗號的AI劇情聊天應(yīng)用,在吸引未成年人的同時,也悄然滋生了一些灰色地帶,在部分軟件的對話中,出現(xiàn)了色情擦邊、語言暴力以及侮辱用戶的內(nèi)容。(《法治日報》11月23日) 此前,ChatGPT的橫空出世猶如一顆火種,點燃了人工智能領(lǐng)域的熱情,催生了各式各樣的創(chuàng)新應(yīng)用。萬萬沒想到,這種生成式大語言模型,又一次被帶偏了。 據(jù)報道,一些打著“角色扮演”旗號的AI劇情聊天軟件,用色情、暴力的擦邊內(nèi)容吸引未成年人,誘惑他們充值消費,這不僅引發(fā)了家長們的強烈擔(dān)憂,也再次凸顯出加強行業(yè)監(jiān)管的緊迫性。 AI劇情聊天軟件依托人工智能技術(shù),模擬虛擬人物與玩家進行對話,為青少年打造了一個充滿新奇與未知感的虛擬世界,這種創(chuàng)新本身并無不妥。 問題在于,一些軟件開發(fā)平臺為了吸引用戶,刻意設(shè)置了包含性暗示或暴力元素的對話內(nèi)容,甚至設(shè)計了超出青少年認(rèn)知范圍的場景和劇情,如將聊天對象設(shè)定為“出軌對象”,并涉及擁抱、親吻等親密行為。更有甚者,部分軟件提供色情內(nèi)容,對青少年健康成長造成極大威脅。 在青少年成長發(fā)育的關(guān)鍵時期,營造健康向上的網(wǎng)絡(luò)環(huán)境至關(guān)重要。倘若他們沉迷于充斥著低俗、暴力內(nèi)容的虛擬世界,甚至進行大額充值消費,無疑會對其價值觀造成負(fù)面影響。 要確保行業(yè)健康發(fā)展,防止技術(shù)被濫用,必須迅速采取措施,加強監(jiān)管力度,約束平臺守法合規(guī)運營。比如,一旦發(fā)現(xiàn)存在色情內(nèi)容,應(yīng)立即對相關(guān)應(yīng)用軟件進行下架處理,以儆效尤。 更為重要的是,要將未成年人保護機制真正落到實處。報道提到,有些AI劇情聊天軟件,注冊極為簡便,無需實名驗證,根本沒有對不同年齡段用戶進行區(qū)分。還有的軟件雖然提供了“青少年模式”,但防火墻形同虛設(shè),用戶選擇該模式后,照樣可以看到一些不適合他們觀看的內(nèi)容。 所以,針對部分AI劇情聊天軟件“偏離正軌”的問題,行業(yè)監(jiān)管部門不妨首先系統(tǒng)梳理排查一下,看最基礎(chǔ)性的“青少年模式”到底有沒有執(zhí)行到位。在此基礎(chǔ)上,加強對平臺內(nèi)容的審核,確保生成的內(nèi)容合法合規(guī)。 另一方面,AI劇情聊天軟件的網(wǎng)絡(luò)開發(fā)平臺,也應(yīng)主動承擔(dān)起主體責(zé)任,加強自律,建立完善的內(nèi)容審核機制,在軟件上架前的語言訓(xùn)練階段,就對可能存在的色情、暴力等有害信息進行有效過濾??傊^不能為了追求用戶數(shù)量而打法律的擦邊球。 AI劇情聊天軟件亂象,對未成年人身心健康造成的潛在危害,不可不察。無論如何,人工智能作為新興行業(yè),其快速發(fā)展應(yīng)當(dāng)為社會經(jīng)濟帶來正面的價值。不能讓技術(shù)跑偏,成為非法牟利的工具。守護好未成年人身心健康的防線,人工智能才能真正實現(xiàn)“技術(shù)向善”。 熊志 來源:中國青年報}
主辦單位:北京市教育委員會
承辦單位:北京市數(shù)字教育中心
政府網(wǎng)站標(biāo)識碼:1100000152 京公網(wǎng)安備 11040202430147號 京ICP備20014478號-1