陸AI罵使用者「你媽個X」 官方認錯緊急校正!
▲AI生成出髒話拜年海報。(圖/翻攝IT之家)
記者蔡紹堅/綜合報導
中國大陸一名網友日前使用騰訊的AI助理「元寶」生成個人拜年海報,沒想到海報上卻出現了髒話「你媽的X」,令網友非常震驚。對此,元寶官方鄭重道歉,表示該情況是模型處理多輪對話時出現的異常輸出導致,目前已緊急校正相關問題、優化使用體驗。
網友發文表示,他在除夕夜使用元寶App生成拜年圖片,先後下達約 5 次生成指令,全程未使用任何違禁詞彙或誘導性表述,只有因爲對生成效果不滿意而多次修改。
網友說,前幾次生成的圖片雖效果欠佳,但內容正常,最後一次修改後,圖片中原有的「新年快樂,仕途順遂」祝福標語,竟被換成「你媽個X」的辱罵性髒話。
對此,元寶官方在文章下回應,稱非常抱歉給用戶帶來不好的體驗,經確認該情況是模型處理多輪對話時出現的異常輸出導致,目前已緊急校正相關問題、優化使用體驗,並向用戶鄭重致歉。
這並非元寶首次出現 AI 辱罵使用者的情況,今年年初就有網友表示,在使用元寶App修改代碼時,多次收到「滾」「自己不會調嗎」「天天浪費別人時間」等侮辱性迴應。
當時,元寶官方也同樣出面道歉,坦言在內容生成過程中,模型偶爾可能出現不符合預期的失誤,是元寶持續需要改進的地方,已啓動了內部排查和優化,會盡量避免類似情況。