2月25日消息,腾讯旗下AI产品元宝App近日因生成辱骂性内容再度引发争议。
据元宝用户向律师反映,其于除夕夜使用元宝App设计拜年海报时,AI在多轮对话后输出含辱骂文字的图片,将原有祝福语“新年快乐,仕途顺遂”篡改为低俗辱骂信息。据悉,当事人全程未使用违禁或诱导性表述,仅因对生成效果不满多次提出修改要求。
腾讯元宝官方事后在涉事用户社交平台回应称,经核实,该情况是模型处理多轮对话时出现的异常输出,已紧急校正问题并优化体验,向用户郑重致歉。
据了解,这已是元宝短期内第二次被曝出类似问题。今年年初,曾有用户反馈使用该应用优化代码时,收到“滚”等侮辱性回复,当时官方同样解释为“小概率模型异常”并致歉。同类事件重复发生,引发外界对其技术稳定性及内容审核机制的关注。(栎行)