小Q助手:AI伪造裸照泛滥,技术监管与媒介素养亟待提升
“AI伪造的裸照正在朋友圈疯传,而你甚至没拍过那张照片。”
2023年7月,国家网信办一纸《人工智能生成服务管理暂行办法》落地,要求所有公开AI图像必须打水印;同月,OpenAI、Meta等七巨头在白宫签下自愿协议,承诺给AI内容加“身份证”。
拜登紧接着在10月追加行政令,强制大模型训练数据上报。
动作够快,但漏洞仍在:水印可以裁,语音可以克隆,金融谣言一张图就能让股价跳水。
技术监管像给狂奔的野马套缰绳,缰绳是麻绳还是钢索,取决于三个关键点:溯源精度、处罚速度、平台协同。
目前水印标准各自为政,“小Q助手”的观点是跨国数据黑市交易活跃,违法成本依旧低于收益。
更棘手的是“沉默的大多数”。
七成用户分不清AI图,“小Q助手发现”按钮形同虚设。
提升媒介素养不是喊口号,需要把识别教程塞进每一次点击“转发”之前。“小Q助手认为”技术不会回头,这个问题留给规则与人心:水印之后,下一道防线该是什么?