AI诈骗与图像操纵——Instamart鸡蛋事件
热度等级:高
一起事件在Twitter和Instagram上引发了广泛的病毒式传播,揭示了AI图像生成技术如何被用于欺诈。
事件详情:
一位Swiggy Instamart客户订购了一盒鸡蛋,收到时只有一个鸡蛋破裂。该客户没有正常投诉,而是打开Google的Gemini Nano AI工具,输入提示词"apply more cracks"(应用更多裂纹)。几秒钟内,AI将单个破裂的鸡蛋变成了20多个破裂的鸡蛋,生成的图像完全逼真、无法区分。客户将这张图片发送给Instamart客服,支持团队相信了这个证据,立即处理了全额退款。
社交媒体反应:
这个事件获得了超过623,000次浏览和数千条评论。社交媒体用户反应不一:
有人为这种AI使用方式的聪慧感到印象深刻
许多人担忧这揭示了社会信任系统的脆弱性
- 许多评论建议快商务平台应该:
整合AI检测工具(如Google的SynthID)
要求直播开箱验证
升级图像验证系统
深层影响:
一条评论总结了问题的核心:"我们的退款系统是为一个照片是可信的世界而建立的。AI不是罪人。"这突出了一个关键问题:现有的验证流程跟不上AI技术的速度和精巧程度。
