外卖恶意索赔案牵出 AI 造假：男子伪造病历与伤口材料被警方采取强制措施
据 IT之家援引“上海法治报”消息，上海徐汇警方近日侦办一起利用外卖订单实施恶意索赔的案件。一名男子被指在不同地区多次下单外卖后，以“吃出铁丝划破舌头”为由向商家索赔，并使用相同伤口视频、病历图片等材料反复施压。今年 4 月，上海徐汇公安分局斜土路派出所接到辖区某商场餐饮店老板报案后展开调查，最终锁定并抓获远在外省市的犯罪嫌疑人段某。目前，段某因涉嫌敲诈勒索罪，已被徐汇警方依法采取刑事强制措施，案件仍在进一步侦办中。
这起案件之所以引发科技行业关注，不仅在于外卖场景中的恶意索赔风险，也在于嫌疑人被指使用 AI 工具修改图片信息，将网上搜索到的“舌头划破”相关图片中的姓名替换为自己，从而伪造更具迷惑性的就诊材料。随着图像生成、图像编辑、文字替换等 AI 能力普及，低门槛造假正在进入日常消费纠纷场景，给平台风控、商家举证和执法核验带来新的挑战。
案件经过：同一套材料多次索赔，商家发现异常后报警
来源显示，今年 4 月，上海徐汇公安分局斜土路派出所接到某商场餐饮店老板报案。该老板称，有顾客使用相同的伤口视频、病历图片，先后三次向其名下两家店铺进行索赔。警方随后调取外卖平台信息发现，该下单人员此前曾在多个外省市购买外卖十余次，平台记录均显示退还了外卖费。
经查，段某此前通过软件将定位设置到一千公里外的上海某商场，并下单一份麻婆豆腐外卖。随后，他联系餐饮店老板，声称自己在餐食中吃出铁丝并划破舌头，同时附上受伤出血视频、就诊记录以及付款截图，以较为强硬的语气要求店铺报销医疗费。商家担心出现不良舆论，最终选择全额赔付。
之后，段某又向该商场餐饮店老板名下另一家餐饮店下单并索赔。由于店长要求观察伤情后再联系，段某未能继续索要医疗费用，仅通过平台退赔了外卖费。到今年 4 月，段某再次使用相同话术向上述餐饮店索赔 690 元时，被老板发现两家店铺实际为同一人经营，相关材料和说法高度相似，于是报警求助。
AI 参与造假：从“图片编辑”到“证据包装”的风险外溢
到案后，段某交代，自己曾因吃外卖被异物划伤并获得赔付。后来因手头拮据，便在网上搜索“舌头划破”相关图片，再使用 AI 工具将图片中的姓名替换为自己的姓名，用于向商家证明所谓伤情。来源还显示，他所点外卖均未实际食用，累计敲诈勒索金额 3000 余元。
从技术角度看，这类行为并不一定需要复杂的深度伪造技术。当前不少图像处理、生成式 AI 或智能修图工具已经能够完成文字替换、局部修补、背景融合等操作。对于普通商家而言，如果只通过聊天截图、图片和视频来判断事实，确实可能难以及时识别材料是否经过编辑。AI 的问题不在于工具本身，而在于它降低了伪造材料的成本和门槛。
在外卖、网购、即时零售等高频交易场景中，商家往往面临评价体系、平台处罚、舆论扩散等多重压力。个别消费者若利用这种压力进行虚假投诉，可能会让商家倾向于“息事宁人”。当 AI 伪造材料加入其中，恶意索赔就更容易被包装成看似完整的证据链。
对平台和商家的启示：风控要从“退款处理”升级到“证据核验”
这起案件提醒平台与商家，售后和投诉机制在保护消费者权益的同时，也需要防范被恶意利用。对于食品安全类投诉，快速响应很重要，但如果缺乏交叉核验，就可能被重复索赔者钻空子。
- 平台侧：可加强异常退款、跨区域下单、同类话术高频出现等行为识别，对疑似恶意索赔账号进行重点审核。
- 商家侧：遇到涉及伤情、医疗费等索赔，应保留订单、沟通记录、出餐监控、配送信息等证据，避免仅凭单一图片作出赔付决定。
- 技术侧：针对疑似 AI 编辑图片，可引入图片篡改检测、元数据核验、重复素材识别等工具，提升证据判断能力。
- 治理侧：平台投诉机制需要在保护真实消费者与打击虚假索赔之间取得平衡，避免“谁声量大谁获赔”的简单处理逻辑。
对于 AI 行业来说，该案也是一个典型信号：生成式 AI 已从内容创作、办公提效延伸到更复杂的社会治理场景。图片编辑、文本生成等能力被滥用后，可能影响交易信任、平台秩序乃至司法取证。未来，无论是外卖平台、电商平台，还是本地生活服务平台，都需要把 AI 伪造识别与异常行为风控 纳入基础能力建设。
影响与解读：AI 普及后，数字证据可信度需要重新建立
过去，视频、图片、病历截图往往被普通商家视为较强证明材料；但在 AI 工具普及后，数字材料的可信度正在被重新审视。并不是所有截图和图片都不可信，而是平台、商家与用户之间需要更规范的验证流程。例如，涉及医疗证明时，不能只看图片本身，还应结合时间线、订单履约、实际就诊信息、用户历史行为等多维数据进行判断。
这起外卖恶意索赔案的金额并不算巨大，但它呈现出一个更大的趋势：低成本 AI 造假可能进入日常消费纠纷。对商家而言，提升证据意识和报警意识非常重要；对平台而言，不能只依赖自动退款和客服经验处理复杂纠纷；对 AI 工具提供方而言，也应持续完善内容安全、滥用防范与可追溯机制。
目前，犯罪嫌疑人段某已被警方依法采取刑事强制措施，案件仍在进一步侦办中。随着 AI 生成与编辑工具继续普及，类似“技术赋能造假”的灰色行为可能还会出现。如何在提升工具效率的同时建立可信验证体系，将成为平台经济和数字社会治理必须面对的新课题。