08 风险控制

风险与合规

明确责任、隐私、误报漏报和监管边界。

查看本项目全部研究文档

最重要的结论

这个项目最大的风险,不是“模型不够聪明”,而是:

你一旦把它卖成安全产品,就要面对误报、漏报、法律责任、隐私和运营流程的全部压力。

一、生命安全风险

1. 漏报风险

这是最高等级风险。

如果系统没有报,现场人员又因此降低警惕,后果可能比“没有系统”更糟。

2. 误报风险

如果系统频繁误报:

  • 救生员会疲劳
  • 客户会质疑系统
  • 最终报警阈值被调松,或系统被静音

3. 人机协同失效

很多方案写的是“辅助救生员”,但现场实际很容易出现:

  • 大家以为系统会看着
  • 救生员分心
  • 管理者误以为已完成风险转移

这会带来新的制度性风险。

二、法律与监管风险

1. AI 不能替代持证救生员

上海《高危险性体育项目(游泳)经营许可实施办法》明确要求:

  • 配备符合国家标准数量要求的持证游泳救生员
  • 建立溺水等突发事件应急救援预案
  • 保存监控录像日志

这意味着在泳池经营场景中,AI 很难被当作“替代救生员”的合法路径。

2. 产品宣传风险

Pool Angel 官网公开免责声明,明确表示它不能替代成人监护或专业救生员,也不能保证 100% 检测。

这很值得参考:

  • 真正做过产品的人,都不敢宣传“绝对可靠”
  • 如果你朋友在销售时过度承诺,法律风险会被放大

3. 标准仍在演进

ASTM F3698-24 已针对住宅泳池的计算机视觉溺水检测系统提出性能要求,页面摘要显示其要求在 30 秒内发出信号,并提示低可视度条件。

这说明行业正在形成标准,但也反过来证明:

  • 这个品类是严肃的安全产品
  • 一旦进入正式采购或验收,就会被追问标准、测试和责任边界

三、隐私与数据风险

1. 涉及大量视频数据

泳池是高隐私敏感场景,常涉及:

  • 未成年人
  • 近裸露状态
  • 长时间视频留存

需要明确:

  • 数据是否本地处理
  • 是否上传云端
  • 保存多久
  • 谁能看回放
  • 是否做去标识化

2. 数据采集伦理问题

真实溺水数据极难获取,既因为事件低频,也因为伦理和隐私成本高。

因此很多项目会面临:

  • 缺真实正样本
  • 使用模拟演练替代真实数据
  • 场景泛化能力不足

四、技术与运维风险

1. 场景复杂

  • 水面反光
  • 水花
  • 遮挡
  • 潜水训练
  • 多人同池
  • 儿童玩闹
  • 光照变化

都会造成识别误差。

2. 现场条件变化

  • 摄像头偏移
  • 新装遮挡物
  • 泳池改造
  • 水质变化
  • 夜间 / 暗光环境

都可能让原本可用的模型性能下降。

3. 云依赖风险

如果大量依赖云端模型:

  • 断网影响可用性
  • 带宽成本上升
  • 时延不可控
  • 第三方服务策略或价格变化

Google Cloud Video Intelligence Streaming 页面当前仍标为 Beta / Pre-GA,也说明把云端流式视频能力当成安全主链路,需要非常谨慎。

五、商业风险

1. 客户教育成本高

客户会问:

  • 有没有成功案例
  • 准确率多少
  • 出问题谁负责
  • 能不能替代救生员
  • 多少钱

如果没有标准答案,销售周期会很长。

2. 采购链条长

公共泳池、学校、体育中心往往不是个人决策,涉及:

  • 场馆管理方
  • 体育主管部门
  • 采购流程
  • 安全责任部门

3. 售后成本高

安全类系统客户最怕“装上之后没人管”。只要场地一出问题,就会回到厂商身上。

六、建议的风险控制原则

  1. 永远把产品定义成“辅助预警系统”,不是“替代救生员系统”。
  2. 主检测尽量本地化,减少对外部云能力的依赖。
  3. 明确告警分级,保留人工确认环节。
  4. 保留报警前后视频证据,建立复盘闭环。
  5. 任何对外材料都避免承诺 100% 检测或绝对安全。

关键来源