最重要的结论
这个项目最大的风险,不是“模型不够聪明”,而是:
你一旦把它卖成安全产品,就要面对误报、漏报、法律责任、隐私和运营流程的全部压力。
一、生命安全风险
1. 漏报风险
这是最高等级风险。
如果系统没有报,现场人员又因此降低警惕,后果可能比“没有系统”更糟。
2. 误报风险
如果系统频繁误报:
- 救生员会疲劳
- 客户会质疑系统
- 最终报警阈值被调松,或系统被静音
3. 人机协同失效
很多方案写的是“辅助救生员”,但现场实际很容易出现:
- 大家以为系统会看着
- 救生员分心
- 管理者误以为已完成风险转移
这会带来新的制度性风险。
二、法律与监管风险
1. AI 不能替代持证救生员
上海《高危险性体育项目(游泳)经营许可实施办法》明确要求:
- 配备符合国家标准数量要求的持证游泳救生员
- 建立溺水等突发事件应急救援预案
- 保存监控录像日志
这意味着在泳池经营场景中,AI 很难被当作“替代救生员”的合法路径。
2. 产品宣传风险
Pool Angel 官网公开免责声明,明确表示它不能替代成人监护或专业救生员,也不能保证 100% 检测。
这很值得参考:
- 真正做过产品的人,都不敢宣传“绝对可靠”
- 如果你朋友在销售时过度承诺,法律风险会被放大
3. 标准仍在演进
ASTM F3698-24 已针对住宅泳池的计算机视觉溺水检测系统提出性能要求,页面摘要显示其要求在 30 秒内发出信号,并提示低可视度条件。
这说明行业正在形成标准,但也反过来证明:
- 这个品类是严肃的安全产品
- 一旦进入正式采购或验收,就会被追问标准、测试和责任边界
三、隐私与数据风险
1. 涉及大量视频数据
泳池是高隐私敏感场景,常涉及:
- 未成年人
- 近裸露状态
- 长时间视频留存
需要明确:
- 数据是否本地处理
- 是否上传云端
- 保存多久
- 谁能看回放
- 是否做去标识化
2. 数据采集伦理问题
真实溺水数据极难获取,既因为事件低频,也因为伦理和隐私成本高。
因此很多项目会面临:
- 缺真实正样本
- 使用模拟演练替代真实数据
- 场景泛化能力不足
四、技术与运维风险
1. 场景复杂
- 水面反光
- 水花
- 遮挡
- 潜水训练
- 多人同池
- 儿童玩闹
- 光照变化
都会造成识别误差。
2. 现场条件变化
- 摄像头偏移
- 新装遮挡物
- 泳池改造
- 水质变化
- 夜间 / 暗光环境
都可能让原本可用的模型性能下降。
3. 云依赖风险
如果大量依赖云端模型:
- 断网影响可用性
- 带宽成本上升
- 时延不可控
- 第三方服务策略或价格变化
Google Cloud Video Intelligence Streaming 页面当前仍标为 Beta / Pre-GA,也说明把云端流式视频能力当成安全主链路,需要非常谨慎。
五、商业风险
1. 客户教育成本高
客户会问:
- 有没有成功案例
- 准确率多少
- 出问题谁负责
- 能不能替代救生员
- 多少钱
如果没有标准答案,销售周期会很长。
2. 采购链条长
公共泳池、学校、体育中心往往不是个人决策,涉及:
- 场馆管理方
- 体育主管部门
- 采购流程
- 安全责任部门
3. 售后成本高
安全类系统客户最怕“装上之后没人管”。只要场地一出问题,就会回到厂商身上。
六、建议的风险控制原则
- 永远把产品定义成“辅助预警系统”,不是“替代救生员系统”。
- 主检测尽量本地化,减少对外部云能力的依赖。
- 明确告警分级,保留人工确认环节。
- 保留报警前后视频证据,建立复盘闭环。
- 任何对外材料都避免承诺 100% 检测或绝对安全。
关键来源
- 上海高危险性体育项目(游泳)经营许可实施办法:https://www.shqp.gov.cn/sport/tyzwgk/tycy/gwxx/20221106/1039728.html
- 上海市高危险性体育项目管理办法:https://www.shanghai.gov.cn/nw12344/20241115/cf30b179a6bb496d9e39084b13d37033.html
- ASTM F3698-24: https://store.astm.org/f3698-24.html
- Pool Angel 官网免责声明与产品页:https://www.poolangel.ai/ / https://www.poolangel.ai/pricing
- Google Cloud Video Intelligence Streaming: https://docs.cloud.google.com/video-intelligence/docs/streaming/live-streaming