- 新增 Seg_Server_Docker 自包含部署内容,包含前后端、FastAPI、Celery、PostgreSQL、Redis、MinIO、演示视频和 DICOM 数据。 - 保留 demo 数据以支持恢复演示出厂设置,排除 SAM 2.1 .pt 权重并在 README 中补充下载命令。 - 补充 GPU 部署、backend/worker 镜像复用、frpc/frps + NPM 公网域名反代部署说明。 - 在 .env/.env.example 中用 # XXXX 标注局域网和公网域名部署需要修改的配置项。 - 添加部署分支 .gitignore,忽略本地模型权重、构建产物、缓存和日志。
8.8 KiB
后续实施建议
目标是把当前“能看、能上传、能拆帧”的系统推进到“能真实完成标注闭环”的系统。
阶段 1:先修接口契约(已完成基础对齐)
优先级最高。AI 点/框推理和 COCO 导出的基础契约已经按当前代码完成对齐。
已完成:
src/lib/api.ts的updateProject()已改为PATCH。exportCoco()路径已改为/api/export/{projectId}/coco。- Canvas 调 AI 时已使用当前帧真实
frame.id作为image_id。 - Canvas 点/框坐标已转成后端需要的归一化坐标。
- 后端
polygons已转成前端可渲染的 Konva path。
剩余边界:
- SAM 3 相关源码和安装脚本保留,但当前产品入口已禁用:前端不展示 SAM 3,后端 registry 不暴露
sam3,model=sam3请求返回不支持。若后续重新需要文本语义提示,再恢复前端入口、registry、状态接口和对应测试。 - 标注删除/更新接口已打通基础能力;逐点几何编辑器已支持顶点拖动/删除、边中点插入和多 polygon 子区域选择编辑,复杂洞结构仍待增强。
阶段 2:打通标注保存(已完成基础闭环)
当前工作区可将未保存 mask 写入后端标注表,并在加载项目帧后回显。
已完成:
- 前端根据
Mask.segmentation构造后端需要的 normalizedmask_data.polygons。 - 用户点击顶栏保存状态按钮后,未保存 mask 调用
POST /api/ai/annotate,dirty mask 调用PATCH /api/ai/annotations/{annotation_id};按钮文案会按待保存数量显示“保存 X 个改动”或“已全部保存”。 - 后端保存或更新
project_id、frame_id、template_id、mask_data、bbox;具体分类写入mask_data.class。 - 工作区加载帧后调用
GET /api/ai/annotations回显已保存标注。 - 工作区“清空遮罩”调用
DELETE /api/ai/annotations/{annotation_id}删除当前帧已保存标注。
剩余建议:
- 加入保存冲突处理和批量保存错误提示。
- 逐点几何编辑器已支持拖动/删除顶点、边中点插入新点和多 polygon 子区域编辑;后续增强为复杂洞结构编辑。
- 区域合并/去除已支持基础 union/difference;后续增强为更明确的多选列表、操作预览和冲突确认。
阶段 3:接入导出按钮(已完成统一分割结果导出)
当前工作区“分割结果导出”会先保存未归档 mask,再调用后端统一结果导出接口。旧 COCO JSON 和 PNG Mask ZIP 接口保留为兼容路径。
已完成:
- COCO JSON 调用
/api/export/{projectId}/coco。 - PNG Mask ZIP 调用
/api/export/{projectId}/masks。 - 兼容 PNG Mask ZIP 仍保留单标注二值
mask_*.png,同时输出semantic_frame_*.png和semantic_classes.json。 - 统一导出调用
/api/export/{projectId}/results,支持整体视频、特定范围帧、当前图片三种范围,以及分开 mask、GT_label 黑白图、Pro_label 彩色图和 Mix_label 原图叠加图;ZIP 固定包含 maskid/GT 像素值映射 JSON 和原始图片文件夹,各输出文件夹按客户指定的视频名称_0h00m00s000ms_项目帧序号规则命名;GT_label 图固定为 8-bit uint8 PNG,背景为 0,类别值优先使用模板中的真实 maskid,其中maskid:0的“待分类”和背景同为 0,缺失 maskid 的旧标注才补下一个可用正整数,正整数 maskid 超出 1-255 会拒绝导出。
剩余建议:
- 无标注时给出更明确的空导出提示。
阶段 4:替换 Dashboard mock
当前 Dashboard 已通过 GET /api/dashboard/overview 读取后端聚合快照,不再使用硬编码初始统计、队列或活动日志。
已完成:
- 聚合项目、帧、标注、模板数量和主机 load average。
- 按
processing_tasksqueued/running/failed/cancelled 任务生成解析队列。 - 按最近任务、项目、标注、模板记录生成活动流。
已完成补充:
- Dashboard 对 queued/running 任务提供取消按钮。
- Dashboard 对 failed/cancelled 任务提供重试按钮。
- Dashboard 详情弹窗展示任务 error、payload、result、Celery ID 和时间。
剩余建议:
- 为 Dashboard 增加任务历史筛选。
阶段 5:异步拆帧和进度
Word 方案中提到 Celery + Redis。当前已经有 Celery app、worker task 和 processing_tasks 表。
已完成:
- 新建 Celery app。
POST /api/media/parse只创建任务并立即返回 task id。- worker 执行 FFmpeg/OpenCV/pydicom。
- worker 写 PostgreSQL 任务进度。
- worker 发布 Redis
seg:progress,FastAPI 广播到/ws/progress。
已完成补充:
POST /api/tasks/{task_id}/cancel取消 queued/running 任务,并尝试 revoke Celery。POST /api/tasks/{task_id}/retry为 failed/cancelled 任务创建新的 queued 任务。- worker 在关键阶段检查 cancelled 状态,避免取消后继续写帧。
- Redis/WebSocket 进度事件增加
cancelled类型。
Dashboard 的解析队列现在已经从“项目状态派生”升级为任务表驱动,实时推送也已通过 Redis/WebSocket 打通;剩余重点是任务历史筛选和更细的 worker 中断粒度。
阶段 6:GT 导入与点区域(已完成基础增强版)
Word 方案中的完整版本包含距离变换、骨架提取和聚类。当前已经完成基础增强版:导入二值/标签 mask 图片后,后端按非零像素值拆分类别,再按连通域生成高精度 polygon 标注;导入结果与普通 mask 共用拓扑统计、边缘平滑、编辑和保存链路,前端不显示或拖动 seed point。
已完成:
- 工作区左侧工具栏提供“导入 GT Mask”入口,位置在“重叠区域去除”之后。
- 前端调用
POST /api/ai/import-gt-maskmultipart 接口。 - 后端按非零像素值拆分多类别 mask。
- 后端使用 OpenCV 高精度 contour 提取每个类别下的连通域,尽量保留边界细节,并用点数上限保护前端性能。
- 后端保留 distance transform
pointsseed 供数据兼容。 - 导入结果写入
annotations表并回显为工作区 mask。 - 前端不显示 seed point,也不提供 seed point 拖动;导入 mask 与普通 mask 保持一致的可选中、顶点编辑、拓扑统计、边缘平滑和保存体验。
剩余建议:
- 增加骨架提取和聚类增强。
- 为多类别像素值提供模板分类自动映射规则。
阶段 7:模板优先级融合(已完成导出侧裁决)
当前导出 PNG Mask ZIP 时已经按 class/template z-index 做重叠裁决,从低到高覆盖,生成每帧 semantic_frame_*.png。
已完成:
- 标注保存时记录 template class id / name / maskid,并保留内部覆盖优先级。
- 导出 mask 时按内部优先级从低到高覆盖。
- 同类语义值在融合图中共享同一个 class value。
- 跨类重叠由更高内部优先级覆盖更低内部优先级;maskid 不作为排序规范。
剩余建议:
- 在前端预览重叠裁决结果。
- 对多帧多类导出增加颜色 palette PNG 或可视化 legend。
阶段 7.5:视频片段传播(已完成基础闭环)
当前工作区传播功能会使用当前打开参考帧的全部 mask 作为 seed,按用户设置的传播起始帧和传播结束帧向前、向后或双向传播,并把结果写入后端标注表。前端只保留一个“自动传播”按钮,减少传播对象选择带来的歧义。
已完成:
- 前端
propagateMasks()已接入POST /api/ai/propagate。 - 工作区会把 seed mask 的 normalized polygon、bbox、label、color 和 class 元数据传给后端。
- SAM 2 路径使用官方
SAM2VideoPredictor.add_new_mask()和propagate_in_video()。 - SAM 3 video tracker 路径已从当前产品入口禁用,相关 helper 仅保留作后续恢复参考。
- 后端会跳过源帧,把传播结果保存到后续帧
annotations,并在完成后由前端刷新回显。 - 前端已经支持参考帧、起止帧范围和单按钮自动传播;多个 seed 或前后双向范围会拆成多次顺序调用单 seed 后端接口。
剩余建议:
- 把传播任务改为异步任务,接入 Dashboard 和 WebSocket 进度。
- 增加覆盖已有标注策略设置,例如跳过已有、覆盖同类、全部覆盖。
- 用真实长视频做 SAM 2 tracker smoke test 和质量评估;如果未来恢复 SAM 3,再单独补充 SAM 3 tracker 评估。
阶段 8:清理 UI 文案与 Mock
建议统一这些文案和真实能力:
- SAM/GPU 状态已改为
GET /api/ai/models/status驱动。 - 撤销/重做按钮已接全局 mask 历史栈。
- “重新提取内侧中轴树骨架”接真实接口,否则标为未实现。
- AI 独立页已移除固定 Unsplash 演示图;没有当前项目帧时显示空状态。后续如果要支持独立图片分析,应接正式上传入口和项目/帧关联。