Files
Pre_Seg_Server/doc/04-api-contracts.md
admin 5ab4602535 feat: 完善视频传播、标注编辑和拆帧闭环
- 接入 SAM2 视频传播能力:新增 /api/ai/propagate,支持用当前帧 mask/polygon/bbox 作为 seed,通过 SAM2 video predictor 向前、向后或双向传播,并可保存为真实 annotation。
- 接入 SAM3 video tracker:通过独立 Python 3.12 external worker 调用 SAM3 video predictor/tracker,使用本地 checkpoint 与 bbox seed 执行视频级跟踪,并在模型状态中标记 video_track 能力。
- 完善 SAM 模型分发:sam_registry 按 model_id 明确区分 sam2 propagation 与 sam3 video_track,避免两个模型链路混用。
- 打通前端“传播片段”:VideoWorkspace 使用当前选中 mask 和当前 AI 模型调用后端传播接口,传播结果回写并刷新工作区已保存标注。
- 增强 SAM3 本地 checkpoint 配置:新增 sam3_checkpoint_path 配置和 .env.example 示例,状态检查改为基于本地 checkpoint/独立环境/模型包可用性。
- 完善视频拆帧参数:/api/media/parse 支持 parse_fps、max_frames、target_width,后端任务保存帧时间戳、源帧号和 frame_sequence 元数据。
- 增加运行时 schema 兼容处理:启动时为旧 frames 表补充 timestamp_ms 和 source_frame_number 列,避免旧库升级后缺字段。
- 强化 Canvas 标注编辑:补齐多边形闭合、点工具、顶点拖拽、边中点插入、Delete/Backspace 删除、区域合并和重叠去除等交互。
- 增强语义分类联动:选中 mask 后可通过右侧语义分类树更新标签、颜色和 class metadata,并同步到保存/导出链路。
- 增加关键帧时间轴体验:FrameTimeline 显示具体时间信息,并支持键盘左右方向键切换关键帧。
- 完善 AI 交互分割参数:前端保留正向点、反向点、框选和 interactive prompt 的调用状态,支持 SAM2 细化候选区域与 SAM3 bbox 入口。
- 扩展后端/前端 API 类型:新增 propagateMasks、传播请求/响应 schema,并补齐 annotation、导出、模型状态和任务接口的测试覆盖。
- 更新项目文档:同步 README、AGENTS、接口契约、需求冻结、设计冻结、前端元素审计、实施计划和测试计划,标明真实功能边界与剩余风险。
- 增加测试覆盖:补充 SAM2/SAM3 传播、SAM3 状态、媒体拆帧参数、Canvas 编辑、语义标签切换、时间轴、工作区传播和 API 合约测试。
- 加强仓库安全边界:将 sam3权重/ 加入 .gitignore,避免本地模型权重被误提交。

验证:npm run test:run;pytest backend/tests;npm run lint;npm run build;python -m py_compile;git diff --check。
2026-05-01 20:27:33 +08:00

11 KiB
Raw Blame History

接口契约清单

前端 API 基础配置

位置:src/lib/config.tssrc/lib/api.ts

API_BASE_URL = import.meta.env.VITE_API_BASE_URL || 'http://<current-browser-host>:8000'
timeout: 30000

前端 request interceptor 会从 localStorage 读取 token,附加:

Authorization: Bearer <token>

当前后端多数接口没有鉴权依赖,所以这个 header 主要是前端侧行为。

前端封装的 API

函数 方法与路径 状态 说明
login(username, password) POST /api/auth/login 对齐 后端返回 { token, username },前端只使用 token
getProjects() GET /api/projects 对齐 前端映射 frame_countthumbnail_url 等字段
createProject(payload) POST /api/projects 对齐 支持 namedescriptionparse_fps
updateProject(id, payload) PATCH /api/projects/{id} 对齐 后端是 PATCH /api/projects/{id}
deleteProject(id) DELETE /api/projects/{id} 对齐 当前 UI 未明显接入
getTemplates() GET /api/templates 对齐 前端从 mapping_rules 取 classes/rules
createTemplate(payload) POST /api/templates 对齐 后端会打包 classes/rules 到 mapping_rules
updateTemplate(id, payload) PATCH /api/templates/{id} 对齐 模板编辑页使用
deleteTemplate(id) DELETE /api/templates/{id} 对齐 模板编辑页使用
uploadMedia(file, projectId) POST /api/media/upload 对齐 multipart form-data
uploadDicomBatch(files, projectId) POST /api/media/upload/dicom 对齐 multipart form-data
parseMedia(projectId, options?) POST /api/media/parse?project_id=... 对齐 创建异步拆帧任务并返回 task支持 parse_fpsmax_framestarget_width
getTask(taskId) GET /api/tasks/{task_id} 对齐 查询异步任务状态
cancelTask(taskId) POST /api/tasks/{task_id}/cancel 对齐 取消 queued/running 任务,后端写 cancelled 并尝试 revoke Celery
retryTask(taskId) POST /api/tasks/{task_id}/retry 对齐 对 failed/cancelled 任务创建新的 queued 重试任务
getProjectFrames(projectId) GET /api/projects/{id}/frames 对齐 后端返回预签名 image_url以及 timestamp_mssource_frame_number
predictMask(payload) POST /api/ai/predict 对齐 前端发送 image_id/prompt_type/prompt_data/model,并把后端 polygons 转为 masks[].pathData
propagateMasks(payload) POST /api/ai/propagate 对齐 当前帧 seed mask 向视频片段传播,并保存后续帧标注
getAiModelStatus(selectedModel?) GET /api/ai/models/status 对齐 返回 GPU、SAM 2、SAM 3 的真实运行状态
getProjectAnnotations(projectId, frameId?) GET /api/ai/annotations 对齐 前端加载工作区时用于回显已保存标注
saveAnnotation(payload) POST /api/ai/annotate 对齐 工作区归档保存当前项目未保存 mask
updateAnnotation(annotationId, payload) PATCH /api/ai/annotations/{annotation_id} 对齐 工作区归档保存 dirty mask
deleteAnnotation(annotationId) DELETE /api/ai/annotations/{annotation_id} 对齐 工作区清空当前帧已保存标注
importGtMask(file, projectId, frameId, templateId?) POST /api/ai/import-gt-mask 对齐 multipart 上传 GT mask后端按非零像素值/连通域生成 polygon 标注和 seed point
getDashboardOverview() GET /api/dashboard/overview 对齐 Dashboard 初始统计、队列和活动日志
exportCoco(projectId) GET /api/export/{projectId}/coco 对齐 后端实际是 GET /api/export/{project_id}/coco
exportMasks(projectId) GET /api/export/{projectId}/masks 对齐 下载单标注 mask、语义融合 mask 和类别映射 ZIP

后端 FastAPI 接口

以下列表来自当前运行的 OpenAPI

方法 路径 用途
POST /api/auth/login 登录
POST /api/projects 创建项目
GET /api/projects 项目列表
GET /api/projects/{project_id} 项目详情
PATCH /api/projects/{project_id} 更新项目
DELETE /api/projects/{project_id} 删除项目
POST /api/projects/{project_id}/frames 添加帧记录
GET /api/projects/{project_id}/frames 项目帧列表
GET /api/projects/{project_id}/frames/{frame_id} 单帧详情
POST /api/templates 创建模板
GET /api/templates 模板列表
GET /api/templates/{template_id} 模板详情
PATCH /api/templates/{template_id} 更新模板
DELETE /api/templates/{template_id} 删除模板
POST /api/media/upload 上传视频/图片/DICOM 单文件
POST /api/media/upload/dicom 批量上传 DICOM
POST /api/media/parse 创建 Celery 拆帧任务query 支持 project_idsource_typeparse_fpsmax_framestarget_width
GET /api/tasks 查询后台任务列表
GET /api/tasks/{task_id} 查询单个后台任务
POST /api/tasks/{task_id}/cancel 取消后台任务
POST /api/tasks/{task_id}/retry 重试失败或取消的后台任务
POST /api/ai/predict SAM 2 / SAM 3 可选推理
POST /api/ai/propagate SAM 2 / SAM 3 视频片段传播并保存标注
GET /api/ai/models/status GPU 和 SAM 模型状态
POST /api/ai/auto 自动分割
POST /api/ai/annotate 保存 AI 标注
POST /api/ai/import-gt-mask 导入 GT mask 并生成标注/seed point
GET /api/ai/annotations 查询项目标注,可选按帧过滤
PATCH /api/ai/annotations/{annotation_id} 更新已保存标注
DELETE /api/ai/annotations/{annotation_id} 删除已保存标注
GET /api/dashboard/overview Dashboard 聚合快照
GET /api/export/{project_id}/coco 导出 COCO JSON
GET /api/export/{project_id}/masks 导出 PNG mask ZIP
GET /health 健康检查
WS /ws/progress WebSocket 进度通道,未出现在 OpenAPI paths 中

关键请求体

登录

{
  "username": "admin",
  "password": "123456"
}

创建项目

{
  "name": "example.mp4",
  "description": "导入说明",
  "parse_fps": 30
}

创建标准帧序列拆帧任务

POST /api/media/parse?project_id=1&parse_fps=15&max_frames=120&target_width=960

任务 payload 会记录本次拆帧参数;完成后的 result.frame_sequence 返回 original_fpsparse_fpsframe_countduration_mstarget_width、帧宽高和 MinIO object prefix。每条 FrameOut 包含:

{
  "frame_index": 0,
  "image_url": "http://...",
  "width": 960,
  "height": 540,
  "timestamp_ms": 0,
  "source_frame_number": 0
}

创建/更新模板

{
  "name": "腹腔镜胆囊切除术",
  "color": "#06b6d4",
  "z_index": 0,
  "classes": [
    {
      "id": "cls-1",
      "name": "胆囊",
      "color": "#ffae00",
      "zIndex": 280,
      "category": "腹腔镜胆囊切除术"
    }
  ],
  "rules": []
}

AI 推理请求体

前端 predictMask() 当前已适配后端 PredictRequest

{
  "image_id": 123,
  "model": "sam2",
  "prompt_type": "point",
  "prompt_data": {
    "points": [[0.5, 0.5]],
    "labels": [1]
  }
}

prompt_type 支持:

  • point
  • box
  • interactive,用于 SAM 2 交互式细化,prompt_data 同时携带 box、累计 pointslabels
  • semantic,选择 sam3 时进入 SAM 3 文本语义推理;选择 sam2 时仍回退到 auto segmentation。SAM 3 真实可用性由 /api/ai/models/status 中的外部环境和本地 checkpoint 状态决定。

选择 sam3 且发送 box 时,前端仍传 normalized [x1, y1, x2, y2],后端适配层会转换成官方几何 prompt 的 [center_x, center_y, width, height] 正框;当前 SAM 3 不接正/反点修正。

可选 options 字段:

  • crop_to_prompt:对 point/box/interactive prompt 按锚点或框附近区域裁剪后推理,再把 polygon 回映射到原图坐标。
  • auto_filter_background:过滤低分结果,并移除包含负向点的 polygon。
  • min_score:配合 auto_filter_background 使用的最低置信度阈值。

后端响应:

{
  "polygons": [
    [[0.25, 0.25], [0.75, 0.25], [0.75, 0.75], [0.25, 0.75]]
  ],
  "scores": [0.5]
}

前端会把上面的 polygons 转成:

{
  "masks": [
    {
      "pathData": "M 160 90 L 480 90 L 480 270 L 160 270 Z",
      "segmentation": [[160, 90, 480, 90, 480, 270, 160, 270]],
      "bbox": [160, 90, 320, 180]
    }
  ]
}

视频片段传播请求体

工作区“传播片段”调用:

{
  "project_id": 1,
  "frame_id": 123,
  "model": "sam2",
  "direction": "forward",
  "max_frames": 30,
  "include_source": false,
  "save_annotations": true,
  "seed": {
    "polygons": [[[0.1, 0.1], [0.3, 0.1], [0.3, 0.3]]],
    "bbox": [0.1, 0.1, 0.2, 0.2],
    "label": "胆囊",
    "color": "#ff0000",
    "class_metadata": {"id": "c1", "name": "胆囊", "color": "#ff0000", "zIndex": 20},
    "template_id": 2
  }
}

model=sam2 使用 SAM 2 video predictor 的 mask seed 传播;model=sam3 使用独立 Python 3.12 helper 中的 SAM 3 video tracker并以 seed bbox 作为初始提示。响应会返回已创建的 annotations,保存的 mask_data.sourcesam2_propagationsam3_propagation

已完成的接口对齐

  • updateProject() 已从 PUT 改为 PATCH
  • exportCoco() 已从 /api/export/coco/{projectId} 改为 /api/export/{projectId}/coco
  • Canvas 已使用真实 frame.id 作为 image_id
  • 点和框坐标已转成后端需要的归一化坐标。
  • 后端 polygons 已在前端转成 Konva 可渲染的 path。
  • saveAnnotation() 已接入 POST /api/ai/annotate
  • getProjectAnnotations() 已接入 GET /api/ai/annotations
  • updateAnnotation() 已接入 PATCH /api/ai/annotations/{annotationId}
  • deleteAnnotation() 已接入 DELETE /api/ai/annotations/{annotationId}
  • importGtMask() 已接入 POST /api/ai/import-gt-mask,导入后端生成的 polygon 标注、原始 gt_label_value 和 seed point。
  • exportMasks() 已接入 GET /api/export/{projectId}/masks
  • parseMedia() 已改为创建 Celery 后台任务,并返回 ProcessingTask
  • getTask() 已接入 GET /api/tasks/{taskId}
  • cancelTask() 已接入 POST /api/tasks/{taskId}/cancel
  • retryTask() 已接入 POST /api/tasks/{taskId}/retry
  • getDashboardOverview() 已从 processing_tasks 聚合解析队列。
  • Dashboard 任务列表已展示 queued/running/failed/cancelled 任务,并可通过 getTask() 查看失败详情。
  • 工作区导出按钮已调用 exportCoco() / exportMasks(),并会先保存未归档 mask。
  • PNG mask ZIP 已包含每帧 semantic_frame_*.pngsemantic_classes.json,重叠区域按 zIndex 裁决。

仍需处理的接口问题

  • WebSocket 地址已从 VITE_WS_PROGRESS_URL 读取,未配置时从 API_BASE_URL 推导;部署时仍要确认浏览器能访问该地址。
  • Celery worker 进度会写 PostgreSQL 任务表,同时发布到 Redis seg:progressFastAPI 订阅后广播到 /ws/progress
  • 已保存标注目前支持分类级更新、polygon 顶点拖动、顶点删除、边中点插入、多 polygon 子区域选择编辑后的 PATCH 更新和整帧清空删除;复杂洞结构的专业编辑仍未实现。