跳到主要内容

MHS 最佳实践

七天实战

Day 3 安全边界与 Day 6 人机回环主题，配合 MHS 子站 安全边界配置器（LAB.03）动手验证。

实践指南定位​

本文档汇总 Physical AI 落地中的安全、闭环、审计、人机协作与生产化准则。适用于 Driver 作者、编排器设计与实验室 IT/QA 评审。

安全边界：分层防御​

  1. Description 声明：hard_limits / soft_limits / interlocks
  2. Driver 强制执行：write 前必 check，拒绝并 audit
  3. 编排器策略：soft limit 超限可降级或 human
  4. 硬件最后防线：快门、急停、机械限位

硬边界 vs 软边界​

类型行为示例
硬边界绝对拒绝 write激光 power_w > 5.0 W
软边界警告或需审批建议 power_w ≤ 4.5 W
操作模式参数仅在 maintenance 可调内部校准系数

离心机示例：转速 hard_limit 15000 RPM；不平衡量超阈值 hard abort；加速曲线 soft 建议。

闭环策略​

默认 verify​

除非 Description 显式 verify: none 且后果可逆，否则 write 后必须 read。MCP Bridge 默认 read_after_write。

容差设计​

物理量容差思路
温度±0.5°C 或 ±1%
功率±2% 或设备 resolution×3
位置±1 resolution 或 ±ε_um

容差写入 Description tolerance 区块，编排器与 Bridge 共用。

修正与振荡​

简单比例修正可能导致振荡。实践：

  • 限制最大修正步长；
  • 检测连续 3 次 overshoot 则 human；
  • QuEra 案例：小步长 + 高频率 read。

置信度阈值​

MIN_CONF = 0.9
if state.power_w.confidence < MIN_CONF:
    if irreversible_next_step:
        request_human("Low confidence on power read")
    else:
        retry_read(count=3)

多传感器融合可提高 confidence（见 Day 6 卡尔曼/粒子滤波）。低 confidence 禁止 irreversible write（如启动离心机）。

渐进式自治​

阶段特征
L0 全监督每 write 人工批准
L1 人机回环仅高风险点人工
L2 例外上报自主执行，异常暂停
L3 全自主仅 audit 回顾（极少场景）

CMU 案例从 L1 起步；过度谨慎会导致「暂停一整夜」——需校准阈值，不是越保守越好。

人机回环（HITL）​

触发条件建议：

  • 置信度低于 θ 且后果不可逆
  • 互锁冲突无法自动 resolve
  • 未知 fault 类型首次出现
  • soft limit 超限需 waiver

界面应展示：当前状态向量、拟议 write、风险说明、建议选项（approve/reject/modify）。

人类纠正应写回 audit 并可选进入经验库，供未来类似场景参考。

审计与合规​

每次物理操作记录：

  • who（Agent/human id）
  • when（UTC ts）
  • what（device, cmd）
  • before/after state snapshot
  • verify result
  • policy action

FDA GMP / ISO 17025 意图：记录不可篡改、可追溯、可导出。越界尝试单独标记，即使被拒绝。

生产部署要点​

零信任​

  • 设备身份证书；
  • write 指令签名；
  • 最小权限：Agent 只能访问授权 device id 列表。

与 LIMS/MES 集成​

  • MHS 负责物理执行；
  • LIMS 记录样品元数据；
  • 通过事件总线同步：step_complete → LIMS update。

预测性维护​

状态历史写入 TSDB；趋势检测 bearing wear、激光功率漂移。Maintenance Description 更新 calibration_date。

性能 SLO​

定义 read/write P95、编排任务完成时间、人工干预率。Janelia 类场景重点监控 sync 等待时间占比。

故障与 safe state​

故障safe state 示例
激光器power=0, shutter closed
离心机减速停止
加热器关闭加热，保持通风
机械臂抱闸，退回 home

safe_state 必须幂等，可多次调用。

神经符号混合​

符号层：互锁、hard limit、SOP 顺序——不可被 LLM 覆盖。神经层：任务拆解、异常解释、自然语言 HITL。世界模型层：预演风险（可选）。

Genentech 教训：LLM alone 难识气泡；增加 sample_quality 符号通道。

测试与发布​

  • Description PR 需 QA 签核；
  • Driver 版本与固件版本矩阵测试；
  • 金丝雀：新 Driver 先接模拟器再接单台设备。

反模式清单​

  1. 在 prompt 里写安全规则而不写 Description
  2. MCP tool 无 verify 开环调用物理设备
  3. 忽略 timestamp 用过期 state 做决策
  4. 无 audit 的生产 write
  5. 多 Agent 无锁并发 write

检查表（上线前）​

  • 所有 capabilities 有 tolerance 或 verify 策略
  • interlocks 有单元测试
  • safe_state 演练通过
  • audit 导出抽样通过 QA
  • HITL 界面 UAT
  • 灾难恢复：Driver 崩溃后设备状态安全

相关文档​

互锁工程案例​

激光 + 冷却 + 快门（Day 3 挑战）：

interlocks:
  - id: laser_enable
    when: "power_w > 0"
    requires:
      cooling_lpm: { min: 2.0 }
      shutter_open: { equals: false }

测试矩阵：8 种布尔组合，仅合法组合允许 write。

闭环编排 audit 示例​

{
  "event": "step_verify_failed",
  "step_id": "capture_05",
  "device": "camera-001",
  "state": {"focus_score": 0.42},
  "threshold": 0.8,
  "action": "retry",
  "attempt": 2
}

Janelia 失焦重试策略：最多 3 次，仍失败则 skip 该 tile 并标记 QA。

网络安全​

实验室 OT 网络与 IT 隔离；MHS gateway 双网卡；禁止 Agent 直连公网设备。MQTT 使用 TLS + 客户端 cert。

数据保留​

audit 保留期按合规（如 7 年）；状态 TSDB 可降采样。PII 与样品 ID 脱敏导出。

培训与认证​

MHS 子站 Day 7 认证：提交 Driver、Description、安全分析、编排设计。团队内部分级授权与 L0–L3 自治级别对应。

成本优化​

减少无效 read：事件驱动 + 变化阈值（deadband）上报。Janelia 优化后 read 次数下降但闭环仍保证。

多站点复制​

Description 与 Driver 版本 pin；站点间校准差异通过 metadata offset 声明，禁止 silent 假设。

与 SCADA 共存​

SCADA 只读 MHS 状态总线；write 仅 MHS 编排器。避免双主控制。

伦理与责任​

Physical AI 错误可损坏样品或伤人。明确人机责任边界；高风险设备默认 L0/L1。

演练：tabletop exercise​

季度演练：通信全断、冷却失效、Agent 错误 write。验证 safe_state 与 HITL escalation。

度量 dashboard​

  • 任务成功率
  • 平均 verify 次数/步
  • 越界拒绝次数
  • 人工干预率
  • MTTR 故障恢复

描述符治理（Description Governance）​

  • 版本号 semver；breaking 变更需 migration guide
  • PR 模板：安全影响、互锁变更、固件兼容范围
  • 双人 review：工程师 + QA/安全官
  • 发布与 Driver 版本 pin 在同一 manifest

运行模式 state machine​

设备 modes：idle | run | maintenance | fault。write 权限随 mode 变化；Agent 必须先 read mode 再 write 敏感参数。维护模式下方可放宽 soft limit（仍受 hard limit 约束）。

样品与实验上下文​

编排上下文携带 sample_id、experiment_id，audit 关联 LIMS。避免 Agent 混淆多样品并行实验的参数。

冗余与 failover​

关键传感器 dual read：primary 与 secondary 差值超阈值则 confidence 降级并 HITL。Driver 支持 source: secondary fallback。

能量与 EHS​

激光、化学品、高温：Description 含 EHS 等级；编排器限制 unattended runtime；超时 auto safe_state。

国际化团队协作​

Description 英文 machine-readable；人类文档可本地化。单位仍 SI，UI 本地化显示。

反例深度：MCP OK 但样品烧毁​

根因：Bridge 未 verify + 无 hard limit + Agent 连续开环 capture。修复：三层防御全部启用并 replay audit。

反例：过度 HITL 导致通量崩溃​

根因：confidence 阈值 0.99 且每步确认。修复：分级自治 L1，仅 irreversible 步骤 human。

模板：安全分析报告（SAR）​

  1. 设备概述与危害分析
  2. hard/soft/interlock 清单
  3. safe_state 定义与测试记录
  4. FMEA 前 10 项
  5. 残余风险与 HITL 策略

Day 7 认证提交 SAR 摘要。

与 ISO 17025 对齐意图​

测量 traceability：状态向量带 calibration_date；uncertainty 映射 confidence；设备维护记录链接 metadata。

容量规划​

N 台设备 × read 频率 = 总线负载；Modbus 常低于 100 req/s；CAN 看 bus load%。扩容：gateway 分片、边缘聚合 read。

结语​

最佳实践不是保守主义，而是在可验证前提下提高自治。QuEra 99.3% 来自闭环而非更长的 prompt。

离心机安全实践详解​

离心机是 Day 3 核心示例。Description 应包含：

capabilities:
  speed_rpm:
    access: read_write
    range: [0, 15000]
    verify: read_after_write
  imbalance_g:
    access: read_only
  rotor_temp_c:
    access: read_only
safety:
  hard_limits:
    speed_rpm: 15000
    imbalance_g: 5.0
  interlocks:
    - when: "speed_rpm > 0"
      requires:
        lid_closed: { equals: true }

编排器在加速前必须 read 确认 lid_closed 与 imbalance_g 正常。异常振动时 Driver 应触发硬件急停并进入 safe_state（零速）。

激光实验室 EHS 清单​

检查项Description 字段编排动作
护目镜互锁interlock eyewear未佩戴则 reject
功率硬顶hard_limits.power_w永久上限
冷却流量interlock cooling_lpm与 QuEra 案例一致
快门状态shutter_open read_only出光前 false

置信度融合示例​

双光电二极管读激光功率时：

def fuse_power(a, b):
    if abs(a.value - b.value) > 0.2:
        return StateValue((a.value+b.value)/2, "W", 0.5, now(), quality="degraded")
    return StateValue((a.value+b.value)/2, "W", min(a.confidence, b.confidence), now())

confidence 0.5 以下禁止 irreversible 步骤。

审计 immutability 模式​

  • 本地：append-only 文件 + hash chain
  • 企业：WORM 存储或 immudb
  • 字段不可事后 edit； correction 用 supplemental entry

变更管理​

Description 变更走 CAB（变更 advisory board）；紧急 hotfix 需 post-incident review。Driver 与 Description 版本在 audit 中绑定 desc_version、driver_version。

OT 网络分区​

Agent 永不直连 OT；所有 write 经 gateway 策略引擎。

反模式：prompt 里的「请勿超 5W」​

LLM 可能 hallucinate 合规。hard_limit 必须在 Driver 拒绝 6.0 W，与 prompt 无关。

发布门禁 checklist（可打印）​

  1. SAR 签字 2. HIL 报告 3. 互锁测试记录 4. safe_state 演练 5. audit 抽样 6. HITL UAT 7. 回滚 plan

药物液体处理（CMU 场景）策略表​

步骤verify 谓词失败策略
吸液volume_ul 在 ±2%retry×2
分配plate_well_id 匹配abort
incubatetemp 稳定 5minextend wait
读板signal_snr > 阈值skip well + flag

六类故障拦截应写入编排 policy 配置，而非散落在 prompt。

量子激光（QuEra 场景）微调参数​

  • read 频率：10–100 Hz（视锁频带宽）
  • write 步长：≤ 5% 全量程/次
  • accept：abs(error_hz) < 1e6 且 confidence > 0.95
  • 超时：14 s 最难案例上限，超时 → human

成像流水线（Janelia 场景）sync 模式​

使用 wait_all barrier：stage stable ∧ laser power ok ∧ cameras ready。禁止固定 sleep(5)。记录每 tile 的 verify 次数作为 KPI。

蛋白质处理（Genentech 场景）quality 通道​

Description 必须含 sample_quality enum；编排器在 quality != ok 时禁止 downstream write。HITL 界面展示最近显微 snapshot 链接。

密钥与证书轮换​

设备 cert 90 天轮换；gateway 维护 trust store；轮换期间 dual-trust 窗口。audit 记录 cert fingerprint。

备份与 DR​

Description/Driver 版本 git tag；audit 异地 replicate；gateway 冷备。DR 演练：主 gateway 失效，备机接管 discover。

供应商管理​

新设备入库 checklist：Description 模板、SAR、HIL 报告、固件 pin、培训记录。无 Description 不准接入生产总线。

温湿度与洁净度 metadata​

Description metadata.environment 应声明运行环境。编排器 read 环境传感器；超范围时 pause 并 HITL。生物实验室常见：湿度 >80% 禁止开高功率激光。

耗材与磨损 tracking​

metadata.consumables.laser_hours 递增；超维护阈值则 confidence 降级并强制 maintenance mode。Dynamic MHS 前沿：Description 随磨损自动更新建议上限。

多租户实验室​

gateway 按 tenant_id 隔离 device namespace；audit 带 tenant；Agent ACL 仅见授权设备。防止跨项目组误 write。

夜间无人值守策略​

默认 L2 但 irreversible 步骤仍 HITL 或 geo-fenced。「暂停一整夜」常因 L0 误配——review 阈值表。

与 ELN/LIMS 事件契约​

{"event":"mhs.step.complete","sample_id":"S-123","step":"incubate","state_snapshot":{...}}

物理状态 snapshot 附 ELN 条目，满足 ALCOA+ 可追溯意图。

红队演练场景​

  • Agent prompt injection 诱导超大 power write → Driver 必须拒绝
  • 伪造 MCP tool 参数类型 → schema 校验
  • 重放旧 write 指令 → 指令 nonce / timestamp 窗口

性能 vs 安全权衡文档化​

每个 soft limit waiver 需 ticket 号与过期时间；audit 关联 waiver_id。避免 permanent 放宽 soft limit。

Closing checklist 扩展（生产前 24h）​

运维值班需确认：gateway 证书未过期；所有设备 last read 小于 1h；无未关闭 waiver ticket；HITL 队列有人值守；safe_state 脚本 weekly 已跑；audit 磁盘大于 20% free；simulator 与 prod device id 无冲突。任一失败则 freeze 自主编排回 L1。

参考标准映射（非法律意见）​

标准/法规MHS 实践映射
ISO 17025calibration_date、confidence、traceability
FDA 21 CFR 11audit、电子签名、immutable log
ISO 13849机械互锁与 safe_state 功能安全意图
IEC 62443OT 分区、设备认证

具体合规请咨询 QA 与法务；MHS 提供工程能力而非认证本身。

文档维护​

最佳实践随实测案例与规范演进更新；若与 7 天 MHS 子站 课纲冲突，以安全相关条目优先遵循更严格的一方，并在团队内记录 ADR。

每次 Driver 或 Description major 版本发布前，用本文检查表做 walkthrough，并保留 signed PDF 或 immudb 导出作为内审证据。Physical AI 的安全文化比单次实验成功率更重要。详见 intro 中 QuEra、CMU、Janelia 案例的安全启示。