Safety Critical Software Formal Methods

域 ID	domain.safety-critical-software-formal-methods
C 层级	C4
研究对象	Safety Critical Software Formal Methods
持续性作用	关键词显示该域主要处理研究、数据、模型、服务入口、身份记录、转化或治理接口。
证据状态	部分审查
仓库路径	domains/c4-conversion-channel/safety-critical-software-formal-methods

Safety Critical Software Formal Methods是 Human Infra 对“Safety Critical Software Formal Methods”建立的稳定研究域；其对象边界由仓库材料界定为：safety-critical-software-formal-methods/ 研究安全关键软件、形式化方法、验证确认、运行时监控、故障隔离和高可靠系统工程，如何影响 Human Infra 的医疗、AI、交通、能源和生命支持系统可信度。^[1]

研究对象与边界

本页只描述一个稳定对象：Safety Critical Software Formal Methods。它不等同于单一产品、个体方案或既成疗效；同名活动若具有不同对象、终点或治理责任，应另建页面而不是合并结论。

形式化规格、模型检查、定理证明、静态分析、验证确认、运行时监控和安全壳。
医疗设备软件、生命支持控制、自动驾驶/交通、能源控制、AI 代理工具调用和关键服务自动化。
与 model-cards-ai-audit-documentation/ 的边界：模型卡关注模型用途和限制；本域关注软件系统本身的规格、验证和失效安全。
与 cybersecurity-resilience-critical-services/ 的边界：网络安全关注攻击和恢复；本域关注正确性、可靠性和安全关键行为。

C 层级与对主体持续性的作用

本域位于 C4：可能性转换通道层。把知识、技术、医疗或制度能力转化为可达路径；其价值取决于可靠接口、证据和实际可及性。

原域给出的持续性作用为：关键词显示该域主要处理研究、数据、模型、服务入口、身份记录、转化或治理接口。。在证据上必须区分直接作用、间接作用和条件保障；除非出现预先定义的生存、功能、风险或连续性终点，不能把过程完成或机制合理性写成“实现有效永生”。

关键变量、机制链与状态变化

对象变量：形式化规格、模型检查、定理证明、静态分析、验证确认、运行时监控和安全壳。
对象变量：医疗设备软件、生命支持控制、自动驾驶/交通、能源控制、AI 代理工具调用和关键服务自动化。
对象变量：与 model-cards-ai-audit-documentation/ 的边界：模型卡关注模型用途和限制；本域关注软件系统本身的规格、验证和失效安全。
对象变量：与 cybersecurity-resilience-critical-services/ 的边界：网络安全关注攻击和恢复；本域关注正确性、可靠性和安全关键行为。

Safety Critical Software Formal Methods
  -> 改变上述可测变量与约束
  -> 改变主体能力、载体状态或外部路径可达性
  -> 改变失败率、恢复时间、资源消耗或不可逆损失风险
  -> 只有在适用对象与时间窗内改善最终功能/生存/连续性终点，才支持持续性收益

反向解释同样必要：变量变化可能只是相关、测量偏差或代理终点变化，不能自动归因于该域中的某项干预。

主要技术或治理路线

定义对象、适用人群、情境和时间窗；
建立可测变量、基线、对照和失败阈值；
比较预防、修复、替代、制度或信息路线，并把副作用与机会成本纳入。

路线比较至少要记录前置依赖、可验证终点、失败阈值、替代路线和退出条件；未来路线一律按“条件性”处理，不写虚假实现年份。

上下游依赖与替代路线

上游或高层约束：

下游技术或相邻对象：

若主要路线不能达到最终终点，应比较风险预防、损伤修复、功能替代、流程改造、社会支持或退出/转介等替代方案，而不是以增加复杂度代替证据。

当前证据状态与验证终点

2026-07-25 结构化审查完成；登记 4 条 Source Signals，其中 4 条为具体 URL、0 条为首页/搜索/聚合路由。仅核心来源或相应证据页标明“已核验”时，才可承担实质主张。

最低验证要求是：明确适用对象、基线、对照、时间窗、测量误差和预注册终点；同时报告不良结果、失败案例和分布差异。过程指标只能证明过程发生，不能单独证明主体风险下降。

反证条件：若在合格设计中未改善预设最终终点、净风险上升、效果不能重复、只在不相关模型成立，或依赖不可接受的资源与治理假设，则应降低本域路线的证据等级。

失败模式与治理边界

对象漂移：把多个不同对象、场景或人群混成一个平均结论。
代理终点替代：把点击、完成率、分子指标、短期性能或局部成功当作长期净收益。
因果越界：把相关性、机制合理性、体外/动物结果、早期临床或预测模型写成已证实的人体效果。
可达性失败：技术存在但人员、成本、供应链、法律、基础设施或维护使其不可用。
风险转移：局部风险下降但把负担转移给其他器官、家庭、群体、时间段或公共系统。
本页不提供个体诊断、治疗、用药、寿命预测、法律决策或危险实验操作建议。

开放问题

哪个最终终点最能代表本域对主体持续性的真实贡献？
哪些变量是因果中介，哪些只是相关指标或记录偏差？
效果在不同人群、地区、资源水平和长期时间尺度上是否可重复？
何种失败阈值应触发暂停、替代、转介或治理升级？
本域与相邻页面的边界是否足够稳定，是否仍存在需要拆分的对象？

仓库研究材料（保留）

以下内容来自受治理的 Human Infra 域 README，用于保留项目问题分解和历史语境；其中外部事实仍以证据页为准。^[2]

仓库概述

safety-critical-software-formal-methods/ 研究安全关键软件、形式化方法、验证确认、运行时监控、故障隔离和高可靠系统工程，如何影响 Human Infra 的医疗、AI、交通、能源和生命支持系统可信度。

核心问题：Human Infra 越依赖 AI、设备、生命支持、自动化和关键基础设施，主体持续性越取决于软件是否能在高风险边界内被证明、测试、监控和安全退化。

先验位置

有效永生 / 主体持续性最大化
  -> 主体维护系统会越来越依赖软件、控制系统、AI 代理和自动化设备
  -> 高风险软件必须可规格化、可验证、可测试、可监控、可回滚和可失效安全
  -> 若软件错误进入生命支持、医疗设备或基础设施控制，工具增强会变成主体风险源
  -> 因此安全关键软件和形式化方法是高风险工具可信域

关注对象

形式化规格、模型检查、定理证明、静态分析、验证确认、运行时监控和安全壳。
医疗设备软件、生命支持控制、自动驾驶/交通、能源控制、AI 代理工具调用和关键服务自动化。
与 model-cards-ai-audit-documentation/ 的边界：模型卡关注模型用途和限制；本域关注软件系统本身的规格、验证和失效安全。
与 cybersecurity-resilience-critical-services/ 的边界：网络安全关注攻击和恢复；本域关注正确性、可靠性和安全关键行为。

Human Infra 模型链路

安全关键软件与形式化方法 T
  -> 改变规格清晰度、验证覆盖、状态空间审查、运行时监控、故障隔离和回滚变量 X
  -> 改变高风险软件系统的可信、可审计和失效安全状态 S
  -> 改变软件缺陷、自动化事故、生命支持失效和基础设施级联风险 λ(t)
  -> 影响医疗、AI、交通、能源、照护和主体持续性

非目标

不提供攻击、规避安全壳、绕过认证、关闭监控或篡改安全关键系统的方法。
不把形式化证明写成系统绝对安全。
不替代监管认证、独立验证确认、临床安全评估或工程审查。

下一步

建立安全关键软件变量表：规格、危险分析、验证方法、测试覆盖、运行时监控、故障模式、退化策略和认证状态。
与 ai-agency-safety/、medical-device-equipment-safety-maintenance/、critical-infrastructure-lifeline-interdependency-resilience/ 和 cybersecurity-resilience-critical-services/ 建立接口。

证据路由

证据来源：NASA Formal Methods（288d23c3）：NASA Formal Methods（证据等级见来源页）^[3]
证据来源：NASA Formal Methods Symposium（6010f6f5）：NASA Formal Methods Symposium（证据等级见来源页）^[4]
证据来源：NIST Secure Software Development Framework（11918f1e）：NIST Secure Software Development Framework（证据等级见来源页）^[5]
证据来源：FDA Software as a Medical Device resources（6a786975）：FDA Software as a Medical Device resources（证据等级见来源页）^[6]