没有安全可靠性保障，AI 就会像没有方向盘和刹车的跑车，外表炫酷，却无法在工程应用的现实道路上稳健前行，随时可能因失控而酿成大祸，沦为看似新奇实则毫无实用价值的 “大玩具”。
从工程应用的角度看，安全可靠性确实是至关重要的。例如在航空航天工程中，飞机的自动驾驶系统如果缺乏可靠的安全保障，一旦出现故障，可能会造成机毁人亡的严重后果。同样，在桥梁工程中，结构健康监测系统的 AI 诊断部分如果不可靠，不能准确判断桥梁的潜在安全隐患，就会威胁到桥梁上行人和车辆的安全。从这个观点来评价 AI，将它称为“大玩具”有一种警示的意味，强调了其在没有安全保障时不能真正承担起工程应用中的关键任务，就像一个看似功能强大但实际不可靠的玩具一样。
目前，AI 技术在安全可靠性方面仍然存在一些挑战。一方面，数据问题是影响 AI 安全可靠性的重要因素。如AI 模型往往是基于大量数据进行训练的。如果数据本身存在偏差、噪声或者不完整的情况，就会导致模型的判断出现错误。以智能医疗诊断 AI 为例，如果训练数据中某一类疾病的病例样本很少，那么在实际应用中，它可能很难准确地诊断出这种疾病。另一方面，AI 算法的复杂性也带来了安全性隐患。像深度神经网络这种复杂的算法结构，其内部的决策过程很难被完全理解和解释。这就像是一个 “黑箱”，工程师很难确定它在各种复杂情况下的行为是否安全可靠。例如，在自动驾驶汽车中，当遇到一些罕见的交通场景时，AI 系统可能无法做出符合安全标准的决策。
当然，现在也有许多科研人员和企业正在努力提高 AI 的安全可靠性。通过技术手段如模型验证和验证（Verification and Validation）、对抗训练等来增强 AI 系统的稳定性。比如，对抗训练可以让 AI 系统在面对一些恶意攻击（如对抗样本攻击）时，能够更好地抵御，从而提高其安全性。
尽管存在安全可靠性问题，但不能因此就完全否定 AI 在工程应用中的价值。AI 有着巨大的潜力，如果能够解决安全可靠性问题，它将为工程应用带来巨大的变革。以智能建筑为例，AI 可以用于能源管理系统。通过对建筑内各种设备的运行数据和环境数据进行分析，优化能源使用，提高能源利用效率。这不仅可以降低建筑的运营成本，还能减少对环境的影响。在工业制造领域，AI 可以用于质量检测。它可以快速、准确地检测出产品中的缺陷，提高生产效率和产品质量。
随着技术的不断进步，AI 在工程应用中的安全可靠性问题有望得到解决。通过建立更加完善的人机环境系统安全标准和认证体系，以及采用更加先进的技术和设计理念，AI 从 “大玩具” 变成真正可靠的工程工具是有可能的。
