可靠性是军用AI的“阿喀琉斯之踵”

机器学习算法和自学软件是新兴人工智能技术的核心。这些应用程序通过使用所谓的深层神经网络和学习方法，可根据“经验”重写自身代码，以更好地完成系统任务。因此，在这种数据环境中建立明确的输入和输出单一路径有潜在困难，这点在许多民用领域尚可接纳，但在军用领域引发了许多难题。如何解决可靠性问题成为武装部队和防务部门的重大挑战。

军用AI的挑战不仅来自于对人工智能软件系统的验证问题和内在可靠性，还来自于系统脆弱性问题。已有实验表明，通过利用软件自身的局限，可用类似于内置识别对象的图片来“欺骗”图像识别软件。同时，通过重写原有代码和军事系统来实现AI学习功能的技术手段，与确保武器和国防安全的传统方法相背离。因此，要实现AI在军事领域的充分运用，必须克服上述缺点。这很可能需要新方法对系统可靠性进行改良。

各国军方都期待自动武器系统和人工智能联合起来保证自身军事优势地位。比如，增加自动化武器可以提高通讯恶化条件下的抵抗力，使单兵操作员控制和监视更多的无人平台。人工智能和自动化武器的结合产生了新的技术和战术可能性。从中长期来看，自动化和人工智能技术合并开发具有相当大的“飞跃”潜力。当然，首先要确保朝着正确的方向“飞跃”。

为寻求市场机会和降低成本，民间商业投资在机器人、自动化、自主技术和人工智能诸领域的投资已远超政府。当然，军方和国防工业部门都热衷于利用这些投资，但是至少在西方，军用人工智能能否满足具体的军事需求取决于其必须解决技术的可靠性和系统行为问题。

机器人、自主武器和人工智能的军事潜力和局限性在最近由英国国防部发展、概念和理论中心发表的《人机编队》中得到了探讨。无论是处于战争还是和平年代，操作人员对于战斗设备、武器和弹药的安全使用是第一位的，因此关于武器弹药采购的规定要比商业领域和其他行业严格很多。比如，军事航空管理局必须确保英国的军机和直升机安全，即“要求管理英国军事注册的飞机，确保其军用航空安全运送和执行符合规章制度”。实质上，政府要付出巨大努力才能保障英国军方所采购的武器、弹药、导弹和爆炸品的安全。

如要实现良好的自动化武器、人工智能和机器学习的潜在效益，开发确保安全可靠的新方法是必不可少的。这需要武装部队、国防部、采购机构和国防工业合力开发新的安全体系，共同保障军用品的安全。由于这影响到自动化和人工智能在民用和国防上的实际运用，这就使军用人工智能技术与民用技术有潜在的合作机会。例如，可采取必要措施批准民用无人驾驶汽车用于军用物流运输；同样，军用无人驾驶飞行器的集群智能技术也可用于非军用领域的环境传感系统，或用于科研用途的微型无人机。如果不事先解决这些问题，将会给军用人工智能技术的发展运用带来风险。且随着时间的推移，风险系数随之增长。