出品 | 搜狐科技
作者 | 梁昌均
“经典计算机体系结构存在着娘胎里带来的技术基因缺陷，这是 *** 空间会有这么多安全问题的原因。”在7月31日的ISC.AI2024数字安全峰会上，中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴表示。
他表示，AI应用系统安全可以分为非内生安全问题和内生安全问题，而其内生安全共性问题源于存储程序控制机理的自在性矛盾。“凡是包含存储程序控制构造数据元素的系统，如果不能杜绝软硬件代码设计的脆弱性，则自在性矛盾导致的内生安全问题不可避免。”
邬江兴强调，人工智能作为赋能技术，绝对不能走先发展后治理的道路，它会在 *** 安全、技术风险、社会影响等层面带来各种不同的风险。
不过，他认为AI应用系统的内生安全共性问题目前有解。 *** 安全中国学派提出了内生安全理论与拟态构造 *** ，有有利于构建一个安全可信的执行环境。
具体来看，需要打造基于构造设计的 *** 安全和功能安全。“内生安全的有效性是由它的构造决定，就像金刚石的硬度由它的分子结构决定。”邬江兴说。
他表示，任何一个AI系统都是由计算机软件硬件组成，它所存在的问题跟现在 *** 空间存在的安全是一样的问题。这些问题要得到有效的解决，需要关注AI系统内生安全的个性问题。
“这是当前AI应用推广中的更大障碍，因为它存在着所谓的不可解释性、不可判识性、不可推论性，这是AI和大模型中特有的问题。”邬江兴提到。
那么，AI系统内生安全的个性问题如何解决？邬江兴表示，需要关注AI算法的多样性和特异性表达。
具体来说，AI算法模型对输入多样性敏感，稍许加点噪声，可能就识别不出来；AI算法模型对训练模式多样性敏感，训练 *** 的多样性比较大，可能会造成不同的判断；AI模型对训练数据多样性敏感，训练时间、顺序、尺度变化也会带来不同的结果。此外，它还对推理分析能力的多样性敏感，模型对同一任务的推理能力存在差异性。
“正好我们可以利用这种多样性，因此在安全的AI应用系统中引入多个算法模型很有必要，可以有效增加判识维度，为形成对齐奠定基础。”邬江兴表示，内生安全构造需要同时满足必要多样性定律和先对正确公理，即在多样性基础上还要跟人类价值观对齐。
他认为，基于这样的内生安全架构可以发现或纠正AI应用系统安全问题。“多样化是AI系统的必要安全技术，所以在这里我斗胆建议，不要相信任何一个模型，不能指望一个系统，而是应该采用多系统，这是保证安全最重要的方式之一。”
针对同一个目标，也应该可以采用差异化的 *** 算法。“比方用文心一言，再用360的模型，就会有模型生成多样化，这种多样化保证了表达的差异性，安全性也会高于单一的系统。”
“现在国内100多种模型出来，谁更安全，使用者很茫然。很多开发商明知产品存在安全问题，但仍将问题产品推向市场，用户怎么选，这是个大问题，所以当前AI应用系统出现安全责任和风险严重失衡的问题。”邬江兴说。
这导致了目前AI应用推进中面临的更大窘境——既不能机会主义地使用安全性尚不能确保的AI应用系统，又不能完美主义地追求绝对可行的AI应用系统。
邬江兴强调，内生安全范式应当是AI应用系统健康发展的基本遵循，凡是实用化AI应用系统都应该保证必要多样性定律和相对正确公理，要从思维视角、 *** 论、实践规范等方面落实，从而实现更安全的AI应用系统。
发表评论
2024-09-23 06:46:39回复
2024-10-12 16:17:21回复