| 
联邦政府在制定智能体AI系统安全联贯主见时，应优先议论互操作性和基于风险的方法，各大企业向好意思国国度方法与技能接洽院(NIST)抒发了这一不雅点。 NIST的AI方法与调动中心正在探索怎样匡助AI公司偏执客户保护智能体免受点窜或浪费，算作该表情的一部分，该机构在周一晚向前征求了公众观念。把柄档册纪录，超越930个组织和个东谈主提交了观念，其中包括一些有影响力的行业交易集团：好意思国银群众协会和银行计策接洽所、软件集团BSA以及科技行业巨头TechNet。 这些组织向NIST提议了开阔的建议，包括发布参考闭幕、强调安全筹备原则、营救智能体AI考证看管接洽以及将新联贯主见映射到现存NIST出书物。 TechNet暗示："一个合营、迭代的设施，专注于实用联贯、实际寰球测试以及与现存风险看管框架的一致性，将有助于确保AI智能体大约安全且大限制部署，使好意思国大约充分取得这一新兴技能的经济和社会效益。" NIST条目褒贬者盘考几个主题，包括AI智能体特有的安全风险以及消弱这些风险的设施。 在其回答中，BSA描摹了四种独到贬抑：智能体的自主行径导致实际寰球行动需要监督；智能体在不同器用间切换，使"静态策略履行"变得繁重；智能体随期间保留信息，可能让黑客通过稠浊数据源来劫抓它们；以及智能体的"非笃定性行径"使得用"基于规定的安全适度"来适度它们变得繁重。 为了搪塞这些挑战，BSA暗示，企业应该诞生对AI智能体的富足可见性，编目其权限（这有助于快速识别未授权行径），考证启动智能体行径的AI代码供应链，并及时监控其行径。 行业组织暗示，智能体特别危急的原因在于它们大约通过模子高下文条约等系统麇集到第三方数据库和物理斥地。TechNet暗示："由于AI智能体不错与器用、外部数据和实际寰球系统交互，它们带来了需要针对性存眷的独到安全挑战。" NIST并非监管机构，特朗普政府依然进展出对表任意AI安全条目的显然反对。尽管如斯，行业组织仍重申了他们频繁提议的不雅点，即对任何AI系统的缺乏规定皆会在莫得权臣改善安全性的情况下蹂躏调动。 TechNet暗示："计策主见应该是在欠亨过过早、过于法式或一刀切的条目减缓调动的情况下，减少和看管这些风险。"该组织饱读吹NIST专注于"性能界说联贯主见"。 BPI和ABA一样饱读吹NIST专注于"自觉和技能无关"的联贯，米兰提供"不错把柄风险和操作环境定制的实质示例和阐发性考证设施"。 金融劳动组织暗示："这么的联贯将促进行业取舍，营救集成谋划和基于风险的审查，包括在适那时进行守法访问，并营救死守法律和监管义务，而无需章程单一实施设施。" TechNet指出航空业是其偏好的基于性能方法的例子。该组织证明说："监管者莫得强制和解的技能筹备，而是诞生了与风险显现和操作环境关联的恶果导向方法。这一花样在飞机筹备、自主性和操作实践方面创造了生机的了了度，同期促进了调动。" TechNet补充说，AI智能体把柄使用形势、使用所在以及领有的自主权进度呈现不同的风险水平，这使得基于风险的设施"特别进犯"。 {jz:field.toptypename/}TechNet暗示，智能体AI鸿沟仍处于起步阶段，NIST的联贯"应该为实验保留挑升旨的空间，因为智能体AI安全实践络续熟识"。  该组织警告说："过于僵化或过早的条目可能会在该鸿沟笃定最好技能之前冻结安全设施。" 把柄交易组织的说法，AI行业不错从政府对开发者尚未惩处的一系列问题的建议和接洽接济中受益。 BSA饱读吹NIST接洽考证AI智能体身份的设施，以及使用"加密监管链"来纪录智能体被授权作念什么的设施。TechNet一样提到了可靠智能体识别惩处决策的进犯性，并暗示它们应该具有互操作性，以幸免将阛阓新参与者拒之门外。 跟着越来越多的银行寻求使用AI智能体来处理钞票交换，ABA和BPI饱读吹NIST提供特定于金融行业的联贯，包括"安全敌手方交互"的参考贵府。 TechNet以及ABA和BPI还条目NIST将其智能体特定联贯纳入现存出书物，如风险看管框架。 Q&A Q1：什么是智能体AI系统？它们有哪些独到的安全风险？ A：智能体AI系统是大约自主行径并与实际寰球交互的AI系统。它们的独到安全风险包括：自主行径导致的实际行动需要监督、在不同器用间切换使静态策略履行繁重、随期间保留信息可能被黑客应用，以及非笃定性行径难以用规定适度。 Q2：为什么行业组织反对过于严格的AI监管条目？ A：行业组织合计缺乏的规定会在莫得权臣改善安全性的情况下蹂躏调动。由于智能体AI鸿沟仍处于起步阶段，过于僵化或过早的条目可能会在该鸿沟笃定最好技能之前冻结安全设施，阻挠技能朝上和实验。 Q3：NIST应该怎样制定智能体AI的安全方法？ A：行业建议NIST应该制定自觉性、基于风险、技能无关的联贯主见，重心存眷性能界说而非法式条目。方法应具有互操作性，能把柄风险和操作环境定制，并为技能实验和调动保留空间，同期与现存风险看管框架保抓一致。
|
备案号: