龚克:人工智能应用于韧性治理,要依法和适度******
中新网北京12月11日电 “人工智能(AI)应用于韧性治理要依法和适度,要贯彻AI伦理原则,坚持以人为目的,以目的为中心,而不是以工具为中心,避免技术异化。”
2022人工智能合作与治理国际论坛12月9日开幕。在其中的主题论坛“人工智能引领韧性治理与未来科技”中,世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克这样指出。
2022人工智能合作与治理国际论坛由清华大学主办、清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。
世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克,在2022人工智能合作与治理国际论坛主题论坛“人工智能引领韧性治理与未来科技”中发言。主办方供图龚克认为,当前,韧性已成为可持续发展中的重要要求和愿景。“进入21世纪以来,韧性理论从生态学、工程学、心理学领域逐步延展到城市治理领域。”
在他看来,韧性发展现在已经成为重要的发展思路。“它正视困难、风险、冲击、变化,以适应力、恢复力应对之,使系统损失减少到可承受、使运行不失稳、发展不逆转。”
龚克举例指出,韧性的基础设施是韧性城市的基础,AI在提高基础设施韧性方面可以发挥积极的作用。“比如AI可以快速、精准地帮助发现地下送水管网的泄露,以实施快速修复。又比如,AI可以及时、准确预测城市用水需求,帮助实现适时适量的供水。再如,AI可以及早、准确地预报特定灾害,帮助实现预防和减损。”
“这些例子告诉我们,AI助力韧性发展的作用是无可置疑的,数据是AI发挥作用的重要基础,数据的及时、准确、全面对于AI助力韧性发展至关重要。”龚克坦言,因此,物联网的发展、多源数据的融合、数据的无偏化处理等等,特别是相关知识与数据的结合,以及降低算法对于数据规模、质量的依赖性,成为AI助力韧性发展的技术趋势。
龚克表示,“就技术赋能而言,人工智能与韧性治理的关系,包括人工智能作为治理工具和人工智能作为治理对象两方面。我认为,两者统一于人工智能在韧性治理中负责任地、符合伦理地、依法和适度地应用。”
他指出,如果AI要赋能韧性治理,就需要自身增能,增强透明度、可解释性、可靠性、鲁棒性,自身要能抗干扰、抗攻击等,让其自身成为有韧性的AI。“如果AI自身很脆弱,容易被攻击、受干扰,它非但不能助力韧性治理,还会起到相反的作用。”
同时,龚克强调,AI在用于韧性治理上,要做到依法和适度。
“就技术赋权来讲,特别强调赋权必须是依法的,要防止技术异化为权力。”他认为,AI系统作为治理工具时应能针对具体应用主体和场景,识别法律赋予的权力边界,并在任何情况下,保证包容、公平、无歧视,保证不伤害,保证人类的监督和决定权。(完)
数字化时代应加快提升工业企业工控安全保障能力****** “工控安全作为网络安全的重要组成部分,是实施制造强国和网络强国的重要基石,更是促进我国制造业转型升级、国民经济高质量发展的基础。国家工信安全中心将在工信部的指导下,全面深化工控安全保障能力建设;加强技术攻关与标准研制;营造良好的行业生态环境,为推进我国工业信息化、智能化转型发展,构建安全、稳定的工业运行环境贡献智慧与力量。”在2022年中国工业信息安全大会工业控制系统安全专题论坛上,国家工业信息安全发展研究中心副主任郝志强这样说。 1月10日,由国家工业信息安全发展研究中心、工业信息安全产业发展联盟主办,北京珞安科技有限责任公司独家承办的2022年中国工业信息安全大会工业控制系统安全专题论坛在京举行。与会人员围绕工业控制系统安全领域前沿热点话题展开讨论,聚焦工业控制系统安全防护能力建设,分享工控安全前沿防护理念、技术创新成果和优秀案例,在工业信息化、数字化、智能化转型的时代背景下,为工控安全行业发展探索方向。 “工业安全是实施制造强国和网络强国战略的基础与保障。当前,工业网络环境波诡云谲变幻莫测,工业控制系统安全面临巨大威胁与挑战。”珞安科技董事长张晓东表示,我们将发挥自身优势,加快提升工业企业工控安全保障能力,为工业生产安全及两化融合健康可持续发展撑起“保护伞”,为制造强国和网络强国战略实施筑牢“防护墙”。 以油气行业为例,中国石油集团工程技术研究院信息中心副总经理梅运谊表示,油气物联网体系框架完整、技术框架相对成熟、应用场景丰富,由于终端种类多、规模大、难监管,数据量大且分散、风险大,安全防护能力不足等原因,面临巨大安全挑战。油气田企业应从技术防护、防护管理、防护运营等方面出发,结合油气物联网实际状况,构建覆盖感知层、网络层和应用层的综合安全防护体系。 近年来,中国电子技术标准化研究院致力于工控安全标准的宣贯推广,制定了工控安全贯标工作的完整流程、开发了贯标服务平台,贯穿工控安全防护设计、建设、运维的全生命周期,切实提升工业企业信息安全防护水平和能力。“全球范围内工业信息安全事件频发,我国工控安全问题突出。国家对于工控安全问题高度重视,陆续出台工控安全相关政策法规和标准,对相关工作进行指导规范。”中国电子技术标准化研究院工控安全实验室运营总监夏冀说。 针对工业控制系统网络安全常见问题,国家工信安全中心检查评估所研究发现,工业企业在安全管理和安全技术等方面存在安全配置策略缺失、边界防护薄弱、设备安全漏洞、主机防护不足、安全管理体系不健全和供应商管理缺陷等典型问题。国家工业信息安全发展研究中心检查评估所副所长于盟建议,工业企业应从安全管理机制、安全协调小组、安全管理责任人、安全责任制和安全防护措施等六个方面落实工控安全责任,加快工控安全防护建设,做好工控安全工作。 伴随工业智能化的发展,工业基础设施与IT系统深度融合,工业走向互联与开放。绿盟科技工业互联网及物联网安全首席专家王晓鹏表示,鉴于工业形态多样的特性,现有安全架构在解决多工业场景下网络安全问题时缺乏灵活的适配能力。构建弹性灵活的安全防护体系,对于智能化发展的工业企业来说显得越发重要。绿盟科技提出构建弹性的、融合多元资源的安全能力以解决工业发展中的安全困扰。(记者 李政葳 刘昊) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |