2023-07-09 10:43:41 来源:21世纪经济报道
“ICT(信息通信技术)和AI之间的加速融合正在创造自主系统,这是从弱AI到AGI(通用人工智能)的一大步。”
(资料图片仅供参考)
7月7日,在2023世界人工智能大会区块链+WEB3新发展论坛上,图灵奖得主、中国科学院外籍院士Joseph Sifakis也围绕人工智能带来诸多前沿技术的研究和思考。
他指出自主系统是迈向AGI的重要一步,而要实现这一步还有很长的路要走,未来前行方向包括设计出围绕可信组件构建可信系统的技术、发展新的科学和工程基础、验证智能系统等。
模型检查领域作出杰出贡献
不像同为图灵奖得主的Yann LeCun,既有一个相当中文的名字“杨立昆”,又在Meta这样为大众所熟知的科技大厂任首席科学家,还有一些诸如“深度学习之父”等响亮易懂的称号,Joseph Sifakis则隐秘许多,聊到他,自然离不开他在模型检查领域所做的杰出工作。
如人们对工程开发的预想,在实际部署之前,为了避免不必要的失败,包括系统在内的所有组成都要严格检测可能存在的错误和缺陷,因为很多时候,一个小小的bug就会让全部努力“付诸东流”。例如1996年6月,欧洲12国联合研制的Ariane 5型运载火箭在首次发射时,仅由于一行代码的溢出错误就导致火箭发射失败,数亿欧元因此放了“烟花”。
随着科技的发展,各种系统也越来越复杂,如今一台汽车所涉及的代码就可以达到上亿行,手动验证系统的安全性与可靠性就是一件几乎不可能实现的事情。
在这样的背景下,Joseph Sifakis在内的几位计算机科学家在1981年提出模型检查的概念。
在提出模型检查的概念后,Joseph Sifakis也一直在积极推动模型检查在嵌入式系统领域的应用,直到如今,模型检查依旧是一个活跃的研究和开发领域,研究人员努力提高其拓展性、准确性和可用性。Joseph Sifakis也因其在模型检验领域的杰出贡献在2007年共同荣获了计算机领域的最高奖项——图灵奖。
所谓嵌入式系统,简单理解即火箭、汽车、手机等设备等所搭载的各种控制系统,随着物联网的兴起,形形色色的智能化产品也让嵌入式系统出现在我们日常生活的每个角落。
“物联网革命的背后是,对互联的智能对象提供的资源管理自动化和增强人们生活质量需求的日益增长。”作为长期深耕行业的大牛,Joseph Sifakis早前也发表过许多相关的见解。
物联网之后,大模型掀起一波新的高潮,生成式AI重新点燃了人们对AGI的兴趣,而AGI的最终愿景就是机器代替人类完成各种复杂的任务,也就是在各种场景下构建可以自主运行的系统,Joseph Sifakis指出,构建自主系统是从弱人工智能到AGI的重要环节。
Joseph Sifakis专门强调了自动化系统和自主系统之间的区别,虽然二者都涉及与环境交互,但区别在于不同的意识感知和决策机制。
“自动化系统以恒温器为例,它只需要从环境中读温度取值,再对温度进行调节,这是一种静态的控制。而对于自动驾驶来说,事情要复杂得多,这种自主系统需要更加复杂的传感器和驱动器,并且要对得到的图像进行逐帧分析,识别障碍物,然后输入运动学的属性,感知功能相当于一个对外部世界的认知模型,自主系统基于这个模型进行决策,从而完成动态的目标管理。”Joseph Sifakis表示。
而要弥合自动化和自主性之间的差距,Joseph Sifakis认为还有很长的路要走,“这也是我们从自动驾驶中认识到的,过渡不是渐进的,为了实现完全自主的愿景,我认为需要发展新的科学和工程基础,而这需要一些时间。”
亟需新范式
“今天,弱Al为我们提供了构建智能系统的元素,但我们没有像建造桥梁房屋一样总结建立复杂智能系统的理论。”Joseph Sifakis表示。
环境的不确定性和决策的复杂性则共同组成了通往AGI路上的绊脚石,而Joseph Sifakis在内多位行业大牛也坚定认为无法绕开这些挑战实现真实可靠的自主和智能。
在ChatGPT爆火之后,美国斯坦福大学组织行为学副教授Michal Kosinski实验发现,ChatGPT回答问题的正确率高达93%,并认为其心智理论能力相当于9岁的人类儿童。
这也引来诸多AI领域人士的反对声音,如北京通用人工智能研究院院长朱松纯认为大语言模型并不符合通用人工智能的要求。
坚决反对“AI末日说”的杨立昆也表达过类似的观点:GPT等大模型的关键缺陷在于其只学习了文本或者其他单一数据,对现实世界的了解十分浅显,而人类的知识和文明不全是从书本上获得的,“书呆子”AI未必有多聪明。
“即使GPT能通过类似测试,也只是体现了它具备通过这个心智理论测试的能力,并不能说明它具有心智理论,同时我们也要反思:用这些传统测试任务来验证机器是否发展出心智理论的做法是否严谨合法?为何机器可以不用心智理论就能完成这些任务?”朱松纯表示。
而Joseph Sifakis则认为,人类的思维与大语言模型背后的神经网络之间有着两个根本区别:一是人类的思维更加稳健,相比之下,神经网络即使面对细微的问题变化,也会产生完全不同的答案,二是人类思维基于常识知识,更能避免在答案中产生矛盾。
不过,对于通用人工智能,两人都呼吁相似的从感知认知到决策执行的新范式。
Joseph Sifakis指出,传统构建系统工程的方法,虽然能够应用于飞机制造以及普通生产制造系统,但无法胜任更复杂的自主系统,而对于自动驾驶领域中另一种试图绕开环境感知与复杂决策的端到端的解决方案,即以行驶过程中由摄像头采集到的道路场景图像和人为操作车辆的控制参数数据作为数据样本训练的自动驾驶大模型,Joseph Sifakis也给予了否定。
“由于目前人工智能输出的方案缺乏可解释性,其输出的结果有时候未必可靠,系统工程的构建是一个突破点,我们需要从小规模、集中式、环境变量可被设定的自动化系统,转向复杂的、分布式的自主系统。”Joseph Sifakis说。
“我认为我们应该承认智能系统需要严格的验证方法,诚实地克服当前的限制性,开发新的基础,并在必要时可能修改认识和方法要求,但是要小心,要了解我们在做什么。”Joseph Sifakis补充道。
(文章来源:21世纪经济报道)
标签:
- 电信诈骗致2万余人受骗 26名涉案被告人在长春受审
- 内蒙古扎赉诺尔区除提供主副食品商店和药店外 其余暂时停业
- 黄埔海关破获案值5.2亿元走私进口木材案
- 四川省纪委监委曝光6起工程招投标领域突出问题系统治理典型案例
- 内蒙古满洲里新增本土确诊病例8例
知识
- 他把银行卡卖给骗子,“黑吃黑”“截胡”十万元
- “老司机”4S店试驾豪车 结果油门当刹车撞了
- 新开工改造城镇老旧小区5.34万个
- 发动巡河志愿者2万余名 “用心护好每一条河”
- 假客服的套路:伪装成大平台客服,层层布局引人上钩
人物
- 浙江两轮核酸检测结果均为阴性 无新增本土阳性感染者
- 新疆阿克苏地区库车市发生4.1级地震 震源深度18千米
- 抵返哈尔滨人员须持48小时内核酸检测阴性证明
- 浙大紫金港校区已解封 有7337人有序离开该校区
- 2021年广东省第七届风筝锦标赛落幕
- 黑龙江讷河市启动全员核酸检测 目前讷河市全员核酸检测结果均为阴性
- 【同心粤港澳 携手大湾区】南头古城,搭建深港澳三地文化创意活动交流平台
- 重庆入河排污口整治工作推进至全市26个区县
- 四川省第二批政法队伍教育整顿:立案审查调查省级政法机关干警58人
- 长三角区域生态环境部门“云签约”长江大保护倡议书
- 古老长城重焕新生机
- 藏不住了!你同事里有许多“武林高手”……
- 浙江杭州2例无症状感染者系感染德尔塔变异株
- 喜马拉雅的深情和誓言
- 浪漫之城打造山海城一体新地标
- 让老年人更适应数字生活
- 内蒙古通辽市新增1例本土确诊病例、1例无症状感染者
- 徐州无新增确诊病例 核酸检测55515人结果均为阴性
- 甘肃培树“农家巧娘”增技能:返乡创业掌勺又“掌柜”
- 内蒙古通辽市科尔沁区一地调整为中风险地区
- 上海本轮疫情涉及闭环管理的医疗机构全面恢复门急诊
- 青年学生成艾滋病感染高发人群 “社会疫苗”如何打?
- 内蒙古满洲里新增本土确诊病例1例 当地开展第二轮大规模核酸检测
- 江西无新增本土确诊病例 上饶全面恢复正常生产生活秩序
- 中老铁路上会四国语言的列车长:用心维护中老友谊的桥梁
- 海南首次发现有环志的世界极危鸟种勺嘴鹬
- 一场“网络劝生者”和“网络劝死者”的战役
- 内蒙古通辽新增本土确诊和无症状感染者各1例 轨迹公布
- 江西中烟工业有限责任公司原总经理姚庆艳接受审查调查
- 宁夏45例新冠肺炎确诊病例均已治愈出院
- 内蒙古通辽市科尔沁区发现2名初筛阳性人员
- 生活在闹钟里的丈夫:自己迟一秒,渐冻症妻子就会多一分疼
- 辽宁新冠肺炎确诊病例零新增
- 11月28日16-24时,内蒙古新增本土确诊病例1例
- 奥密克戎毒株为何“需要关注”?现有防疫工具还有效吗?
- 黑龙江新增本土无症状感染者1例
- 这辈子一定要去趟这个公园 在这里“有种爱叫放手”
- 那年今日 | 一张漫画涨知识之11月29日
- 寒潮预警!我国中东部迎大范围降温 黑龙江等地降幅可达12℃
- 冷空气继续影响我国中东部 华北黄淮等地有雾和霾天气