21世纪经济报道记者 朱丽娜,尹琛 香港报道
近年来,随着全球各大城市的创新浪潮此起彼伏,香港科创氛围也明显热了起来。
“香港现在整个的氛围变好了,我觉得我们在合适的时候、合适的地点点了一把火。现在香港的创科处在一个起飞的时刻,但是还没有达到它应有的高度。”香港量子人工智能实验室中心主任陈冠华向21世纪经济报道记者笑言。
1986年,陈冠华毕业于复旦大学物理系。随后,通过中美联合培养物理类研究生计划(,李政道项目)以并列第一名的成绩前往加州理工学院深造,于1992年获得物理学博士学位。在香港回归的前一年QS100名校留学,陈冠华结束在美国罗彻斯特大学博士后研究,加入香港大学化学系从事科研及教学工作。经过十年的沉淀和观察,2016年,陈冠华开始思考“如何为香港科创做点事儿”。
”香港的产业很单一,香港各大高校培养了很多人才,也有一大批科研成果,而且香港是一个国际金融中心。因此,香港发展科创业已经具备了人才、资金这两大关键因素,同时又背靠内地这个大市场,我们觉得机会很大,“他在接受21世纪经济报道记者专访时坦言。
尽管彼时大部分人并不看好香港科创业的前景,陈冠华毅然决定“赌一把”。 2016年,他和红杉全球执行合伙人沈南鹏、香港科技大学教授李泽湘联合创立了香港X科技创业平台,以导师创业辅导加上产业以及资本支持的方式,帮助香港青年人自主创业,探索香港经济多元化发展之路。
陈冠华坦言,最初想做一个纯公益项目,但后来意识到长期来看难以持续,最终采取了公益与市场相结合的方式。据了解,平台旗下的“HKX基金”组建的第一期美元基金目前已投资50余家公司,成功投出具有香港基因的“思特威”和“正浩科技”两只独角兽,以及数家拥有硬科技的准独角兽企业。
过去5年,香港特区政府大力发展创科,在该领域投放资金超过1500亿港元。2022年12月,特区政府发布《香港创新科技发展蓝图》,为香港未来创科发展制定了清晰路径和系统规划。据统计,香港初创公司由2014年的约1000家增至目前的约4000家。
2022年5月,“创新香港研发平台”()正式启动,标志着香港特区政府进一步推动创新科技发展迈向新里程。该项目致力于促进环球科研合作,有望成为香港创科生态圈的重要组成部分,让香港在全球高科技版图中占据重要席位。经过严谨的筛选和审批程序,目前共有28所研发实验室获选进驻。
陈冠华带领的香港量子人工智能实验室中心亦是其中之一。该中心由香港大学与海外合作方加州理工学院() 创立。中心采取“2+1”的策 略,“2”是指有机发光二极体(OLED)材料及锂电池,而“1”则代表整合大数据╱机器学习、运算科学和实验测量等技术,用于能源材料及设备开发的科研平台。中心将建立以人工智能为本,专为OLED、固态锂电池及化学研究而设的量子模拟平台,旨在将微电子产业在电子设计自动化方面的科研成果,转化到材料研发上。
打造科创生态圈闭环
人才汇聚是推动经济增长及社会发展的关键要素之一。1997年,香港回归祖国后,大批人才涌入香港各大高校,为“东方之珠”的科创业腾飞埋下了种子。
在陈冠华看来,尽管近年来香港的科创氛围已明显升温,科创正在成为这座国际大都市的新引擎,但科创生态圈亟需吸纳更多的人才,尤其是中层的科技人才,“香港不缺资金,但最迫切需要解决的是人才问题。初创企业可以在香港实现从零到1,但是公司发展到几十人规模,进入快速扩展阶段,就需要大量的中层人才。”
然而,他坦言,由于本地人才供应严重不足,很多初创企业转向内地或海外进行人才招募,但往往审批需要历时数月之久,“这导致香港难以建立科创生态圈的闭环,而很多初创企业根本等不起。”
事实上,破解香港的人才短缺已是迫在眉睫。2022年的特区政府的施政报告显示,过去两年香港流失约14万名劳动人口。据了解,这14万人当中,高技术人才占比约三分之二,达8.8万人。
为此,香港特区政府高调宣布了多项“抢人才”措施,其中高端人才通行证计划备受关注,自2022年12月28日“开闸”接受申请以来,因申请快捷、获批容易,迅速卷起了一阵“热潮”。根据特区政府披露的数据,截至2023年1月27日,高才通计划共接获7417宗申请,其中5799宗已获批,获批率高达78.2%。
陈冠华认为,为了尽快帮助科创企业解决人才缺口问题,特区政府需要“拆墙松绑”,以更灵活方式引入内地和海外的人才。“比如,在香港科学园或其他孵化平台的企业,可以直接招聘人才,或者在河套地区的科创企业香港大学陈冠华,“港”创科25人⑩|对话香港量子人工智能实验室中心主任陈冠华:香港科创已经起飞,“学院派”创业须以市场为本,可以直接招聘国际人才,吸引国际的优秀人才来大湾区发展。”
香港作为一个弹丸之地,却拥有5所全球排名前100的大学,高等教育资源十分丰富。陈冠华指出,经过20多年的发展,香港高校人才的储备已经到了“临界点”,“由于香港所有的学校都是公立学校,80%必须招收本地学生。我觉得可以考虑把限制放宽,或者开设私立大学,同时把东南亚海外的大量年轻人也吸引过来,还要进一步扩大人才的引进。”
根据香港科技发展蓝图的规划,到2032年,香港研发支出占本地生产总值比重从目前的0.99%提升至2%、初创企业数增至约7000家、科创产业从业人员从4.5万余人增至不少于10万人、制造业占本地生产总值的比重从1%提升至5%。
这一系列指标的实现离不开人才。陈冠华直言,由于香港缺乏本地产业链,本土市场规模小,难以留住人才,“但是,国家要考虑到因为香港从0到1需要很大的投资,所以国家的科研资金要来到香港,尤其是重大项目一定要来香港。同时,北部都会区也可以引进一些高科技企业香港大学陈冠华,形成良性循环。”
“学院派”创业的春天
陈冠华的另一个身份是香港X基金的投资人。他笑言,自己的投资原则是“坚决不投那些只做商业模式创新的公司,只投那些有硬科技的初创企业。”
在他看来,香港X基金不仅可以为有志创业的年轻人提供一套快速成长的方式方法,有一个让他们可以试错的环境,“从一个投资者的角度来说,投资的确定性会好很多,算是内行来投资,天使轮投的时候就可以知根知底。”
经过十余年的探索,香港已经涌现了一批优秀的“学院派”创业者,香港高校毕业生、海归毕业生结合大湾区的供应链、市场,大疆、海柔、等独角兽企业脱颖而出。
他坦言,“学院派”的科创团队在商品化过程中需要转变思路,“在科研背景方面,技术派是个优势。但是他们常常是有了技术才去找问题。但依照我们的经验,其实先要有问题,先要有市场痛点再去找技术找团队,是要反过来的。”
相比传统的风投基金,香港X基金的导师团队有多位来自香港各大高校的知名教授,覆盖了大数据、人工智能、机器人、能源材料、微电子、医药、医学和金融科技等多个前沿学科领域。
在陈冠华的心中,深港强强联合打造国际创科中心的潜力巨大。他曾在一次爬山郊游途中,指着深港边境向身边的朋友笑言“河套区就是未来的宇宙科创中心“,“香港是国际金融中心,深圳等大湾区内地城市拥有完整的产业链配套,可以辐射内地庞大的市场,这里很有可能是未来全球首屈一指的科创中心。”
香港是一个人口750万的小市场,对于很多初创企业而言,进入大湾区内地市场是他们必然的选择。
据了解,“HKX基金”已将业务延伸至深圳前海。从挖掘高校科技进行转化,再由香港高校教授作为创业导师提供技术研发、商业化及资源对接三方面支持,帮助香港初创公司,借助内地市场的庞大需求和大湾区产业链优势,落地产品并推向市场。
在陈冠华看来,与互联网创新阶段不同,科技创新阶段的产业发展更依赖于长期的科研技术积累和资本投入,而深港合作的优势逐步在在硬科投资领域呈现。“未来大湾区将迎来硬科技投资的黄金时期,智能终端和芯片、新能源和新材料、大健康科技这三个领域有非常大的发展潜力。”
以下为21世纪经济报道与陈冠华的问答实录:
“AI for ”发展前景很大
21世纪:您1986年在复旦大学物理系毕业之后,就去美国深造,大概有十年是在美国。这10年的海外求学经历对您的人生轨迹有什么样的影响?
陈冠华:影响很大。特别是在加州理工学院差不多6年多的时间对我影响非常大。因为那时候深深体会到东西方的教育理念是完全不同的。
我在加州理工的时候,导师基本上不管我,让我自由探索。刚开始我觉得很奇怪,心想怎么老是不教我东西呢。那个时候我才开始学会独立,独立地找课题,独立地解决问题。那个学校很小,学生总共2,000个人,800个本科生,1,200个研究生。因为地方小,所有的院系都在一起。我本身是学物理的,后来就到化学领域做研究。不同的人聚在一次,相互之间能够学到很多,1980年代的时候我就在美国接触到了人工智能,算是非常早了。
21世纪:1996年,也就是香港回归的前一年您就来到香港大学这边任教,当时是怎样的契机让您决定回到香港?
陈冠华:我在美国已经待了10年了,那时候我觉得我该学的也学了,对美国该了解的也了解了。我也特别关注香港发生的事情。那时候香港的高等教育正好有个很大的发展,以香港科技大学的成立为一个标志。
21世纪:您是把AI引入量子化学的先驱,这也是您长期以来一直关注的一个科研领域。那么人工智能在研发过程当中面临着哪些新的挑战或者是困难呢?具体会应用到哪些领域?
陈冠华:其实对于上一轮的人工智能发展,我是作为观察者,成功的并不多。但这一次的人工智能发展成果很多,特别是最近出现的Chat GPT,其实蛮有意思的。
现在科学领域, AI for 很热门,就是人工智能与科学的结合,我觉得有很大的发展前景。此外,我们还比较关心AI跟量子物理、量子力学的结合,这个领域近10年发展得特别快。
量子力学有个基本方程,叫薛定谔方程。如何快速地解方程?解出来准不准确?与实际情况是否相符?都是我们要考虑的问题,我们从20多年前就开始解这个方程了。最近比较火的领域是,比如研发的,预测几年之内会有巨大突破。
21世纪:现在大家都在讨论, 这是不是意味着AI在科研领域的应用会迎来较大的新浪潮?
陈冠华:其实Chat GPT这是自然语言,关系到语法还有文字,还是有限的。AI for 的信息量更大,几乎是无穷的,所以这两者间还是有所不同。AI for 最终会不会有新的算法出来,我觉得还是未知的;但我相信,它的规律是确定的。
公益+市场模式鼓励创业
21世纪:您除了是一位出色的科学家,也是一位投资者。在2016年,您就跟沈南鹏还有李泽湘教授他们一起创办了HKXF香港创科基金。其实当时香港的创科氛围还没有这几年这么的火热,当时为什么会有这样一个想法呢?
陈冠华:正是因为当时几乎没有人敢提这个事情。
其实20多年前,香港刚刚回归的时候,董建华先生试过一次,还请了田长霖教授一起。但是那时机会不多,香港的人才储备还不够。我们从2015年的时候就开始酝酿,看能不能通过推动香港高科技发展使香港的经济更加多元化,也给予年轻人更多的机会,这是我们当时的初心。
一开始我们想做一个纯公益的项目,但后来李泽湘教授判断,一个纯公益的项目是不可持续的,大家热情一过就过了,所以后来我们就采取公益与市场结合的模式。2016年,我们成立了HKX创科平台,里面有一个基金会,是完全公益的,主要是鼓励年轻人出来创业。还有一个孵化器,包括场地和20多位导师,以及一个纯市场运营的基金。(这个平台)现在已经孵化出了两家独角兽企业。
21世纪:与传统的PE、VC模式相比,公益与创投相结合的模式有什么好处或优势?
陈冠华:首先这是一个孵化器,可以为有兴趣的年轻人提供一套快速成长的方式方法,还有一个让他们可以试错的环境,我们对他们也能够更加了解。
从一个投资者的角度来说,投资的确定性会好很多,天使轮投的时候就可以知根知底。对年轻人来说,他有更多的成长机会。也是因为香港这个生态圈里面真正出来创业的年轻人不多,所以我们需要有这样的地方先聚集一批人才。
我们这几年试下来,发现挺成功的,现在在做HKX2.0,会更加系统化。我们在香港有一个创科学院,和李泽湘教授在深圳的创科学院是一脉相承的。我们十分关注香港的年轻人,或者从海外回来的香港年轻人,同时也很关注教授和年轻的科研人员。在美国,教授创业的路径是蛮成熟的,但在香港还不是很成熟。
21世纪:正如您所说从HKX1.0中获得了很多经验教训,具体是什么,可以和我们分享一下吗?
陈冠华:最大的问题就是,学校里面直接出来的人,在科研背景、技术方面占有优势;但是他们常常是有了技术才去找问题。依照我们的经验,其实是先要有问题,先要有市场痛点再去找技术、找团队。
还有一个就是科研技术和市场有点距离。一个科研技术真正要落地变成一个产品,要跟企业有很多来回的打磨过程,这也是一个很重要的教训。
另外,就是是股权上的激励机制安排。教授在公司发展初期起到很大的作用,但公司在快速发展成长的过程中,其他人是更重要的。年轻人或者有产业背景的年轻人,他们会起到更大的主导作用,股权上的激励机制对于他们来说就十分重要。
此外,还需要一些支持创业的政策。刚开始香港的高校其实不太鼓励创业,但近几年已经完全变了。无论是政府还是学校都支持创业,现在香港社会整体的科创环境气氛是十分好的,但政策政策指引应该更加清晰一点,更加鼓励科研团队出来。
香港大学陈冠华,深圳市长率团访问香港期间去的这家实验室,有何特别之处?
深视新闻按
香港和内地全面“通关”后,两地交流互动更加频繁。2月21日至23日,深圳市委副书记、市长覃伟中率团访问香港、澳门,并于访问期间参访了位于香港科学园的香港量子人工智能实验室。
新的一年,深港两地科创合作迎来哪些新机遇?打造国际科创中心,深港应如何携手发挥两地优势最大化?针对这些话题,深圳卫视驻港记者丘倩怡专访了该实验室中心主任陈冠华。
Q:
香港和内地全面“通关”后QS200名校留学,两地交流互动持续升温。近期,深圳有大批访问团先后到港,对此您怎么看?
香港量子人工智能实验室中心主任陈冠华:深圳市市长覃伟中2月21日到访了我们的实验室,主要聊了我们实验室的一些工作。我也介绍了实验室在新能源、新材料、半导体方面的成果。我们还展示了人工智能,覃市长也特别感兴趣。
另外,深圳市科技创新委员会主任还向提问,的回答十分到位,提问有很多口语的表达,但很聪明,都听懂了。
打造国际科创中心
深港合作是必要的
Q:
您认为这样的交流如何推动深港科创合作?对今后工作有何启发?作为科创机构,未来将如何利用好深港合作优势?
陈冠华:沟通交流中我感受到,大家都很关注科研,对前沿科学技术掌握得非常到位。我一直有一个观点,香港要成为国际科创中心,一定是跟深圳一起做的。两个城市上演“双城记”,才有可能真正做成国际创科中心,这两个城市互补性很强。
在香港,有不少的企业“0”到“1”做得还不错,之后到了深圳也发展得很好。我认为,未来要继续挖掘这方面的合作,两地一定要多交流、相互支持。
最近,大批深圳代表团和官员访港,也助推了这些方面的交流,进一步了解科研人员的关切点,清楚香港研究人员在做什么。所以,这是一种非常好的两地沟通交流的方式。
Q:
未来是否考虑与深圳重大科研平台开展合作?主要会集中在哪些方面展开?
陈冠华:我们这个实验室主要是集中在计算科学,也包括半导体里面的一些计算设计,像EDA(电子设计自动化)香港大学陈冠华,还有用人工智能来促进提高计算科学等各种各样的技术。
人工智能对我们来说是一个辅助工具。其实,香港在人工智能方面有很多很好的教授,我们也是用人工智能来解决关心的一些问题,所以很愿意加入深港两地人工智能这个平台。目前,我们有一个大湾区人工智能协会在做这件事情。
除了人工智能,还有计算科学,特别是量子化学方面,近期我的不少老朋友也被深圳吸引。无论是在大湾区研究院,还是在香港中文大学(深圳),我们实验室都有计划与深圳展开深入合作。
深圳政府科研投入大、
发展势头好、吸引人才
Q:
您提到深圳吸引了非常多科研人才,您认为是哪些因素让越来越多科研人才聚集到深圳?
陈冠华:我觉得深圳政府的投入很大,整个硬科技方面在大湾区的发展势头也很好,学校也建立了很多研究室香港大学陈冠华,深圳市长率团访问香港期间去的这家实验室,有何特别之处?,所以把很多美籍人才吸引到深圳。这是一个好信号,但是要做的还有更多。如果今后可以把世界各地的人才都吸引过来,就更好了。
Q:
深港人员流动愈加频繁,在吸引国际高端人才集聚上,深港两地有什么优势?如何在高端人才引进、培养等方面展开合作?
陈冠华:香港在吸引海外人才方面是有优势的。香港有个好处就是语言,在香港,英文是通用的,海外高端人才大部分使用英文。香港同时是一个自由港,可以自由进出也是一个很重要的因素。我觉得,未来香港可以实施更多举措,吸引世界各地的人才。
深圳同样在吸引海外华人或其他内地人才方面具有优势。此外,在大湾区,深圳在硬件尤其是产业链方面,在全世界都是领先的。特别是一些智能终端,深圳有很大优势。深港两地合作打造国际科创中心,有机会超越硅谷、波士顿科创区,前提是一定要把人才吸引过来。
Q:
在深港发挥各自比较优势的机制,包括为企业提供一些特殊的跨境运作方式,您有何建议?
陈冠华:发展高科技、科创,首先是要人才流通,其次是资金流通。就内地而言,资金体量要比香港大得多,所以内地资金不仅要能来,而且要能更容易地来到香港投资一些初创企业。
香港目前在研发方面做了很多,培养了很多人才,也孵化了不少优质团队。这些团队成熟后,都转移到了粤港澳大湾区。未来,希望继续支持香港原创的研发,资金一定要“过河”,源源不断地形成一个循环。
现在已经开了头,但还是不多、不够快。要打造一个比较健康的科研生态系统,鼓励香港继续做好从“0”到“1”的研发,同时把从“1”到无穷的部分扩展到深圳以及大湾区其他城市。
记者 / 丘倩怡 杨振华
王文平 香港大学 王文平 香港大学,上海科技大学智能感知与人机协同实验室多项研究成果入选NeurIPS
近日,国际人工智能会议2023年神经信息处理系统大会( ,)召开,上海科技大学智能感知与人机协同教育部重点实验室共有10篇论文入选,内容涵盖无监督医学成像、文本视频生成、开放世界视觉理解、视觉-语言基础模型、鲁棒深度学习、有约束强化学习等方向王文平 香港大学 王文平 香港大学,上海科技大学智能感知与人机协同实验室多项研究成果入选NeurIPS,展示了重点实验室在多模态场景感知与生成、多模态学习推理和负责任的人工智能理论方向上的高水平学术成果。
一、
场景感知与生成
Free-Bloom: Zero-Shot Text-to-Video with LLM and LDM
大语言模型执导、扩散模型作画的零样本的文本到视频生成方法
针对文本到视频生成(T2V)需求,研究提出了一个无需视频数据和任何训练的文本到视频生成框架Free-Bloom,利用具有强大图片生成能力的潜在空间扩散模型(LDMs)作为“原画师”(),大语言模型(LLMs)丰富的世界知识作为“导演”(),生成多样的视频。Free-Bloom不仅能生成高质量的视频,还能够呈现丰富的时间语义,且无需依赖昂贵的视频数据和大规模训练,有望在视频编辑、视频广告、视频教育和游戏等领域产生重大影响。
信息学院2022级硕士研究生黄涵卓、2022届本科毕业生冯宇凡为论文的共同第一作者,杨思蓓教授为通讯作者。
更多信息见项目主页: – /Free-Bloom: [ 2023] Free-Bloom: Zero-Shot Text-to-Video with LLM and LDM
Label-free Scene by
基于视觉大模型的无标签场景理解
研究探索了视觉基础模型在无标签的情况下理解2D和3D场景的潜力,提出了一种新的跨模态噪声监督 (CNS) 方法,可以利用CLIP和SAM的优势同时监督2D和3D网络。特别引入了一种预测一致性正则化来共同训练2D和3D网络,并进一步使用SAM的稳健特征表示来强制约束特征空间的一致性。实验结果展示,该方法在2D和3D开放环境下无标签场景理解的能力达到了最优。
香港大学博士、上海科技大学访问学者陈润楠为论文第一作者,上海科技大学信息学院马月昕教授和美国德州农工大学王文平教授为共同通讯作者。
论文链接:
for CT Metal
基于无监督多色阶神经表示的CT金属伪影去除算法研究
计算机断层扫描(CT)是一项重要的临床医学成像技术。但当患者体内含有金属植入物时,传统方法重建的CT图像会出现严重的金属伪影。本研究首次提出一个名为的物理模型驱动的无监督神经表示网络,通过融合神经网络和成像物理模型,成功重建了覆盖整个采集能量范围的多色阶CT图像,加权计算后即可重建不受金属伪影影响的高质量CT影像。结果显示,该无监督模型取得了与最新监督式神经网络模型一致的性能;且表现出极强的鲁棒性,远优于现有方法。
上海科技大学信息学院2022级博士生吴晴我为论文第一作者,信息学院张玉瑶教授为通讯作者。研究由上海科技大学信息学院2021级硕士生陈利瑄、上海科技大学虞晶怡教授、上海交通大学魏红江副教授、中国科学技术大学周少华教授、中国科学院计算所王册等共同合作完成。
代码请见:
论文链接:
二、
多模态学习推理
DDCoT: Duty- Chain-of- for in
让语言模型进行多模态推理的“各司其职”思维链提示
近来,思维链(Chain-of-)已被应用于提示大语言模型模仿人类进行思考,在自然语言处理领域取得了显著成效。但将大语言模型和思维链应用于多模态的场景QS200名校留学,尤其需要视觉信息的推理,还鲜有探索。研究聚焦零样本多模态原理生成和利用,提出“保持批判性思维”和“各司其职”的设计原则,并提出DDCoT提示方法和对应的视觉组件。研究在较为困难的数据集上取得了零样本和微调设置的最优结果,并进一步量化展示了成果更多发现和模型设计的有效性。
上海科技大学信息学院2022届本科生郑舸、2022届本科生学生杨斌和2022级硕士研究生唐嘉晋为论文共同第一作者,信息学院杨思蓓教授为通讯作者。
详情见项目主页:DDCoT: Duty- Chain-of- for in
for Deep
基于亲和邻域优化的深度聚类
近年来自监督学习为深度聚类研究提供了一种新的视角,通过促进邻域一致性来提升特征的鉴别性,然而样本的本地邻域很难提供鲁棒且多样化的监督信号。为解决这一问题,本工作提出了一种高效的在线重排序过程,并在基于重排序的亲和邻域里挖掘更多有信息的邻居。本工作还提出了一种渐进的边界过滤策略,以避免噪声邻居带来的问题。该方法能够容易地集成到通用的自监督框架中,并在多个聚类基准测试中超越了当前的最先进方法。
上海科技大学信息学院2022级研究生余春林为论文第一作者,信息学院汪婧雅教授为通讯作者,信息学院石野教授也参与了研究工作。
项目链接:
三、
负责任的人工智能理论
ATTA: -aware Test-Time for Out-of- in
用于分割中分布外检测的异常意识测试阶段自适应方法
密集分布外检测方向近期主要关注训练和测试阶段的数据集有相同域的情况,即假设二者之间没有域偏移。然而在真实世界中,域偏移往往存在,并会极大影响已有的分布外检测模型性能。本研究提出一种双层的分布外检测的框架,以共同处理域偏移和语义偏移。通过这种方式,研究人员可以选择性地将模型适应到未见过的领域,同时增强模型在检测新类别方面的能力。通过几个密集分布外检测的基准数据集验证了所提方法的有效性。
上海科技大学信息科学与技术学院2021级硕士生郜之桐为论文第一作者,何旭明教授为通讯作者,2017级博士生颜世鹏也参与了研究工作。
代码请见:
论文链接:
Two Sides of The Same Coin: Deep and ODEs via
一枚硬币的两面:通过同伦延拓建立深度均衡模型和神经微分方程的统一范式
隐式模型主要有深度均衡模型DEQ和神经微分方程 ODE两个分支,本研究借鉴同伦延拓的思想王文平 香港大学,首次建立了这两种模型之间的内在联系,揭示它们实际上是同一个问题的两个方面。在此基础上提出了一种新的隐式模型,继承了深度均衡模型的卓越性能和神经常微分方程的稳定性。实验验证了在准确率和模型大小两方面均超越了现有隐式模型。该模型还更好地解释了增广神经常微分方程 ODE相对于 ODE的表现会有所提升的原因。
上海科技大学是该成果的第一完成单位,信息学院2021级研究生丁枢桐与2022级研究生崔天誉为共同第一作者,信息学院石野教授为论文的通讯作者,论文合作者还包括信息学院汪婧雅教授。
论文链接:
for with Hard
简约策略优化:带硬约束安全强化学习的通用优化算法
在具有复杂硬约束的连续控制任务中,使用现有的约束强化学习算法面临极大的挑战。受广义简约梯度算法GRG的启发,研究人员提出了一种被称为简约策略优化算法RPO的新方法,其将强化学习与GRG相结合以有效地处理这些复杂的硬约束。此外还开发了三个新的基准测试环境:两个机器人操作任务和一个智能电网运行控制任务。通过在这些基准测试环境上的实验,验证了RPO在累积奖励和约束违反方面比先前的约束强化学习算法更为出色的性能。
上海科技大学是该成果的第一完成单位,信息学院2021级研究生丁枢桐为第一作者,信息学院石野教授为论文的通讯作者,论文合作者还包括信息学院汪婧雅教授和伦敦大学国王学院杜雅丽教授。
论文链接:
Fed-CO2: of and for Data in
极端数据异构下联邦学习——离线模型与在线模型的合作学习
数据异质性问题是联邦学习中的关键问题,目前尚无一个通用的算法框架可以解决多种异质性问题。针对这一挑战,本研究提出了基于模型合作的算法框架,并设计了用户内和用户间的知识迁移机制,从而更好地利用本地和全局知识。神经正切核理论证明这一算法比已有的算法FedBN具有更好的收敛表现,并在多种数据异质性情境下显著优于现有的最先进方法。
上海科技大学是该成果的第一完成单位,信息学院2021级研究生蔡中一为第一作者,信息学院石野教授为论文的通讯作者,论文合作者还包括信息学院汪婧雅教授和日本RIKEN AIP黄伟博士。
项目链接:
CSOT: and -Aware for with Noisy
带结构感知的非凸最优传输快速算法及其在带噪标签学习中的应用
现有的带噪标签学习方法往往过度依赖模型的预测,没有考虑样本分布的全局或局部结构。研究提出了一种新颖的基于课程学习和结构感知融合的最优传输问题(CSOT),同时考虑样本的分布间和分布内结构,构建一个强大的去噪和重标签赋值器。在训练过程中,标签赋值器逐步为具有最高置信度的样本分配可靠的标签,并具有全局可区分性和局部一致性。
该论文第一作者是上海科技大学信息学院2021级研究生常琬星,信息学院汪婧雅教授为论文的通讯作者,信息学院石野教授也参与了研究工作。
项目链接: