2020年7月25日-26日,2020GAITC在杭州未来科技城成功举办,潘云鹤院士在25日上午的大会开幕式上做了题为“视觉知识有关的五个问题“的报告,对AI2.0时代的知识表达做了深入阐述,提出了由知识图谱、视觉知识和深层神经网络等构成的人工智能三重知识表达机制……
我们的大脑是一个极其复杂的生物动力学系统,它是我们个体行为、思想和情感的基础。鉴于神经系统的复杂性,从分子到神经回路再到功能的各个层面,理论和建模被越来越多地视为理解神经科学的必要条件……
陶教授回顾了深度学习理论的发展,并介绍了最近在深度学习理论研究方面的进展,具体包括,为什么深层结构优于浅层结构?为什么随即梯度下降算法对于理解深度学习的泛化能力非常重要?以及深度学习模型的损失曲面有什么样的几何性质……
痛觉是人和动物感知机体内外环境变化和威胁的重要途径,在维持个体生存和健康方面发挥重要作用。然而,慢性疼痛给患者带来极大痛苦,严重影响患者的生活质量,是亟需解决的重要临床难题之一。深入解析痛觉信息处理的神经机制将有助于发现慢性疼痛治疗的新靶点……
语言模型分为三个发展阶段:早期基于概率统计、无法学习语言结构的黑暗时代(Language Models in The Dark Ages);之后则是启蒙时代的神经语言模型(Enlightenment era neural Language Models),特点是具备一定学习语言结构的能力;2018年始,基于Transformer结构的大参数量预训练模型(Big Language Models)大行其道……