百度网站优化,wordpress 速度变慢,个人网站做百度竞价,平面设计作品集展示pixabay.com来源#xff1a;知识分子 撰文 #xff1a; 全体智源学者制版编辑#xff1a;卢卡斯编者按编者按2020年即将过去#xff0c;今年人工智能领域有哪些重大进展#xff1f;位于北京的智源人工智能研究院请 “智源学者” 们从全球的研究成果中评选了一份年度成就名… pixabay.com来源知识分子 撰文 全体智源学者制版编辑卢卡斯编者按编者按2020年即将过去今年人工智能领域有哪些重大进展位于北京的智源人工智能研究院请 “智源学者” 们从全球的研究成果中评选了一份年度成就名单其中有文本能力惊人的自然语言处理预训练模型GPT-3有惊艳结构生物学领域的AlphaFold2也有不少中国学者的成果。名单按对人工智能领域的重要性排序会是谁拔得头筹呢No.10 康奈尔大学提出无偏公平排序模型可缓解检索排名的马太效应问题近年来检索的公平性和基于反事实学习的检索和推荐模型已经成为信息检索领域重要的研究方向相关的研究成果已经被广泛应用于点击数据纠偏、模型离线评价等部分技术已经落地于阿里和华为等公司的推荐及搜索产品中。2020年7月康奈尔大学 Thorsten Joachims 教授团队发表了公平无偏的排序学习模型FairCo一举夺得了国际信息检索领域顶会SIGIR 2020最佳论文奖。该研究分析了当前排序模型普遍存在的位置偏差、排序公平性以及物品曝光的马太效应问题等基于反事实学习技术提出了具有公平性约束的相关度无偏估计方法并实现了排序性能的提升受到了业界的广泛关注和好评。No.9Google与FaceBook团队分别提出全新无监督表征学习算法2020年初Google与Facebook分别提出SimCLR与MoCo两个算法均能够在无标注数据上学习图像数据表征。两个算法背后的框架都是对比学习contrastive learning。对比学习的核心训练信号是图片的 “可区分性”。模型需要区分两个输入是来自于同一图片的不同视角还是来自完全不同的两张图片的输入。这个任务不需要人类标注因此可以使用大量无标签数据进行训练。尽管Google和FaceBook的两个工作对很多训练的细节问题进行了不同的处理但它们都表明无监督学习模型可以接近甚至达到有监督模型的效果。No.8 MIT仅用19个类脑神经元实现控制自动驾驶汽车受秀丽隐杆线虫等小型动物脑的启发来自MIT计算机科学与人工智能实验室CSAIL、维也纳工业大学、奥地利科技学院的团队仅用19个类脑神经元就实现了控制自动驾驶汽车而常规的深度神经网络则需要数百万神经元。此外这一神经网络能够模仿学习具有扩展到仓库的自动化机器人等应用场景的潜力。这一研究成果已发表在2020年10月13日的《自然》杂志子刊《自然·机器智能》Nature Machine Intelligence上。No.7北京大学首次实现基于相变存储器的神经网络高速训练系统2020年12月智源学者、北京大学杨玉超团队提出并实现了一种基于相变存储器PCM电导随机性的神经网络高速训练系统有效地缓解了人工神经网络训练过程中时间、能量开销巨大并难以在片上实现的问题。该系统在误差直接回传算法DFA的基础上进行改进利用PCM电导的随机性自然地产生传播误差的随机权重有效降低了系统的硬件开销以及训练过程中的时间、能量消耗。该系统在大型卷积神经网络的训练过程中表现优异为人工神经网络在终端平台上的应用以及片上训练的实现提供了新的方向。No.6 清华大学首次提出类脑计算完备性概念及计算系统层次结构2020年10月智源学者清华大学张悠慧、李国齐、宋森团队首次提出“类脑计算完备性” 概念以及软硬件去耦合的类脑计算系统层次结构通过理论论证与原型实验证明该类系统的硬件完备性与编译可行性扩展了类脑计算系统应用范围使之能支持通用计算。该研究成果发表在2020年10月14日的《自然》 Nature 期刊。《自然》周刊评论认为“ ‘完备性’ 新概念推动了类脑计算”对于类脑系统存在的软硬件紧耦合问题而言这是 “一个突破性方案”。No.5美国贝勒医学院通过动态颅内电刺激实现高效率“视皮层打印”对于全球4000多万盲人来说重见光明是一个遥不可及的梦想。2020年5月美国贝勒医学院的研究者利用动态颅内电刺激新技术用植入的微电极阵列构成视觉假体在人类初级视皮层绘制W、S和Z等字母的形状成功地能够让盲人 “看见” 了这些字母。结合马斯克创办的脑机接口公司Neuralink发布的高带宽、全植入式脑机接口系统下一代视觉假体有可能精准刺激大脑初级视觉皮层的每一个神经元帮助盲人“看见”更复杂的信息实现他们看清世界的梦想。No.4 DeepMind等用深度神经网络求解薛定谔方程促进量子化学发展作为量子力学的基本方程之一薛定谔方程提出已经有90多年的时间但如何精确求解薛定谔方程却一直困扰着许多科学家。2019年DeepMind开发出一种费米神经网络Fermionic neural networks简称FermiNet来近似计算薛定谔方程为深度学习在量子化学领域的发展奠定了基础2020年10月DeepMind开源了FermiNet相关论文发表在物理学期刊 Physical Review Research 上。FermiNet是利用深度学习来从第一性原理计算原子和分子能量的尝试在精度和准确性上都满足科研标准且是目前在相关领域中较为精准的神经网络模型。另外2020年9月德国柏林自由大学的几位科学家也提出了一种新的深度学习波函数拟设方法它可以获得电子薛定谔方程的近乎精确解相关研究发表在 Nature Chemistry 上。该类研究所展现的不仅是深度学习在解决某一特定科学问题过程中的应用也是深度学习能在生物、化学、材料以及医药领域等各领域科研中被广泛应用的一个远大前景。No.3 深度势能分子动力学研究获得戈登·贝尔奖2020年11月19日在美国亚特兰大举行的国际超级计算大会SC20上智源学者、北京应用物理与计算数学研究院王涵所在的 “深度势能” 团队获得了国际高性能计算应用领域最高奖项 “戈登·贝尔奖”。“戈登·贝尔奖” 设立于1987年由美国计算机协会ACM颁发被誉为 “计算应用领域的诺贝尔奖”。该团队研究的 “分子动力学”结合了分子建模、机器学习和高性能计算相关方法能够将第一性原理精度分子动力学模拟规模扩展到1亿原子同时计算效率相比此前人类最好水平提升1000倍以上极大地提升了人类使用计算机模拟客观物理世界的能力。美国计算机协会ACM评价道基于深度学习的分子动力学模拟通过机器学习和大规模并行的方法将精确的物理建模带入了更大尺度的材料模拟中将来有望为力学、化学、材料、生物乃至工程领域解决实际问题如大分子药物开发发挥更大作用。No.2 DeepMind的AlphaFold2破解蛋白质结构预测难题2020年11月30日Google旗下DeepMind公司的AlphaFold2人工智能系统在第14届国际蛋白质结构预测竞赛CASP中取得桂冠在评估中的总体中位数得分达到了92.4分其准确性可以与使用冷冻电子显微镜CryoEM、核磁共振或X射线晶体学等实验技术解析的蛋白质3D结构相媲美有史以来首次把蛋白质结构预测任务做到了基本接近实用的水平。《自然》 Nature 杂志评论认为AlphaFold2算法解决了困扰生物界 “50年来的大问题”。No.1OpenAI发布全球规模最大的预训练语言模型GPT-32020年5月OpenAI发布了迄今为止全球规模最大的预训练语言模型GPT-3。GPT-3具有1750亿参数训练所用的数据量达到45TB训练费用超过1200万美元。对于所有任务应用GPT-3无需进行任何梯度更新或微调仅需要与模型文本交互为其指定任务和展示少量演示即可使其完成任务。GPT-3在许多自然语言处理数据集上均具有出色的性能包括翻译、问答和文本填空任务还包括一些需要即时推理或领域适应的任务等已在很多实际任务上大幅接近人类水平。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
