人工智能神经网络-2021年国际学习表征会议拉开帷幕，受大脑结构启发

2021年国际学习表征会议(ICLR)本周拉开了帷幕，该会议致力于深度学习的研究，这是受大脑结构启发的人工智能的一个分支领域。作为世界上最大的机器学习会议之一，今年它接受了来自数千名参与者的860篇研究论文，而2020年时只有687篇。

其中一名参与研究的人员是高通公司工程副总裁Jilei Hou。他是高通人工智能研究部门的负责人，该部门专注于推动人工智能将其核心能力——包括感知、推理和行动——带到高通的硬件产品组合中。在ICLR上，侯教授和他在公司的同事们一起发表了新的论文，涉及电力和能源效率、计算机视觉、自然语言处理和机器学习基础等领域。

高通的研究虽然在某些情况下是初步的，但会因公司的市场足迹而产生影响。根据Statista的数据，2020年第二季度，高通占全球智能手机应用处理器收入的32%。截至2017年1月，该公司仅物联网芯片的出货量就超过10亿枚。

高通的一个重要研究方向是学习表示，这将使AI系统具有高数据效率和通用性。在ICLR，Hou详细介绍了该公司在无监督学习方面的工作，在无监督学习中，一种算法受制于“未知”数据，而这些数据之前定义的类别或标签并不存在。机器学习系统必须学会对数据进行分类，处理未标记的数据，从其固有结构中学习。

Hou表示，他的团队通过视频压缩端到端学习实现了最先进的性能人工智能神经网络，这是高通移动设备客户的一个关键用例。除此之外人工智能神经网络，他和他的合作者还探索了“神经增强”，即经典算法和神经网络架构可以结合起来纳入科学知识的概念。

神经增强本质上是神经网络和符号人工智能的结合，它涉及到将事实和行为规则嵌入模型中。与映射数据输入和输出的神经网络不同，符号人工智能可以对知识或程序进行编码。神经网络有助于识别那些可能过于复杂而无法明确建模的微妙模式。

Hou认为神经增强可以使神经网络模型尺寸紧凑，训练效率更高。他的团队已经在无线、多媒体和系统设计领域取得了成功。

最近，Hou和他的同事们研究了将机器学习作为一种设计方法来解决组合优化问题，比如车辆交通路线和芯片设计布局。他们声称已经用未标记的数据和强化学习训练了专门的模型，通过交互和持续的反馈来处理学习。“我们相信，机器学习和组合优化的交集将在机器学习研究领域产生深远的兴趣，并对行业产生影响。”Hou表示。

在计算机视觉领域，Hou的几个项目以分割为目标。物体分割被用于从更换视频聊天的背景到教机器人在工厂中导航的任务中。但它被认为是计算机视觉中最难的挑战之一，因为它需要人工智能来理解图像中的内容。

高通撰写的一篇论文详细介绍了分割精度的改进，另一篇描述了高通骁龙芯片组上迄今最快的视频分割效果。侯和他的同事们还创建了一个模型，可以提高分割的一致性，同时允许在移动设备上进行微调。

Hou的目标之一是通过神经结构搜索(NAS)技术来提高性能。NAS通过测试候选模型的整体性能为任务梳理出顶级模型架构，而无需手动微调。作为补充，Hou说高通正在投资个性化和联邦学习技术，允许神经网络模型在设备上不断学习，同时为了保护隐私，将数据保留在用户端。

“高通人工智能研究的使命是让人工智能无处不在，”Hou说。“高通人工智能研究正在通过量化、压缩、NAS和编译等方面的研究工作，采取一种全面的方法来进行模型效率研究……通过创建这些项目并让开发者更容易使用它们，我们正在增强生态系统的能力，以高效地运行复杂的人工智能工作负载。(他们)已经在帮助更广泛的人工智能生态系统，并对各种行业垂直领域产生现实影响。”