本篇文章2546字,读完约6分钟

人工智能正在迅速发展,其背后的计算力消耗也惊人。 据统计,谷歌公司开发的巴特预训语言模型有3亿4千万个数据参数,足以一次性训练所需电力的美国家庭采用了50天。

承载着人类未来巨大梦想、巨大可能性和巨大挑战的人工智能,这几年得到了巨大的快速发展,相辅相成的是人工智能越来越庞大的架构,例如总是以10亿为单位的计算单位,巨大的云计算。

最近,《麻省理工学院科技评论》公布了年度十大突破性技术排行榜,微型人工智能技术( tiny ai )居其中。 从大小到大小,人工智能是否回到了真正的道路上?

不可持续的大人工智能

我知道随着研究人员不断给算法提供大量数据,机器学习越来越聪明,但是否环保呢?答案是否定的。

不可否认,人工智能在这几年取得了很多突破。 深度学习是多个人工智能系统实现高精度的突破之一。 研究人员发现,人工智能每天都变得更准确,但也带来了隐性的环境成本。

目前,人工智能拥有庞大的数据集输入云数据中心,并被无限算法分析。 威海电气集团股份有限公司副总工程师秦志炫认为,通过数据进入云中心的过程,以及众多复杂的算法结构和精巧的训练方法获得高精度的算法模型,不仅产生了惊人的碳排放,而且限制了算法模型的运行和配置速度,

美国麻省大学阿默斯特分校的研究者的研究结论为秦志亮的说法提供了佐证。 他们通过查明算法训练的能量强度,发现训练一个算法产生的二氧化碳排放量相当于普通汽车一生的二氧化碳排放量的5倍,或者相当于飞机在纽约和旧金山之间往返约300次。 研究人员认为,在追求人工智能高准确性的过程中,似乎失去了对能源效率的兴趣。

事实上,大规模的人工智能也不适合离线或实时决策,如自动驾驶处理程序,依赖于越来越巨大的能源、巨大的带宽,在经济和生态上都是不可持续的。

另外,研究者担心的是,这种趋势也可能导致人工智能研究集中在少数科技巨头手中,在学术界和资源较少的国家,资源匮乏的实验室无法采用或开发计算成本较高的模型。

中心化或未来的趋势

人工智能已经融入了中青生活,但最终的成功依赖落地,实现大规模商用,应该是推动微型人工智能快速发展的直接原因。

为了实现人类对人工智能的远大梦想,我们从小就必须思考,从小就必须思考。 云数据主导的趋势正在改变,未来的人工智能环境将不会被中心化。 海南普惠智能科技有限公司首席执行官陈啸翔说。

海南中智信新闻技术有限企业总经理在建港认为,这与计算机的快速发展是相反的路径,计算机的快速发展经历了从个人终端到网络化、虚拟化的过程。 微人工智能是网络化、虚拟化和终端化。

以巴特为例。 巴特是谷歌公司的高级开发科学家雅各布·德弗林( jacob devlin )和他的团队开发的预训语言模型( plm ),能够理解单词和上下文,并为写作提供建议和独立文章。 根据《麻省理工学院科学技术评论》的报道,伯特有3亿4千万个数据参数。 另外,要一次性训练所需电力,足够美国家庭使用50天。

华为研究人员发表了一份拷贝称,制作了迷你巴特( tiny bert )模型,比巴特小7.5倍,快近10倍。 来自谷歌的研究者也发表了副本,说虽然制作了比巴特小60倍以上的版本,但语言理解能力比华为的版本稍差。

华为和谷歌是怎么做到的? 事实上,这两家企业采用了一种被称为知识提取的通用压缩技术的变形,就像教师训练学生一样,可以让想要缩小的大规模人工智能模型训练图像中更小的模型。

可以这样理解,微人工智能是人工智能研究界为缩小算法规模而做出的努力。 这不仅减少了模型的大小,而且加快了推理速度,保持了高水平的正确性。 也可以在边缘部署小得多的算法,以在设备上决定而不是将数据发送到云。

三个方面缩小现有模型

微小数据、微小硬件、新材料、微小算法、微小人工智能是一个综合方法,涉及数据、硬件、算法的共同开发。

在不明显影响模型精度的情况下,要缩小现有的深度学习模型,秦志炫认为可以从三个方面着手。 一是硬件端的边缘计算,二是算法端的模型简化,三是数据端的小样本训练。

无论是新技术还是新理念,是中青的关注点,还是在市场上的普及率,特别是产品的批量生产和应用。

微人工智能的具体落地场景包括语音助手、数字化化妆等,涉及实时场景理解、边缘目标检测等技术,微人工智能还包括基于移动目的地的医疗图像分析、响应时间更快的自动驾驶模型的开发等 秦志亮说。

目前,微算法通常只有几百兆到几克,完全可以安装在手机上。 建港表示,微型人工智能可以应用于所有需要前端控制的应用,即使5g加速覆盖,也能降低互联网的延迟,但对于工程控制、自动驾驶、航天等需要迅速应对的应用,本地使用人工智能算法 他认为,未来的业务形态应该是终端简单快捷的反馈,服务器做出重大决定。

2019年底的安博会上,推出了人工智能初创公司,整合低功耗、小型npu和mcu,支持市场各种主流2d/3d传感器,满足2d/3d图像、语音等识别诉求的ai处理方案备受业界关注。 另外,英伟达( nvidia )和华为等企业也相继推出了小型、功耗低、功能简单的满足算法的终端图形解决方案。

技术初期期待着缓慢而迅速的发展环境

微型人工智能还处于初期的快速发展阶段,这个行业的安全、伦理、隐私等问题也同样受到关注。

秦志亮担心的问题有两个。 一是算法歧视可能急剧增加。 他说,算法歧视之所以难以处理,归根结底是算法的可解释性和训练数据不均衡,与以前流传的云训练相比,微人工智能训练数据集的样本较少,数据分布可能更为偏颇 另一个危险是数据伪造的影响。 以通用串行网络( gan )和深度伪造技术为代表的视频和图像技术是人工智能算法的研究热点。 随着这些技术的普及,未来的客户端很可能接收或生成大量的虚拟伪造数据。 微人工智能受限于计算力的限制,在分布式互联网架构中,人们很可能会担心如何比较有效地识别这些伪造数据。

建港认为,微人工智能将导致分布式人工智能的兴起,各个终端成为ai节点,各自独立生存,可以看到区块链一样的应用。 互联网方面的控制力下降,政府的管制风险增大。 但是,技术具有两面性,在建设港口解体,虽然有这些风险,但是对人工智能的管控技术也在迅速发展,必须相信微人工智能的正面作用,在技术初期不应该限定很多框架。 (王祝华)

标题:“用“小AI”处理人工智能的“大”烦恼”

地址:http://www.e6x2f.com/xwzx/4520.html