行业资讯 > 最新资讯 > 科研成果

神经网络模型规模再刷新纪录

硅谷巨头如谷歌、苹果和脸谱都在通过训练模拟人脑的神经网络模型来发展人工智能技术。据报道,美国田纳西州的数字推理公司近日宣布,已建成一个包含1600亿参数的神经网络模型——比之前的至少大10倍。

1.jpg

这一神经网络模型轻而易举地刷新了之前的纪录:谷歌和美国劳伦斯·利弗莫尔国家实验室的神经网络模型分别包含112亿参数和150亿参数。此外,数字推理公司的神经网络模型在应对含有2万个词语类比的行业标准数据集时,也表现出更好的精确性:86%的正确率,远高于谷歌神经网络模型创下的76%正确率的纪录。


数字推理公司首席技术官马修·拉塞尔在新闻发布会上表示:“我们对这一神经网络模型创造的成绩和对人工智能深度学习所做的贡献感到非常骄傲。”


近几年,由于机器学习技术取得众多突破性进展,人工智能领域正在经历一轮“复兴”。其中备受重视的机器学习策略是增强学习。运用这种策略,电脑程序通过反复试错可以得知什么样的行为可以获得奖励,但是电脑程序在处理接近现实世界难度的数据时往往力不从心。为了对其进行升级,研发人员将增强学习与卷积神经网络技术结合起来,这就是所谓的深度学习策略。


深度学习涉及对机器人构建五层或更多层的人工神经网络,这里的深度指的是神经网络的层数而不是知识的深度。在神经网络模型中,所有人工神经元都会接入数据库并共同解决问题,例如阅读书写笔迹或辨认讲话内容。神经网络模型可以通过改变神经元之间的连接方式来调整它们之间的互动并继续解决下一个问题。通过训练,神经网络模型可以学会哪种模式是处理问题的最佳途径。脸谱人工智能研究实验室负责人雅恩·乐昆曾把深度学习描述为“让机器人学习表达世界”。


数字推理公司为了让其神经网络模型在处理词语类比数据集时达到一定的精确性,使用了三台多核电脑对其进行训练。该公司计划在近期使用更大的数据集和词汇量对其神经网络模型进行测试。


热门排行

推荐阅读