请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
“我做的是图像识别方向。传统的方法是把图像的特征用人工的方式定义好,边缘、角点、纹理,然后交给分类器去学。”
“但人工定义的特征,总有一个上限。换一个场景,换一种光照,换一个角度,那些手工特征就废了。”
他一边一边操作电脑,屏幕上出现了几张模糊的、光线很暗的人脸照片,分辨率很低,大概只有几十个像素见方。
“我的做法不一样。我不去定义特征。”
“我给网络一堆原始的像素,让它自己从数据里学出该看什么。”
“一层一层往上抽象,底层学边缘,中层学部件的组合,高层学整体的模式。”
“每一层都是从前一层的输出里学出来的,不需要人去告诉它该学什么。”
他敲了一下键盘,屏幕切换到一组对比结果。
“这是标准的人脸数据集。用传统的人工特征加支持向量机,识别率大概在百分之七十几。”
“用我这个逐层无监督预训练的网络,同样的数据量,识别率能到百分之九十一。”
“而且数据越脏、噪声越大,差距越明显。因为它的特征是从数据里长出来的,不是人硬塞进去的。”
余天成盯着屏幕上的那组数字。
百分之九十一!
在一个低分辨率、带噪声的人脸数据集上,用逐层无监督预训练的方式,做到百分之九十一。
2007年,在绝大多数人还在手工设计特征、调SVM参数的时候。
有人已经在这间不起眼的会议室里,用一台厚重的笔记本电脑,跑通了那个后来会被叫做“深度学习”的东西的雏形。
余天成的震惊在于,国内很多学者,真的有改变世界的能力,但是他们为什么到后面都寂寂无闻,或者换到其它地方去完成自己的学术了呢?
(https://。