夜雨聆风学习资料网

ARTICLE · 1272341

一口气看完AI发展史(六)|旧路归来

一口气看完AI发展史(六)|旧路归来
接上期:
一口气看完AI发展史(一)|风暴前夜
一口气看完AI发展史(二)|符号主义登场
一口气看完AI发展史(三)|连接主义起步
一口气看完AI发展史(四)|传奇人物皮茨
一口气看完AI发展史(五)|感知机之争

旧路归来:深度学习爆发

这位“执迷不悟”的学者就是杰弗里·辛顿,辛顿一直没有放弃研究,并最终等到了神经网络真正翻身的那一天。
杰弗里·辛顿
辛顿出生于英国的科学世家,他的老曾外祖父是著名的数学家乔治·布尔,布尔代数、布尔逻辑就是以他命名的。
乔治·布尔
他的老曾外祖母玛丽·埃弗勒斯·布尔是一位女权主义哲学家,也是自学成才的数学爱好者。
玛丽·埃弗勒斯·布尔
他的老曾叔父是乔治·埃弗勒斯,是一名测地学家,他在勘查印度时发现了一座山,这座山以他的名字命名,珠穆朗玛峰。
乔治·埃弗勒斯
布尔和玛丽的女儿中,老大和老小,都与中国有渊源。老大嫁给了数学家和作家查理斯·辛顿,我们的AI大拿杰弗里·辛顿就是他们的曾孙。
辛顿家庭合照
辛顿18岁进入剑桥大学国王学院学习,一个月后就退学了,然后去伦敦工作一年后,回来改修建筑学,他为了找到“大脑是怎么工作的?我们这个物种是怎么思考的?”的答案,他在剑桥大学换了好几个专业,从自然科学到艺术史再到哲学,最后还拿了一个实验心理学的文学学士学位,最后他想通了,“剑桥大学里没人懂这个问题”。
1970年辛顿毕业后,对本科学习非常失望,于是他转身去做木匠。他一边做书架、木门,一边思考大脑的运作原理,他爱上了这个生活模式。
但是做了一年多之后,辛顿不喜欢了,他又有了新的想法,他想尝试新方向,研究“人工智能”。
辛顿听说爱丁堡大学来了一个最接近人工智能之谜的人,克里斯托弗·朗吉特·希金斯,他燃起希望,继续研究。
但是很可惜的是他的老师希金斯叛变了,他受明斯基的影响,转向了符号主义。
转向后的希金斯甚至不断试图说服辛顿停止对神经网络研究,辛顿和他拉扯争论了5年后,在1978年拿到了人工智能博士学位。
在1986年大雪纷飞的那一晚,他终于迎来历史性突破,辛顿与团队找到了一个至关重要的算法“反向传播算法”,不仅攻克了神经网络的优化难题,还为深度学习的复兴铺平道路。
那个时候英国人工智能研究非常少,辛顿在英国拿不到钱,于是只能前往美国圣迭戈做博士后,当时美国多数人工智能研究是国防部资助的,辛顿对此非常不满,于是他接受了加拿大高级研究所的邀请,前往多伦多大学担任计算机科学教授,默默的坚持做研究。
2006年,辛顿和他的学生发表了深度学习领域的奠基论文《利用神经网络降低数据维度》。2018年,辛顿、杨立昆、约书亚·本吉奥一起获得图灵奖,他们三人也被称为“人工智能教父”。
杨立昆、辛顿、约书亚·本吉奥
2012 年,吴恩达在谷歌发起了Google Cat 项目。项目搭建了一个神经网络,从YouTube 上下载了大量的视频,不做标记,让模型自己观察和学习猫的特征,最终达到了 74.8%的准确率。在Google Cat项目结束前,吴恩达离开了谷歌去了百度,并推荐辛顿来接手。
吴恩达
辛顿在谷歌待了一个暑假的时间,发现“他们运行了错误的神经网络,并使用了错误的计算能力”,在离开谷歌后,他马上召集自己的两个学生开发Alexnet的算法。
同年,辛顿和他的两个学生携带Alexnet和两块GTX 580显卡参加“imagenet大规模视觉识别挑战赛”,一举获胜。比赛结束后,辛顿向全世界介绍了自己新开发的算法,深度学习爆发了。
随后辛顿创建了一家叫做DNNresearch的公司,业务还没有开展,谷歌、微软、百度、Deepmind竞相出价想收购。在2012年12月,在一家酒店里,开始竞拍,规则是起价1200万美元,每次出价至少抬价100万美元,几个小时后竞拍价格被推到了4400万美元,辛顿瞬间觉得头晕目眩,于是喊停竞价,把公司卖给了谷歌。
2015年,DNN公司的参与者,也是辛顿的学生伊利亚·苏茨克韦尔和山姆·奥特曼共同创立了一家架构奇特的公司,这个公司的名字叫OpenAI。
2023年,辛顿辞去了谷歌的工作,他开始害怕AI研发失控,对人类造成不可挽回的伤害。
辛顿的担忧并非没有原因,只是这个潘多拉魔盒早已打开。
— 完 —
《一口气看完AI发展史》已完结,视频发布这几天将发布在B站。接下来,我会继续和大家分享AI基础知识、AI工具、以及在这段人工智能发展史中那些值得被重新认识的人,如果你有想了解的AI通识的某个方面,比如AI概念、工具、人物,欢迎大家在后台留言,也许,下一篇就从你的问题开始。
点击链接看上期:
一口气看完AI发展史(一)|风暴前夜
一口气看完AI发展史(二)|符号主义登场
一口气看完AI发展史(三)|连接主义起步
一口气看完AI发展史(四)|传奇人物皮茨
一口气看完AI发展史(五)|感知机之争

相关学习资料