2025-06-15 04:47来源:本站
从长期在机器学习领域工作的角度来看,Terry Sejnowski一直是人工智能(AI)积极影响的热情倡导者。2018年,他在《深度学习革命》一书中写道:“人工智能会让你更聪明。”
在人工智能时代,事情发展得很快。自2018年以来,生成式人工智能(Gen AI)已经侵入了我们的生活。在麻省理工学院出版社上个月出版的新书《聊天技术与人工智能的未来:深度语言革命》中,Sejnowski回顾了大型语言模型(llm)的兴起,并得出结论:“人工智能确实让我们更聪明。”
但我们如何衡量更聪明?这到底是什么意思?
“什么是智力?”智力实际上是解决问题的能力,”Sejnowski在接受ZDNET采访时表示。有了ChatGPT和类似的程序,“我能够更快地跟上速度,但同时,它也让我看到了我可能从未想过或探索过的东西;它打开了大门。”
他继续说道:“想想ChatGPT到底是什么。每个人都认为,‘哦,它在像人一样说话。’我们唯一确定的是,它不是人类。这是什么?它是一种类似铲子的工具。”
Sejnowski认为,就像一把铲子一样,这个大型语言工具正在帮助我们比徒手做得更好。他说,使用ChatGPT的作家越来越好,因为“它帮助他们克服了思维障碍。”
他在新书中指出,他广泛使用ChatGPT来研究这本书。“在法学硕士的帮助下,这本书只花了我上一本书《深度学习革命》(the Deep Learning Revolution)一半的时间。”
这本书用同样迷人的声音和权威的人工智能知识撰写,与前一本有很大不同。2018年,谢诺夫斯基上了一堂历史课。在新革命中,Sejnowski对这些工具的发展方向以及它们如何改变我们的思想观念和我们如何看待自己很感兴趣。
“我们现在正处于使用工具的阶段;我们正在学习如何使用这个工具,而且这些工具一直在变得越来越好,”Sejnowski告诉ZDNET。
“ChatGPT可以做很多事情,但它做得不如最优秀的人类。但是,我要告诉你,它比大多数人类做得好得多。”
ChatGPT做不到的一件事是在任何地方都写得不如Sejnowski好。在整本书中,他提供了chatgpt生成的章节摘要,希望它们可能“比文本更容易理解”。事实上,总结是平庸的,就像很多gpt生成的散文一样,看起来主要是一个噱头。这是这本书唯一的弱点,也是一个足够小的过失,可以被原谅,否则它将是一部精湛而彻底的引人入胜的读物。
为了避免你认为这本书是写给ChatGPT的情书,这本书的更深层次的元素(占据了大部分页面)是对生成式人工智能如何影响科学的分析,反之亦然。
例如,他认为,人工智能向神经科学家揭示了大脑的各个方面,而神经科学反过来又为人工智能开辟了新的可能性,这是一种良性循环。
这一观察得到了Sejnowski在这两个领域的广泛职业生涯的支持。Sejnowski是索尔克生物研究所的弗朗西斯克里克主席,也是加州大学圣地亚哥分校的杰出教授。他为今天的人工智能做出了基础性的贡献,但却与他的人工智能同事们走了一条不同的道路。
上世纪70年代,Sejnowski在普林斯顿大学(Princeton)的约翰·霍普菲尔德(John Hopfield)的指导下获得了物理学博士学位,然后与杰弗里·辛顿(Geoffrey Hinton)进行了广泛的合作,两人因在人工智能方面的工作获得了今年的诺贝尔物理学奖。Sejnowski早期的关注点从构建人工智能系统本身转向神经科学,因为他告诉ZDNET,“我想了解大脑是如何工作的。”
许多人工智能从业者认为,与人工神经网络相比,大脑过于复杂,难以取得进展,因此他们逃离脑科学,以提高他们发表专业突破的机会。然而,Sejnowski对他所学到的东西感到兴奋,他相信,由于人工智能,他即将在大脑方面取得重大发现。
例如,大型语言模型的潜在机制——它们预测下一个单词的方式——是一种基本机制,适用于人类记忆。
您在GPT中输入的所有内容以及其余内容都被编码为一长串数字,称为“上下文窗口”。这个窗口构成了用来做出预测的工作记忆。OpenAI和其他公司竞相拥有越来越长的上下文窗口,这应该转化为更大的预测下一个单词、短语或段落的能力。
Sejnowski认为大脑中也发生了类似的事情。他向ZDNET解释说,神经科学家面临的问题可能是,“长输入向量是如何在大脑中实现的?”不仅在句子之间,而且在段落之间。你在大脑里建立了某种故事,那是怎么发生的呢?”
Sejnowski认为,答案是所谓的“行波”,即神经元活动在大脑皮层中传播的波。他说,这种现象在神经科学领域“普遍被忽视了”,因为“没有人知道这种功能可能是什么”。
在《革命》的中间部分,Sejnowski暗示了一种可能性,即Gen AI最终将阐明行波的奥秘。他提供了一部优秀的法学硕士历史,带领读者从人工智能的早期发展到最早形式的语言模型——变形器的发展。感兴趣的读者可以在《神经科学趋势》杂志上的一篇学术论文中找到更多关于行波和变压器的细节。
Sejnowski告诉ZDNET,与此同时,事情正在“朝着相反的方向发展”,人工智能在借鉴神经科学的同时不断发展。
在书中,他认为大型语言模型的各种缺陷——“幻觉”和有时无意义的输出——可以被理解为类似于人类自身智力发展的发展阶段。这项技术虽然前途光明,但仍有很长的路要走。
“法学硕士是彼得潘,他们从来没有长大,生活在数字梦幻岛,”谢诺夫斯基写道。法学硕士也缺乏青春期;在人类中,这是在前额叶皮层成熟之前,它会阻止糟糕的判断。”
这本书的最后三分之一关注的是人工智能可能会走向何方,因为这是一种童年的范例。
他写道:“人工智能的长期方向是将法学硕士整合到更大的系统中,就像语言被嵌入到大脑系统中一样,大脑系统经过数百万年的进化,用于控制感觉运动,这对生存至关重要。”
Sejnowski告诉ZDNET, Gen AI已经通过借鉴其他科学领域来扩展其能力。
近年来法学硕士课程中最重要的创新之一是引入了一种叫做“状态空间模型”的东西,它借用了粒子物理学。商业公司,如AI21,已经使用状态空间模式来显著提高响应提示所需时间的性能。
Sejnowski告诉ZDNET,状态空间模型也与大脑的行波理论联系在一起,使事情回到了原点。
这种科学和人工智能之间的交叉授粉是这本书最吸引人的地方,突出了这两个阵营还有多少有待理解的地方。
法学硕士的底层结构是人工智能研究人员才刚刚开始理解的。Sejnowski预测,揭开这个谜团可能会导致新的数学形式的出现,而这反过来又会极大地推动人工智能的发展。
他在《革命》(Revolution)一书中写道:“今天的法学硕士相当于中世纪通过反复试验建造的大教堂。”“法学硕士激发了新的数学,一个新的概念框架将使理解和智力等概念具体化;它们的后代将相当于摩天大楼。”
这本书的一个值得注意的地方是,它以科学和人工智能的工作为基础,Sejnowski几十年来一直参与这两个领域的工作,但它却飙升到了科学想象的新高度。
Sejnowski认为,全新的科学和数学可能会出现,就像牛顿和其他人的突破改变了我们对宇宙的理解一样。
“物理学家提出了描述宇宙神秘属性的方程,比如重力、热力学、电、磁和基本粒子,这些方程只用几个被称为物理常数的参数就能做出准确的预测,”Sejnowski写道。
“在21世纪,基于计算机科学的算法,一个新的数学领域正在取得更大的成功。我们才刚刚开始探索算法世界,这可能需要我们改变对科学理解的看法。”
也许有一种关于智慧的启示在等待着我们,因为它一直存在,但我们从未掌握过。
Sejnowski告诉ZDNET,使用新一代人工智能工具,人们正在更好地了解自己的优势和局限性。
Sejnowski说:“我用得越多,就越能看到其他人用它做什么,很明显,它真的是在模仿他们。”随着人们在即时工程方面做得越来越好,这个工具越来越多地反映了用户的风格:“他们越来越善于从镜子里看到自己。”
镜像效应带来了一个诱人的前景:我们不会实现“通用人工智能”,这是人工智能的圣杯,在老生常谈的科幻小说中,是一种像我们一样走路和说话的类人生物。相反,我们将改变对我们自认为了解的智力的理解。它不仅仅是工具的使用,但我们还没有表达出其他东西可能是什么。
“通用智能是否起源于人类的社交互动,而语言在进化过程中是增强社交能力的后来者?”Sejnowski在书中问道。“现在是我们重新思考人类‘通用智能’概念的时候了。”