那些"没用的问题",是理解 AI 的入场券
Prompt engineering 过时了。Context engineering 也快了。Agent 还能热多久?——你在追的每一个热词,都将被它自己所描述的技术淘汰。但有一类东西永远不会过时:你在深夜想过的那些"没用的问题"。
Prompt engineering 过时了。Context engineering 也快了。Agent 还能热多久?——你在追的每一个热词,都将被它自己所描述的技术淘汰。但有一类东西永远不会过时:你在深夜想过的那些"没用的问题"。
高考那年你勾了理科,从此再没翻开过一本诗集。二十年后一个 AI 告诉你:去掉诗歌数据,我的数学就变差了。——如果一个模型都需要通识才能涌现智能,你凭什么相信自己可以靠半个世界活一辈子?
一个五年级的孩子用 ChatGPT 写完了周末的读后感。文笔流畅,结构工整,用词比他平时好两个等级。他妈妈看完说不出哪里不对,但就是觉得哪里不对。她的直觉是准的——那篇文章里什么都有,唯独没有她儿子。这件事让我想了很久。不是因为 AI,是因为它把一个教育里一直存在、但大家可以假装看不见的问题,推到了聚光灯底下。
1956 年夏天,十个人在达特茅斯学院关了两个月,想回答一个问题:机器能不能思考?七十年后,这个问题撑起了万亿市值。但驱动它诞生的那样东西——好奇心——在我们的教育系统里几乎没有被认真对待过。AI 的历史和一个人受教育的历史,走的是同一条路。这一篇,我们从达特茅斯出发,经过上海的数学课堂、法国的哲学考场、芬兰的森林学校,最后回到每个人自己身上——那个被磨掉的东西,也许还在。
你花了十年学一门手艺,AI 用三秒钟做到了六十分。你的第一反应是——我会不会失业?但如果再往下想一层,真正让人不安的也许不是失业本身,而是一个你从来没被逼着回答的问题:如果我的技能不是’我’,那我是什么?就业问题的表面是经济问题,底下是身份问题。
1992 年,一个 16 岁的中国女孩跟着父母到了新泽西。不会英语,在中餐馆洗碗、在干洗店熨衣服,靠打工攒出了普林斯顿的生活费。三十年后,她是’给 AI 造眼睛的人’——ImageNet 改变了整个深度学习的历史,而她现在在做的事是让 AI 看见三维世界。这不是一个励志故事。这是一个关于好奇心如何在最不利的条件下存活下来的故事。
当 AI 开始说“我在想”“我感受到”,真正被审问的不是 AI,而是人类关于意识的定义。智能、语言、自我报告、主观体验,到底是不是一回事?
预训练让 AI 学会文字接龙,SFT 让它学会像助手一样接龙,RLHF 让它学会哪种接龙更容易被人类喜欢。但“被喜欢”不是“真实”,“听话”不是“善良”,“安全”也不是没有价值立场。对齐 AI 的过程,表面上是在训练机器,深处是在审问人类:我们到底希望一个更聪明的存在,服从谁的规则,继承谁的偏见,代表谁的文明?