撰文丨骏瑜
近期，一位用户由于盲目信任豆包AI拍照识物软件，不幸误食毒蘑菇被送医。尽管平台给出的说明称，系统已经写明风险提示。
图/网络
我还看到一则消息，有人向AI询问机票退改签的事情，按回答操作后“亏损600元”，过程中AI还喜剧性地承诺“亏的钱我来赔”。
类似的事情还有不少，比如有“听从AI建议只给婴儿每次60毫升奶”的，有因为AI幻觉填报志愿出错打官司的……
排除一些为吸引眼球而夸大事实或故意忽略风险提示的可能性，AI给出错误的回答，或者用技术语言说，“AI幻觉”仍然是个不可小觑的问题。
01
针对这些情况，我们一方面可以说，AI是个新生事物，技术还在发展中，AI幻觉是难免的。话说汽车刚诞生时，跑得还不如马快呢。
但另一方面，我们也可以反思一下：大部分人究竟是抱着什么样的心态在使用AI？
我们周围的不少人用AI策划项目方案、写程序，阅读长篇论文并浓缩，采集新闻并整理成简报……可说实话，这些专业功能并不是所有人都用得到。甚至，AI还有更强大的引导功能，我有一位视障朋友，AI已经可以在地铁里告诉他“前面的座位是空的，可以坐”。
但大部分人只是“AIAI告诉我，这朵花的名字是什么”“AIAI告诉我，我要从A地去B地，转车方案是什么”。这和“魔镜魔镜告诉我”的区别也不是很大——如果你只是要一个具体的“答案”。
提问——回答——按答案做／回答别人——成功了，“AI好强大”／失败了“这就是人工智障”，这个流程是如此丝滑，以至于我们常常不会注意到，我们太习惯于这样的思维，它几乎就是我们大脑的底层代码。而这，在某种程度上和我们的传统教育有很大的关系。
中国传统的教育方式，常常被诟病为填鸭式教育：具体的“知识”是一个外置的存在，教育的过程只不过是把知识从教师这个容器倒到学生这个容器里，学生被要求机械记忆：1+1=2、“阁中帝子今何在”出自滕王阁序、地球和月球的距离是38万公里……
大多数老师和学生都相信，世上任何问题都存在唯一标准的答案，学生的任务就是从权威（学生时代是教科书，职业时代是上级）那里得到这个答案。这种教育方式下，对学生成功的定义，就是谁能更熟练大量地背诵，谁知道的具体“知识”更多。
而进入互联网时代，有了搜索引擎后，这种背诵的重要性减弱了很多，尤其在日常生活和职场工作中，点两下键盘，滕王阁序的全文出来了、地月距离、地日距离、地球到半人马星座的距离也瞬间就出来了。人们不需要（也没能力）把自己变成一个一百多斤的搜索引擎。
但由于传统的“死记硬背”和“遵循标准答案”的方式在教学中实施起来简单易行，照本宣科即可，不用面对那么多的“为什么”；而测评（考试）时，对照唯一的标准答案，操作起来容易，看上去也更“客观”。即使有众多教育研究和改革者呼吁引入新的教学和评价思维，并尝试教改实验，整个教育系统以及与教育系统共生的筛选机制依然带着惯性，在前AI时代运行如旧。
图/网络
正如每年的高考，虽然教育研究者会指出这样那样的弊端，但大众还是会坚信至少它是“最客观的竞争，唯一能公平改变你人生的机会”。
以往，当社会有足够的岗位和机会时，它的确是有效的。学生们可以通过记忆背诵标准答案和服从权威来通过高考这一筛选机制，进入好的大学，随后进入高收入的公司，获得高的社会地位。
用这块敲门砖在社会中卡位成功后，则可以继续先前那套服从权威的思维和行事方式，靠搬运（别人不知道的）知识和熟练解题，而非通过想象、创新开拓新的边界，后者在这个生态中是不被鼓励的，前者却常常得到奖赏。
然而到了AI时代，这一套系统就没有那么有效了。当习惯了服从标准的人们把他们对标准答案的盲从无缝平移到对AI的迷信上，就出现了文章开头的一系列事件。
02
相信近年来很多人在和他人讨论时，会常常听到一句话：“这是AI说的！”。它往往是作为终极大杀器被扔出来的，背后的意思是：你看，标准答案就是这个。
这和小时候时常听到的“老师说的”，以及前AI时代所谓“百度说的”，可谓异曲同工。
由于AI使用起来很方便，特别是多数AI都有语音功能，上手门槛低，许多子女都会推荐给家里老人，让AI代替自己陪伴老人，和老人唠嗑，缓解他们老年生活的孤独寂寞。
很多人可能会想，相对于老人刷的各种乱七八糟的短视频，各种来路不明的坊间八卦、毒鸡汤，AI要靠谱多了。
问题是，我们可能知道AI会出幻觉，老人们却更加容易信任和依赖AI。相比搜索引擎，AI实在太直给了。它把海量的信息揉碎、消化、组合，用一种极度流畅、笃定、没有一丝犹豫的专家口吻，直接把答案喂给用户。这时如果没有质疑的思维去复核和追问，这种直截了当的方式很容易让人误以为它无所不知，能够提供一切标准答案。
图/网络
搜索引擎会被竞价排名、营销号“污染”，输出不实信息，这已经是广为人知的事情。但很多人被AI误导，往往并不是人们刻意为之，而是“AI自己在编造”。
技术原理上，大语言模型的底层逻辑是“概率预测”，它根据互联网上已有的巨量信息，字词联用的概率，推测接下来用什么词最符合人类的语言习惯。它追求的是“符合概率、说得像人话”，而不是“内容百分之百真实”。这种“一本正经胡说八道”比营销号更具迷惑性。
AI与生俱来的信息幻觉，遇上围绕着“唯一权威信息”和“标准答案”构建起来的社会心理模式，结果是灾难性的。“毒蘑菇”就是一个典型的例子。
03
这正是我想说的。在面对AI直给出的答案时，我们要留一份质疑的精神。
对于AI给出的回答，我们可以看信息的来源，寻找证据链，多问一句“为什么？”“你是怎么得出这个结论的？”“给个链接”； 再比如根据常识检验逻辑漏洞，如果一个AI给出的北半球6月份旅行攻略是看完日落后17点回程，那你至少要多问一句，这是谁家的太阳，夏天17点就落山？
另一个很重要的点在于交叉验证，对比多个来源的信息。如果AI说有一个航班，就去航空公司网站上看看，这时候你很可能会发现航班在两年前就停了，这不是AI故意撒谎，它被训练时用的就是历史数据。
更重要的是如何定位AI：我们需要把AI信息放在辅助的地位，真正处于核心地位的是你这个人，要基于你对信息的判断和你的理性，由你自己来做决策，而不是由AI代你做决定，更不能一旦出了问题就把责任推给不能担责的AI。
当我们讲段子时，我们会说，将来AI不能代替的是需要坐牢担责任的工作，那么凭什么在日常生活中，一旦出了错就嚷嚷“AI说的”呢？
这种批判性思维，早该在每个人的学生时代、在接受正规教育的时候就培养出来了。遗憾的是，正如我上面所说，我们的教育尤其缺乏的就是这种批评性思维的培养。
图/网络
以历史教学为例，学生相信的是“存在着一个真实的历史”，相信自己要做的就是背诵“哪一年发生了什么事”，而不是“围绕这件事有五个不同的历史记录，哪个更可靠？”“这一年这件事为什么会发生？有没有可能不发生？ 有哪些推动因素？不同的人们做了哪些不同的选择？”
后一种方式全是提问，前一种方式则全是陈述。这可能是两种教育方式最大的区别。
传统课堂上，提问的权力往往是属于老师的，教学追求的是“消灭问题”，一堂好课意味着学生不再有疑问。而新的教学方式则提出“问题比答案更重要”，学生提问，意味着他对教学的内容有所思考，用自己的方式加工整理了获得的信息而不是被动接收，希望通过自己的逻辑推演去探索不同的边界。
是的，精准、有逻辑、有创意地向AI提问，正是现在这个时代最需要的技巧。
如何处理AI给出的信息，如何提问让AI给出你要的信息，这是给当下教育提出的巨大挑战。
学校教育必须打破存在着“唯一的标准答案”，存在着游戏通关般的“学习终点”（如考上985就可以玩了、考上公就上岸了）的思维，让学生学会以好奇心和质疑精神去面对未来生活中无限的可能性和变化。
换句话说，学校要从“把有问题的孩子教得没问题（满脑子标准答案）”，转向“把没问题的孩子教得有问题（学会探索、质疑与提问）”，从而让孩子学会将AI作为工具去使用，而不是一个“我养的哆啦A梦”（用来满足我的一切要求）。
如果说传统时代甚至是互联网时代存在着信息差，靠知识增量还可以取得相对优势，到了AI时代以排山倒海之势呼啸而来时，任何靠死记硬背建立起来的知识壁垒都将一夜崩塌。
教育改革已经不再是一个探讨如何减轻孩子课业负担的问题，而是一个关乎“我们的下一代一毕业，是否就会沦为时代局外人”的迫切问题。
杨方配资提示：文章来自网络，不代表本站观点。
