从约瑟夫·魏岑鲍姆到ChatGPT——与令人倾倒的AI技术的批判交锋

图片地址：https://n.sinaimg.cn/sinakd20250409s/0/w1024h576/20250409/4c96-2393a47d3ab5d16811ca49afa0a2b680.jpg

本文从使用的角度对AI系统进行思考。聚焦于对话聊天机器人，从魏岑鲍姆的ELIZA谈起，概述到ChatGPT的重大科学进步。文中的主要讨论基于作者为探索ChatGPT这一知识资源而进行的数次实验—反思循环。分析部分从准确性、结构、语境、视角和偏见等角度思考ChatGPT的回应。批判性评估始于这样一个观察：ChatGPT会在未明确自身能力范围的情况下，给出清晰准确结果与任意错误信息的混合。这引出了系统的关键问题，即它如何与“真”相抗衡，这又涉及用基于文本相关性的概率替代品取代“真”的理念。在负责任的使用中，ChatGPT之类的系统必须融入人类学习文化。这一过程的框架应包括坚持真实性、提升人类能力的动力以及强化共同体内的责任结构。本文原题为“From Joseph Weizenbaum to ChatGPT”，原刊于Weizenbaum Journal of the Digital Society 3(3)，由译者以CC-BY协议许可