伯克利BAIR Mark Nitzberg ：可靠性问题仍是制约生成式AI发展的主要障碍｜2024 T-EDGE

图片地址：https://n.sinaimg.cn/default/2fb77759/20151125/320X320.png

来源：钛媒体 12月7日，在北京市大兴区举办的2024T-EDGE创新大会暨钛媒体财经年会上，暗物智能DMAI前美国CEO、蓝色光标前美国总裁符海京和哈佛大学博士、加州大学伯克利分校人工智能实验室执行董事、Dark Matter AI联合创始人、微软/亚马逊顾问 Mark Nitzberg 展开了一场深入对谈，探讨生成式AI的潜力、困境与未来。在Mark Nitzberg 看来，尽管生成式AI在许多任务中展现了显著的效率提升——例如回答复杂问题、生成高质量内容等——但这项技术仍处于实验阶段，可靠性问题成了制约其进一步发展的主要障碍。“当前的模型在性能上的确进步巨大，但我们无法忽视它们在关键场景中的不一致性。例如，一个细微的输入变化可能导致模型输出答案出现巨大偏差，而这种不确定性是无法在医疗、交通等高风险领域被接受的。” 与此同时，Mark Nitzberg 特别提到生成式AI在许多新兴领域中展现了指数级的效率提升。例如，他分