硅谷科技巨头OpenAI首席执行官Sam Altman 11日于个人官网发布新文章《温和奇点》，描绘AI快速发展但平稳过渡的未来，果然又引发科技界讨论。这篇视为AI发展蓝图的文章提出几个大胆主张，包括人类已跨越AI的“事件视界”，正迈向通用人工智能（AGI）和超级人工智能（ASI）时代。
温和过渡还是危险加速？“我们已跨过事件视界；起飞已开始。人类即将建造数字超级智能，到目前为止，比想象要温和得多。”Altman说。他预测2025-2027年我们将见证重大AI里程碑，包括有认知力的AI代理系统、能发现新见解的AI，以及实体AI机器人。
Altman还预测，到2030年个人生产力有“惊人变化”，到2035年可能实现解决高端物理问题到开始太空殖民等。他形容这发展为“奇点如何发生：奇迹成为常态，然后成为基本条件”。
专家质疑预测缺乏实证然而，批评者质疑Altman的乐观预测缺乏实证基础。有评论指出，何时完成AGI的预测“极其多变且没有可信证据支持”，并认为Altman宣言只让人觉得“极其大胆与鲁莽”。
批评者将AI专家大致分为两派：“AI末日论者”，担忧高级AI可能威胁人类生存；“AI加速主义者”则相信先进AI可解决人类最大的几个问题。Altman明显属于后者，专门描绘“只有玫瑰没有刺”的美好愿景。
技术与安全的双重挑战尽管观点分歧，Altman和批评者都认同AI发展面临两大挑战：解决“对齐问题”（确保AI系统追求人类最佳利益）和确保超级智能“便宜、易取得且不过度集中”。Altman说：“我们（整个行业，不只OpenAI）正为世界打造大脑。这将极度个性化且容易使用；我们将受限于美好想法。”
缓慢奇点还是科技乌托邦？Altman将之描述为“逐步发生”而非突然突破，强调人类通常能适应科技改革，创造新形式的有意义工作和社会重塑。“从相对论角度看，奇点是一点一点发生，整合则缓慢发生。我们正在爬上科技进步的漫长指数曲线；向前看总是垂直，向后看则一片平坦，但这是条平滑曲线。”Altman说。
批评者呼吁大众对AI预言保持警惕，提醒人们“这些预测往往误读为某种事实和已知常识，而非一堆意见和猜测。”
AI技术持续发展，Altman描绘的“温和奇点”愿景是否实现，或批评者担忧风险是否终成现实，仍有待时间证明。但相关议题辩论不断突显AI处于关键十字路口，未来走向将深刻影响人类社会。
（首图来源：AI）
