导读
近期，OpenAI智能体安全研究员Stephen McAleer感慨奇点临近，随后奥特曼发布意味深长的“六字箴言”，引发有关奇点是否近在咫尺的讨论。不少专家预测，AGI降临那天，95%人类工作或将被AI取代。
奥特曼释放神秘信号
昨天，OpenAI智能体安全研究员Stephen McAleer突然发出一番感慨：紧接着，奥特曼发表意味深长的“六字箴言”：nearthesingularity;unclearwhichside——奇点临近AI公司将有1万至100万个自动化的AI研究员，几乎所有需要知识型的工作都被AI自动化”。
95%工作被取代的时间节点
与Newman观点一致的是，Hobbhahn认为2024年95%以上经济价值的任务都能被AI完全自动化。不过，他将这个时间节点设定在了2029年。
AGI降临，超95%工作被取代
Steve Newman在文章中阐述了他对AGI的定义及其AI对未来世界的影响。
AGI的定义
Newman认为：因此，这个“AGI”的定义，代表了世界开始显著改变的时刻，也是所有人“感受到AGI”的时刻，具体而言：
- AI系统能主动适应完成大多数经济活动所需的任务，并能完成完整而非孤立的任务。
- 一旦AI能够完成大多数知识型工作，高性能的物理机器人将在几年内随之而来。
- 这种能力水平可以实现一系列变革场景，从经济超增长到AI接管世界等。
- 世界变革场景需要这种水平的AI（通常，专用AI不足以改变世界）。
- 在达到AGI之前，“递归自我改进”将成为主要推动力。
- AGI指的是具备必要能力（以及经济效率）的AI被发明出来的时刻，而不是在整个经济中全面部署的时刻。
AI对世界的影响
关于AI如何对世界产生变革性影响，有来自多方的推测：有人认为，AI可能带来难以想象的经济增长——推动科学和工程领域快速进步，完成任务的成本比人类更低，帮助公司和政府做出更高效的决策。
有人认为，AI可能会带来灾难性的风险。它可能会发动毁灭性的网络攻击，制造出高死亡率的流行病；可能让独裁者获得对国家甚至全世界的绝对控制权；甚至，AI可能失去控制，最终摧毁所有人类生命。
也有人推测，AI可能淘汰人类，至少在经济领域会这样。它可能终结资源稀缺，让每个人都能过上富裕的生活（前提是选择公平分配这些成果）。它可能将仅存在于科幻中的技术变为现实，比如治愈衰老、太空殖民、星际旅行、纳米技术。
Newman推测，AGI真正实现的时刻，就是这些设想几乎同时变成现实的时刻。
可能发生，不是肯定发生
需要澄清的是，Newman并非在说，关于高级AI的预测，一定都会实现。未来，技术突破逐渐变难，所谓的“奇点”也就不一定会出现。也就是说，“长生不老”可能根本就无法实现。
发表评论