AGI：人工智能的下一个重大事件
超越狭义人工智能
尽管传统人工智能 (AI) 在计算机视觉、自然语言处理和自动化方面取得了显着进步，但其功能在很大程度上仍局限于解决特定环境中的特定问题。相比之下，通用人工智能（AGI）的目标是在广泛的任务中复制甚至超越人类的认知能力。本文探讨了通用人工智能的演变、其影响以及实现这一变革愿景过程中面临的挑战。
什么是通用人工智能？
AGI 是指人工智能的一种理论形式，它具有跨不同领域理解、学习和应用智能的能力，反映了人类推理、适应性和抽象思维。与针对一项特定工作（例如下棋或检测欺诈）训练的狭义人工智能系统不同，AGI 将能够：
-
在不相关领域之间转移知识
-
无需重新培训即可适应新问题
-
展示创造力、逻辑性和常识
-
解释情绪和社会背景
为什么 AGI 很重要
追求通用人工智能具有巨大的影响。从革命性的科学发现到几乎所有工作方面的自动化，通用人工智能可能会迎来技术和社会进化的新时代。主要的潜在影响包括：
-
经济破坏：
AGI 可能会实现整个行业的自动化，从而需要大规模的经济转型。
-
医学进步：
自主 AGI 驱动系统可能会彻底改变诊断和药物发现。
-
教育与研究：
AGI 可以充当通用导师或研究合作者，使知识的获取民主化。
-
人机协作：
AGI 可能成为最终的副驾驶，帮助实时决策和解决问题。
实现通用人工智能的挑战
尽管有这样的希望，但仍然存在一些科学和哲学挑战：
-
可扩展性：
当前的架构（例如 Transformer）难以实现训练数据之外的泛化。
-
意识与知觉：
哲学家们争论 AGI 是否能够真正�理解�智能，还是仅仅能够模拟智能。
-
数据与能量需求：
训练法学硕士已经需要大量的数据集，而 AGI 可能需要更多的能量。
-
对齐和控制：
Stuart Russell 和 Eliezer Yudkowsky 等专家认为，防止 AGI 制定不一致的目标是最重要的风险之一。
道德考虑和全球监管
AGI 带来了深刻的伦理问题：
-
有感知能力的 AGI 应该拥有哪些权利（如果有）？
-
谁控制 AGI？它是如何管理的？
-
我们如何确保公平进入并防止垄断？
政策制定者和技术专家呼吁制定积极主动的通用人工智能法规和道德框架，以减轻存在风险，同时促进创新。
目前通用人工智能的进展
虽然目前还没有通用人工智能，但多项研究计划正在奠定基础：
-
OpenAI 的 GPT-4 和后续产品正在接近解决语言中的一般问题。
-
DeepMind 的 Gato 和 Gemini 探索多模态泛化。
- Anthropic 和 Mistral 正在研究对齐和宪法人工智能方法。
-
大学实验室和初创公司正在研究混合符号神经方法。
结论：一把双刃剑
AGI 拥有令人难以置信的前景，但也并非没有危险。当我们迈向这一地平线时，人类必须在加速与谨慎之间保持谨慎的平衡。围绕通用人工智能的讨论不仅必须包括工程师，还包括伦理学家、立法者和全球公众。
