AGI还有多久实现?DeepMind创始人预测或仅需数年,影响将达工业革命10倍
DeepMind联合创始人Demis Hassabis预测AGI或于数年内实现,影响达工业革命10倍,并呼吁美国设立前沿AI标准机构,要求前沿实验室在模型发布前30天自愿提交审查,逐步过渡到强制市场准入测试。
- AGI
- DeepMind
- Demis Hassabis
- AI监管
- 前沿AI标准
据报道,Google DeepMind联合创始人Demis Hassabis近期预测,通用人工智能(AGI)或在未来数年内实现,其变革性影响可能达到工业革命的10倍,且发展速度将加速十倍。他指出,随着尖端模型在网络安全、核能及生物学等领域的潜在风险日益凸显,行业亟需为具备自主性与自我改进能力的未来AI系统建立强有力的安全防护。
为平衡技术创新与安全风险,Hassabis呼吁美国牵头建立一个类似金融业监管局(FINRA)的“前沿AI标准机构”。该机构拟采用公私合作或自律组织模式运作,由独立技术专家与开源社区代表共同管理,资金主要来自行业出资。其核心职能是制定动态科学评估协议,初期要求前沿实验室在模型发布前30天自愿提交审查,计划最终过渡到强制市场准入测试;初创企业或学术机构开发的非前沿模型则可获豁免。该框架旨在通过技术驱动的审查机制应对未知危机,并在国际社会推动AI风险管理的全球共识。
核心要点梳理
Hassabis给出的主要判断可归纳为:AGI或于数年内实现,其变革性影响预计达到工业革命的10倍;AI发展速度将呈十倍级加速;尖端AI系统在网络安全、核能与生物学等场景下的潜在风险,需要通过更强有力的安全机制加以应对。
监管框架设计要点
他提议的“前沿AI标准机构”参考FINRA模式,由独立技术专家与开源社区代表管理,资金主要来自行业贡献。审查流程采取分阶段设计:初期要求前沿实验室在模型发布前30天自愿提交审查,后续计划过渡到强制市场准入测试,而初创企业或学术机构开发的非前沿模型可获得豁免。
后续观察方向
该提议若进入政策讨论阶段,值得关注的节点包括:美国是否会响应并推动相关行政或立法程序;前沿AI实验室对“30天自愿提交”机制的参与意愿;以及动态科学评估协议的具体技术标准和国际社会能否就AI风险管理达成共识。