通版阅读请点击:收缩通版
评论与争鸣
本版新闻导航

AI风险治理亟须制度回应

作者:张欣
2026年11月19日 版次:A03

◇张欣

近期,比尔·盖茨发声,警告人们AI一旦被恶意使用,可能造成十亿人死亡的灾难,并呼吁各国政府加强监管。不仅如此,类似忧虑也出现在科技企业内部。2026年9月,Anthropic和OpenAI的研究员相继离职,并公开表示AI可能威胁人类生命。这表明,最了解技术边界的人,对科技企业自我约束能力的信心正在动摇。他们的担忧指向了共同的议题:伴随AI技术的飞速迭代,AI风险有哪些特点,由谁来定义,又应当如何应对和预防?尤其在智能体出现并被广泛部署后,AI风险是否可控,治理责任与问责机制又该何去何从?一系列技术失控案例和各种担忧言论昭示着,AI风险已成为亟待制度回应的全球性治理难题。

AI风险的三重特性

与大模型有所不同,AI尤其是智能体具备工具调用与自主执行能力,能够在数字环境中连续行动,其风险呈现三...