◇张欣
近期,比尔·盖茨发声,警告人们AI一旦被恶意使用,可能造成十亿人死亡的灾难,并呼吁各国政府加强监管。不仅如此,类似忧虑也出现在科技企业内部。2026年9月,Anthropic和OpenAI的研究员相继离职,并公开表示AI可能威胁人类生命。这表明,最了解技术边界的人,对科技企业自我约束能力的信心正在动摇。他们的担忧指向了共同的议题:伴随AI技术的飞速迭代,AI风险有哪些特点,由谁来定义,又应当如何应对和预防?尤其在智能体出现并被广泛部署后,AI风险是否可控,治理责任与问责机制又该何去何从?一系列技术失控案例和各种担忧言论昭示着,AI风险已成为亟待制度回应的全球性治理难题。
AI风险的三重特性
与大模型有所不同,AI尤其是智能体具备工具调用与自主执行能力,能够在数字环境中连续行动,其风险呈现三...
友情链接: 中国社会科学院官方网站 中国社会科学网
发行订阅事务:事业发展部,电话:010-85341599,邮箱:syfzb-zzs@cass.org.cn 地址:北京市东城区王府井大街77号C座 邮编:100006
京公网安备11010502030146号
京ICP备11013869号
中国社会科学杂志社版权所有 未经允许不得转载使用
鼠标滚轮缩放图片,按 Esc 或点击背景关闭