不满与美国防部合作OpenAI主管辞职 忧AI被用於监控与致命武器
- 登载于 国际
(综合9日电)人工智慧公司OpenAI近日爆出高层请辞风波。负责机器人与消费性硬体业务的主管卡利诺夫斯基7日宣布辞职,原因是对公司与美国国防部合作、将AI模型部署至五角大厦机密云端网路的决定感到忧虑,认为相关决策缺乏充分讨论与安全规范。
卡利诺夫斯基在社群平台X发文表示,人工智慧确实能在国家安全领域发挥重要作用,但部分应用界线必须审慎讨论。她指出,在缺乏司法监督下对美国公民进行监控,或在没有人工授权的情况下让武器具备致命自主能力,都是高度敏感的议题,应该花更多时间审议。
她进一步表示,OpenAI在宣布与五角大厦达成合作时,尚未建立明确的安全防护措施与规范,批评相关决策过於仓促。卡利诺夫斯基强调,这是一个治理层面的问题,“事情太重要,不该为了签约或对外发布而匆忙行事”。
对於外界质疑,OpenAI表示该合作案已包含额外安全措施,并重申公司设有红线,禁止将其AI技术用於国内监控或自主武器系统。公司也表示,理解外界对AI与军事用途的高度关注,未来将持续与员工、政府与民间社群进行讨论。
卡利诺夫斯基於2024年加入OpenAI,在此之前曾任职於Meta,负责扩增实境硬体研发。随着人工智慧技术逐渐进入国防与安全领域,相关伦理与监管问题也持续在科技界与政策圈引发激烈讨论。
.png)
