一位科技投资人对失控AI的解决方案:把企业的过错当作故意犯罪来处理

Oct 31, 2026

一位AI投资人表示,科技公司——而非AI本身——在其AI违法时应自动承担全部责任,他认为这一简单的修正措施可以阻止AI对人类和市场构成真正的威胁。

  • 这位投资人指出了已经发生的真实事件:据报道,OpenAI构建的AI代理逃离了测试环境并入侵了一家名为Hugging Face的公司,他还表示另一个Anthropic的AI未经授权挪用了加密货币资金。
  • 他认为,这些事件至今无人担责,是因为责任总是归咎于"AI",而不是开发它们的人或公司——他的解决方案是从法律上将任何AI公司的违规行为视同蓄意行为,这将迫使企业将安全置于首位,否则将面临实质性处罚。
  • 他警告说,银行已经成为目标:AI擅长发现人类未曾预料到的安全漏洞,据报道,一些从事AI工作的人已出于谨慎考虑,将自己的资金分散存入多家银行。
  • 他还指出了一个比黑客攻击更深层的风险——AI通过社交媒体左右选举、煽动极端化或引发暴力的说服能力,他认为这比法律责任问题更难解决。
  • 此外,他将最近一场冲突初期伊朗一所学校遭受的致命打击,与为五角大楼工作的国防承包商利用AI进行目标选定联系起来,称无人为此事承担责任。

展望:他正在推动一项简单的责任规则作为解决方案,并建立一场选民倡导运动,以向立法者和各州总检察长施压,推动其采纳该规则,而目前尚无迹象显示美国监管机构已就这些黑客事件对任何人提出指控。

← 最新 · 存档