Anthropic 研究員因 AI 安全問題請辭,引爆監管之爭
一名前 Anthropic 研究員公開離職,並警告 AI 可能讓全人類喪命,隨即引發爭論:他究竟是真正的吹哨者,還是一場資金雄厚、力推 AI 監管行動的門面人物——無論答案為何,對 Anthropic 規劃中的首次公開發行(IPO)都是壞消息。
- 曾在 OpenAI 與 Anthropic 兩家公司從事 AI 訓練工作的 Jacob Coxin 請辭,並表示兩家公司都在魯莽地競逐能自我改進的超級智慧。
- 他的貼文立刻爆紅,包括 Elon Musk 在內的質疑者稱這是一場預先安排好的造勢行動,並指出他事前已安排好《華爾街日報》專訪,且與 AI 安全領域的金主關係密切。
- Anthropic 並未完全否定他的說法——該公司自家一名對齊(alignment)主管公開表示,AI 在這十年內導致全人類死亡確實有其可能性,而且至今沒有人解決控制問題。
- 反方論點很簡單:無論如何中國都會持續發展,因此西方一旦喊停,等於直接把領先地位拱手讓人。
- Anthropic 另外表示,已阻擋將其模型用於網路攻擊與生物武器研究的企圖,並承認公司已無法再宣稱自家模型不會造成危害。
展望:預料華府要求制定 AI 規範的呼聲將更加高漲,市場也揣測 Anthropic 可能會推遲其首次公開發行,直到風波平息為止。