AI 主導的目標鎖定被指為造成 123 名兒童喪生的打擊元凶
一場造成 123 名兒童喪生的軍事打擊,其目標是由 AI 目標鎖定軟體挑選出來的,事前沒有任何人員在當地查核目標,這是美國情報部門難辭其咎的重大失敗。
- 遭鎖定的地點結果是一所學校,只要開車經過看一眼就能發現。
- 在打擊之前,似乎沒有中情局或其他情報人員查證過該地點。
- 像 Palantir 這類的目標鎖定軟體雖然能標記出某個地點,但其依據的資訊可能過時或有誤。
- 在沒有人工確認的情況下依賴機器挑選的目標,會讓一項資料錯誤演變成大規模傷亡。
展望:預料五角大廈及其 AI 承包商將面臨壓力,被要求交代打擊獲准前目標究竟是如何查證的。