AI 驱动的目标选定被指造成一次致123名儿童死亡的袭击
一次致123名儿童死亡的军事袭击,其目标是由AI目标选定软件挑选的,事前没有任何地面人员核实目标,这是美国情报部门一次极为严重的失误。
- 被选为目标的地点实际上是一所学校,只要有人开车经过看一眼就能发现。
- 袭击前似乎没有中情局或其他情报人员核实过该地点。
- 像Palantir这类目标选定软件可以标记出某个地点,但其依据的信息可能已经过时或有误。
- 在没有人工确认的情况下依赖机器挑选的目标,会把一次数据错误变成大规模伤亡。
前景展望:预计五角大楼及其AI承包商将面临压力,被追问在批准袭击前目标究竟是如何得到核实的。