CTO Palantir назвал человеческую ошибку вероятной причиной удара по школе

что произошло

Как сообщает Benzinga, технический директор Palantir Technologies Inc. Шьям Санкар отверг утверждения о том, что программное обеспечение компании на базе ИИ способствовало удару по школе в иранском Минабе 28 февраля. В результате погибли как минимум 123 школьника. В интервью CBS Face the Nation в воскресенье Санкар заявил, что ИИ способен ускорять военное планирование, включая операции с 1 000 ударов, а также помогать проверять списки объектов, по которым нельзя наносить удары, и находить места рядом с гражданской инфраструктурой.

Санкар назвал «неточным» сообщение о чрезмерной зависимости военных от системы Maven во время атак в Иране и призвал дождаться окончательного отчёта. По его словам, «вероятной причиной является человеческая ошибка», однако окончательного вывода он не сделал. Palantir также быстро разработала дополнительных ИИ-агентов для независимой проверки данных и снижения риска повторного инцидента.

В марте сообщалось, что расследование армии США рассматривало эпизод с ракетой Tomahawk, поразившей начальную школу Shajarah Tayyebeh в Минабе 28 февраля. Согласно этой версии, причиной могли стать устаревшие данные и базовая человеческая ошибка, а не ИИ. На фоне расширения применения автономных и ИИ-систем в вооружённых силах Сара Ягер из OpenAI заявила, что «все очень обеспокоены» ролью ИИ в вооружённых конфликтах и автономным оружием. Она призвала считать основой для военного применения ИИ права человека и международное право, а не стандарты, которые самостоятельно устанавливают технологические компании.

почему это важно

История усиливает внимание к ответственности разработчиков военного ИИ, качеству данных и роли человека в принятии решений. Для рынка она важна как репутационный и регуляторный риск для Palantir и других поставщиков подобных систем.

инструменты