Недавние события вокруг OpenAI и ее соглашения с американским правительством поднимают важные вопросы касательно этики и применения технологий ИИ в военной сфере. Общественная реакция на участие OpenAI в разработке систем, которые могут быть использованы для слежки за гражданами, заставила компанию пересмотреть свои обязательства. Изменение условий соглашения, чтобы явно запретить такие использования, является признанием не только ответственности, но и чувствительности к общественным взглядам на применение технологий.

Соглашение OpenAI с Пентагоном изначально вызвало много критики, и после споров компания согласилась на корректировки. Альтман отметил, что это соглашение имело больше мер безопасности, чем предшествующие, но по реакции общества стало ясно: использование ИИ в военных целях требует жестчайшего контроля. Например, армии США и других стран используют технологии для аналитики, но такие системы должны быть открыты для обсуждения и изменения, чтобы не нарушать права граждан. Кейс с увеличением удалений ChatGPT на 200% показывает, как важно компаниям учитывать общественные опасения.

В будущем, поскольку технологии ИИ продолжают развиваться, необходимы открытые и прозрачные дискуссии о том, как такие системы могут быть использованы. Это особенно важно в контексте автономных вооружений, где человеческое руководство должно оставаться на переднем плане. Одним из примеров успешного сочетания ИИ и человеческого контроля может служить система Palantir, которая подчеркивает необходимость присутствия человека в процессе принятия решений. Комментарии признанного эксперта в области безопасности, профессора Таддео, напоминают, что такие дебаты важны не только для технологии, но и для построения общества, в котором технологии действительно служат людям, а не против них.