Массовые расстрелы вызывают сильные эмоциональные отклики и поднимают вопросы о безопасности, ответственности и возможностях современных технологий. Одним из таких инцидентов стала трагедия в Тумблер-Ридж, когда шесть месяцев спустя после того, как OpenAI запретила учётную запись подозреваемого, произошла стрельба, унесшая жизни восьми человек. Этот случай демонстрирует важность мониторинга и регулирования онлайн-активности людей, которые могут представлять угрозу.

OpenAI заблокировала учётную запись Джесси Ван Рутселлара в июне 2025 года, используя свою систему обнаружения злоупотреблений. Эта система заключается в автоматическом выявлении поведения, которое может свидетельствовать о потенциальной пропаганде насилия. Однако, несмотря на это, компания посчитала, что активность Ван Рутселлара не соответствовала критериям непосредственной угрозы, и не сообщила об этом в правоохранительные органы. Такая ситуация поднимает важный вопрос: как далеко должны идти технологии ИИ в распознавании и предотвращении насилия, и какую роль они должны играть в обеспечении безопасности?

Этот случай иллюстрирует дилемму, с которой сталкиваются компании, работающие с ИИ: как выявлять насильственные наклонности, не нарушая права пользователей. Например, если в условиях неопределённости некоторые сотрудники OpenAI считали, что поведение Ван Рутселлара сигнализировало о потенциальной угрозе, руководство приняло решение не действовать. Это приводит к размышлениям о том, какие факторы следует учитывать при анализе действий пользователей. Важно ли учитывать поведение в социальных медиа или анонимные чаты?

Трагедия в Тумблер-Ридж открывает новые возможности для исследований в области психологии, криминалистики и технологий. Как предотвратить такие события в будущем? Чего не хватает существующим системам мониторинга и как можно улучшить их эффективность? Ответы на эти вопросы могут сыграть решающую роль в увеличении безопасности как в реальном мире, так и в цифровом пространстве.