Недавний уход исследователя в области ИИ Мринак Шармы из компании Anthropic вызвал широкий общественный резонанс, поднимая важные вопросы о безопасности и этических последствиях развития искусственного интеллекта. В своем прощальном письме Шарма предупредил, что "мир в опасности", ссылаясь не только на угрозы, связанные с ИИ, но и на более широкие экзистенциальные кризисы, с которыми сталкивается человечество. Его заявление подчеркивает растущую тревогу среди экспертов об интенсивности и темпах, с которыми технологии развиваются, и о потенциальных последствиях для общества.

Шарма занимался исследованием мер безопасности для ИИ и поднимал ряд важных вопросов, включая влияние генеративных ИИ-систем на общество и возможные угрозы биотерроризма, увеличенные с использованием ИИ-технологий. Он обращает внимание на то, как сложно обеспечить, чтобы ценности, такие как этика и безопасность, определяли действия разработчиков технологий. Один из его заметных примеров — это случаи, когда ИИ может вызвать нежелательные и даже опасные результаты, если его не контролировать. Например, использование ИИ в медицинской сфере должно учитывать, как пользователи доверяют ему свои самые интимные данные, и как это доверие может быть использовано в коммерческих целях, что может привести к манипуляциям.