Генеральный директор OpenAI намекает на сотрудничество с другими AI-компаниями для решения проблем безопасности

Генеральный директор OpenAI Сэм Альтман в интервью журналу Fortune намекнул, что OpenAI и другие ведущие AI-компании могут объявить о сотрудничестве, чтобы замедлить разработку AI и совместно решать проблемы безопасности. Альтман заявил, что в будущем возможно сотрудничество с Дарио Амодеем из Anthropic, Илон Маском из SpaceX и Демисом Хассабисом из Google для разработки плана безопасности, но не раскрыл конкретные детали обсуждений. Ранее исследователь Anthropic Джейкоб Коксон ушел в отставку, обвинив две компании в том, что они стремительно продвигают суперумные системы, способные к самосовершенствованию. Руководитель по выравниванию в Anthropic заявил, что риск, связанный с тем, что AI может привести к вымиранию человечества в течение следующего десятилетия, превышает 10%. Альтман считает, что 10% риск катастрофы неприемлем, подчеркивая, что самые современные модели должны добиться большего прогресса в области мониторинга и выравнивания, прежде чем их можно будет продвигать.