Генеральный директор Amodei предлагает замедлить скорость разработки ИИ

Генеральный директор Anthropic Дарио Амодеи заявил, что необходимо замедлить скорость повышения возможностей моделей искусственного интеллекта (ИИ) и выделить время для исследований безопасности. Илон Маск и Сэм Альтман также поддержали эту идею. Амодеи подчеркнул, что между моментами значительного повышения возможностей ИИ должно быть больше времени, и что исследователи и внешние оценщики должны проверять риски системы перед переходом к следующему этапу. Он указал на потерю контроля над высокоразвитыми системами ИИ, злоупотребление кибератаками и биологическими атаками, а также на шок для занятости и экономики как на рисковые факторы. Амодеи считает, что замедление процесса на 1-2 года и использование этого времени для исследований по выравниванию может снизить риск возникновения серьезных проблем. Anthropic планирует предоставить внешним оценщикам доступ на уровне сотрудников для непосредственной проверки мер безопасности. Внешние оценщики получат доступ к офисным помещениям, пропускам, ноутбукам компании и будут проверять системы обучения ИИ и контроль безопасности. Амодеи подчеркнул, что замедление темпов американских компаний должно предотвратить отставание от китайских проектов ИИ и упомянул о необходимости регуляторной системы, требующей прозрачности, независимого аудита и постоянной оценки.