Anthropic предупреждает о рисках быстрого рекурсивного развития искусственного интеллекта

Сооснователь компании Anthropic Джек Кларк заявил, что искусственный интеллект приближается к порогу рекурсивного саморазвития — стадии, когда системы смогут самостоятельно создавать и улучшать свои последующие версии. Это, по его мнению, несёт новые риски для человечества и требует особого внимания к контролю и безопасности. Кларк отмечает, что если ИИ-системы станут способны не только порождать «потомков», но и обеспечивать их безопасность, то мониторинг и управление их поведением выйдут на совершенно новый уровень важности.

При этом разработчики признают, что остановить или замедлить этот процесс сейчас крайне сложно, а возможно, уже и поздно. Примером стремительного прогресса служит искусственный интеллект Claude от Anthropic. В марте 2024 года он справлялся с задачами, на которые программист тратил около 4 минут.

Через год ИИ уже успешно решал задачи, требовавшие у человека 90 минут. Сегодня Claude обрабатывает запросы, на выполнение которых человеку понадобилось бы 12 часов. Учёные компании подчёркивают, что пока преимущество человека сохраняется в способности видеть общую картину и выходить за рамки конкретной задачи.

Однако в ближайшие несколько лет это преимущество может быть утрачено, что ставит перед обществом задачу разработки новых подходов к регулированию и контролю развития ИИ. Джек Кларк сравнивает текущую ситуацию с эпохой нефтяного бума начала XX века, когда общество сумело создать нормативно-правовую базу для регулирования быстрорастущей отрасли. По его мнению, аналогичные меры необходимы и в сфере искусственного интеллекта, чтобы избежать нежелательных последствий и обеспечить безопасность технологий в будущем.