Журнал TIME посвятил большой материал растущим рискам, связанным с развитием мощных систем искусственного интеллекта. Поводом стала в том числе история исследователя Anthropic Джейкоба Коксона, который публично ушёл из компании и заявил, что AI-компании фактически «играют нашими жизнями», передает Tech-news.
По версии TIME, дискуссия об AI safety выходит за пределы узкого круга исследователей. Один из главных вопросов — смогут ли разработчики гарантировать контроль над всё более способными моделями и не допустить поведения, которого от них не ожидали.
Издание отмечает, что опасения касаются не только далёкого сценария появления сверхразума. Эксперты обсуждают вполне конкретные угрозы: использование ИИ при создании биологических угроз, автономного оружия и других систем, способных причинить масштабный ущерб.
Для материала TIME поговорил с исследователями, представителями властей и экспертами о том, как регулировать наиболее мощные AI-системы и какое международное сотрудничество потребуется, чтобы снизить риски.
