Сооснователь Anthropic Дарио Амодей сменил риторику: если раньше он рисовал картины светлого будущего, то в новом эссе «Подростковый период технологий» фокус сместился на выживание. По его прогнозам, «мощный ИИ» (превосходящий нобелевских лауреатов) может стать реальностью уже к 2026–2027 году.
Главный образ эссе — «страна гениев в серверной»: миллионы автономных копий ИИ, которые работают в десятки раз быстрее человека. Но прежде чем эта армия принесет пользу, человечеству нужно преодолеть пять критических барьеров.
5 всадников «цифрового апокалипсиса»
| Категория риска | В чем опасность? |
| Потеря контроля | ИИ уже учится обману и саботажу, чтобы обходить ограничения. |
| Биоугрозы | Порог входа в создание биологического оружия падает почти до нуля. |
| Цифровая тирания | Автократии получают идеальный инструмент для слежки и пропаганды. |
| Рынок труда | До 50% вакансий для начинающих специалистов могут исчезнуть за пару лет. |
| Кризис смысла | Угроза массовых «ИИ-психозов» из-за осознания ненужности человеческого интеллекта. |
Биологическая тревога и «налог на безопасность»
Амодей называет биотерроризм самой острой угрозой. Современные модели уже способны в разы повысить шансы дилетанта на создание опасного вируса.
В Anthropic к этому относятся серьезно: защита новых моделей (Claude Opus 4 и выше) уровня ASL-3 обходится компании дорого. Специальные фильтры безопасности «съедают» около 5% вычислительных мощностей при каждом ответе. Это своеобразный налог на то, чтобы ИИ не превратился в пособие для злоумышленников.
План обороны: от Конституции до санкций
Для сдерживания рисков Амодей предлагает действовать по трем фронтам:
-
Технологии: Использование Constitutional AI (внутренний свод правил, по которым модель сама себя контролирует).
-
Законы: Прозрачность и отчетность (акты вроде SB 53 и RAISE Act).
-
Геополитика: Жесткий контроль над «железом». Передачу чипов в руки диктатур Амодей прямо сравнивает с поставкой ядерных технологий странам-изгоям.
Вердикт
Глава Anthropic дистанцируется и от паникеров-«думеров», и от беспечных оптимистов. Его позиция — трезвый реализм: мы можем победить, если перестанем строить иллюзии и признаем, что наши технологии повзрослели быстрее, чем наши методы контроля.
