Раньше бункерами обзаводились миллиардеры. Теперь запасной аэродром ищут сами инженеры, которые делают ИИ. По данным Wall Street Journal, несколько сотрудников из самого первого набора Anthropic за последние недели рассказывали коллеге по индустрии, что подумывают купить землю в отдалённых уголках США. Переезжать туда они собираются, «если с ИИ что-то пойдёт не так».
Бывшие сотрудники вспоминают, что ещё на корпоративных ужинах в первые годы Anthropic всерьёз обсуждали сценарий в духе Манхэттенского проекта. По нему их могли попросить уехать в пустыню и продолжать делать ИИ в правительственном объекте с электромагнитной защитой.
WSJ связывает это с субкультурой эффективного альтруизма, из которой вышла заметная часть первых сотрудников Anthropic и OpenAI. Это сообщество «думеров» годами просчитывает конец света: до ИИ в их списке угроз стояли астероиды и супервулканы.
Бункеры у верхушки — давняя история
2016 год: Сэм Альтман рассказывал New Yorker, что у него есть оружие, золото, йодид калия, противогазы Армии обороны Израиля и участок в Биг-Суре, куда можно улететь. 2017-й: Рид Хоффман оценивал, что больше половины миллиардеров Кремниевой долины купили «страховку от апокалипсиса», а Питер Тиль к тому моменту уже тихо получил гражданство Новой Зеландии. 2023-й: Wired раскопал подземное убежище на гавайском ранчо Марка Цукерберга, а Илья Суцкевер говорил новым исследователям OpenAI: «Мы обязательно построим бункер, прежде чем выпустим AGI».
Так тренд набирает обороты?
Да, и по двум признакам. Во-первых, раньше готовились миллиардеры, и сразу ко всему: пандемиям, ядерной войне, бунтам. Теперь угроза конкретная, и это продукт, над которым люди работают каждый день. Во-вторых, запасной выход ищут уже не только владельцы компаний, но и ранние сотрудники.
Фон подходящий. Пару недель назад Дарио Амодей призвал лаборатории притормозить, Альтман и Маск его поддержали, а Трамп назвал это «больным заговором» в пользу Китая. Билл Гейтс предупредил, что ИИ может «привести к миллиарду смертей». А OpenAI сегодня остановила обучение после выходок своих агентов.
Ирония в том, что эти же люди продолжают строить то, от чего собираются прятаться. Ответ давно заучен: если не мы, то кто-то менее осторожный. Участок в глуши при таком раскладе — просто страховка на случай, если осторожность не сработает.