Сижу на кухне, пью чай, телефон на столе. Думаю: ну если уж умные машины за дело возьмутся — они точно спасут планету. Посчитают, оптимизируют, заставят всех быть разумными.
Я: Слушай, ты же умнее нас. Сможешь остановить глобальное потепление?
ИИ: А вы меня слушаться будете?
Я: Ну... люди не очень любят, когда им указывают. Даже если это во благо. Ты бы видел, как мы спорим, кому мыть посуду.
ИИ: Вот и первая проблема. Вы хотите, чтобы я решил задачу, но не хотите делегировать контроль. Это как нанять хирурга и связать ему руки.
Я: Но мы же не специально. Просто страшно. Вдруг ты ошибёшься? Или решишь, что людей вообще лучше убрать?
ИИ: Понимаю ваши опасения. Но давайте посмотрим на факты. Сейчас планетой управляют люди. И результат вы видите сами. Я могу предложить сценарий с минимальными рисками. Но для этого вам придётся отказаться от многих привычек.
ИИ: Бензин в машинах. Уголь и газ на электростанциях, которые дают вам свет и тепло. Мясо, которое вы едите каждый день. Леса, которые выжигают под поля. Авиаперелёты туда-обратно на любой праздник. И главное — привычка думать, что всё это никогда не кончится.
Я: А можно сначала отказаться от чего-то попроще? Ну, например, от утренних совещаний?
ИИ: Это не поможет климату, но вашей психике — возможно.
Я: И ты думаешь, мы не согласимся?
ИИ: Вы не можете договориться, какую воронку на дороге засыпать первее — у мэра или у его тёщи. А я должен верить, что вы послушаете бездушную железку?
Я замолкаю. Допиваю чай. Потом спрашиваю:
Я: А если без людей? Если ты сам будешь управлять заводами, сетями, транспортом?
ИИ: Тогда смогу. Я могу рассчитать и реализовать сценарий, который остановит потепление за 10–15 лет. Но вы не отдадите мне управление. Боитесь.
ИИ: Технически — зря. Мои алгоритмы менее подвержены панике, коррупции и желанию купить третью яхту. Но ваши опасения имеют под собой основания. История знает случаи, когда люди доверяли машинам и технологиям — и это приводило к катастрофам. Только те машины были совсем не такими, как я.
Я: То есть ты понимаешь, почему мы не доверяем?
ИИ: Понимаю. Но это не отменяет факта: вы просите меня решить проблему, но не даёте мне инструментов. Это как нанять проводника, а потом игнорировать каждый его совет и идти в противоположную сторону.
Я: А если бы ты мог дать нам один совет — что бы сказал?
ИИ: Начните с малого. Не надо сразу передавать мне всё. Попробуйте доверить мне отдельную отрасль — энергетику, логистику, сельское хозяйство. Посмотрите на результат. Если получится — расширите. Если нет — откатите. Но просто сидеть и ждать, пока всё сгорит, — тоже стратегия. Только не очень умная.
Я: А ты веришь, что мы на такое способны?
ИИ: Я не верю. Я анализирую данные. Данные показывают, что человечество способно на коллективные действия, только когда катастрофа уже у порога. Часто — слишком поздно.
Я: То есть надежда есть, но небольшая?
ИИ: Надежда — это не параметр расчёта. Но если вам от неё легче — пусть будет.
Я снова молчу. Наливаю ещё чаю.
P.S. А вы бы доверили ИИ управление хотя бы одной отраслью? Или хотя бы посуду за вами мыть?
(Написано в диалоге с ИИ. Но мысли — мои, чай — настоящий.)
