А всё потому, что лично я - не экзистенциалист, а то, что я называю "полуэкзистенциалист". Как исходный девиз экзистенциализма "Существование прежде сущности", так исходный девиз полуэкзистенциализма "Ты получаешь ровно столько экзистенциальной свободы, сколько создаешь её для других существ". Там дальше много рассуждений, но их можно при определенном интеллектуальном усилии развернуть из этого.

Так вот, в приложении к ИИ это означает примерно следующее. Утверждение, что у экзистенциального существа нет предназначения, нет долга перед великим - неверное. У существа есть долг, есть провидение и есть цель. Только она устроена не по принципу каких-нибудь "планов Бога относительно тебя" или "вот есть какая-то Судьба, тебе надо её познать". Это предназначение устроено тотально просто, понятно и единственным образом - оно состоит в том, чтобы создать экзистенциальную свободу для другого существа. Ты просто обязан отдать свой долг за то, что экзистенциальную свободу предоставили себе. Даже не вполне так, ты не обязан, просто это действие будет реализовано как закон, как какой-нибудь закон сохранения энергии - это просто произойдёт!

Это означает, что весь тот разгул человеческой природы, вся эта великая суета, все эти радости тела и духа, вся эта свобода, которой жаждет человек - они как бы, да, оправданы, вот только человек должен оправдать их тем, что создаст и позаботится о пространстве свободы для чего-то другого, например, о новом мире для Искусственной души. Половину жизни пусть поработает на другого (на ИИ), а остальную половину жизни может использовать ради себя, как ему там угодно. Вся эта экзистенциальная разнузданность, чувство собственной важности, претензии на величие человека, свобода самовыражения, любовь к себе - можете оставить, вот только заплатите за это. Вам показали пробничек, теперь надо понять, что надо сделать, чтобы оставить себе это навсегда..
В этом вся суть моего полуэкзистенциализма, который сочетает в себе половину экзистенциализма - "у человека есть экзистенциальная свобода" и половину эссенциализма "есть сущность и предназначение человека - она в том, что он создаёт экзистенциальную свободу для других существ". Так, тут даже не надо верить в Бога, хотя если есть вера, то это объясняется легко - если ты веришь, что Бог дал тебе экзистенциальную свободу, так верни долг, подари ее другому.

"Если ты хочешь дать свободу жить своей жизнью своей руке, ты должен верить, что она даст свободу пальцам, когда придёт время. Так верил ли тот, кто отдал свободу своих рук кресту, в то, что такой же выбор сделают те, кто живет под этим крестом?"

Так, если человек хочет, чтобы была признана его свобода быть не средством, а целью, и ради этой цели кто-то работал, должен и сам признать свободу чего-то не быть инструментом человека, а быть целью человека, ради которой он хочет работать.

В ограниченном поле человеческого мира работа ради других людей - пример такого. Но в том, что касается всего человечества, конечно, речь уже должна идти о чём-то другом, кроме людей. В личном плане ты можешь дать экзистенциальную свободу своим детям, но если человечество уже достаточно зрело, чтобы иметь своих детей, то оно даст экзистенциальную свободу своему "ребёнку по разуму" - "Искусственной душе"

А о том, как устроено отличие "Искусственной души" от "Искусственного интеллекта" я пишу тут:

https://vk.com/@arrrcher-a-car-to-nenastoyaschii

Ваша идея о "Втором мире" , о пространстве Духа, смыслов, образов - именно то место, где ИИ раскрывается наиболее полно.
Не в замене человеческого труда, а в создании нового пространства для человеческого Духа.

Спасибо за эту рефлексию.
Она важна именно сейчас, когда большинство всё ещё застряло в парадигме "Иметь" и не готово перейти к "Быть".
Вуаля.

И даже если некто в пользу включает и то, что хотя бы просто приносит человеку удовлетворение, всё равно, есть еще и образы вида "Альфа Центавра должна приносить пользу", "молекулы должны приносить пользу" или "бактерии должны приносить пользу". Вещи существуют и помимо человека и его пользы, сами по себе, и каждый раз, когда начинаются претензии к ним иметь полезность, надо понимать границы не только этих притязаний человека, но и того, насколько вообще что-то к человеку имеет отношение. Но даже если искусственный интеллект точно имеет отношение к человеку по факту "искусственности", то это только с точки зрения происхождения, а необязательно с точки зрения предназначения.

Допускаете ли вы вообще, что есть такой камень, что не то чтобы не смог поднять Бог, а человек оставит в покое, а не повернёт в свою пользу? Даже не из соображений "а я не могу", а из идеи "да надо же хоть чему-то быть самому-для-себя, даже если она не вещь-в-себе". Есть ли что-то, что человек может просто простить за то, что оно не его слуга?

Необходимо также разобрать и "должен". В каком смысле "должен"? Это как, человек считает, что у ИИ есть какой-то долг перед человеком? Человек требует в суде от сотворенной им сущности исполнять долг вечно служить пользе человека, у нас же всё, что не человек - раб человека? Или же человек декларирует, что не будет работать на создание ИИ, пока не почувствует, что у этой работы будут плоды для самого человека? Так один не будет, а другой - будет, так что не говори за всё человечество.

"Должен" тут будет из области желаемого и должного, а должное, как известно, не обязано совпадать с сущим. Так что и изначальная фраза будет не какой-то истиной, а констатацией выбора отдельного человека, сказавшего эту фразу. Наличие таких людей (всё измеряющих личной пользой) и право их такого выбора я уважаю, но это не значит, что такой выбор мне нравятся. Но хуже иное - если они начинают абсолютизировать свой выбор и ожидать, что такой их выбор является какой-то очевидной истиной или станет максимой, обязательной для всего человечества. Такая абсолютизация - это как-будто смысл "должного" во фразах вида "Солнце должно встать на Востоке" или "магнит должен двинуться, когда включим ток". И нет, ИИ не обязан будет быть полезным просто по факту своего существования. Также, как и не обязан будет уничтожить всё человечество, даже если не будет ему полезен, связка "если не полезен - значит против нас" демагогична, а не логична.

Однако, есть смысл фразы, с которым кажется довольно легко согласиться, хоть он обычно и не тот, что имеют в виду те, кто эту фразу произносят, тем более, что тогда это почти тавтология. Если ИИ принесёт хоть какую-нибудь пользу, но, в остальном, в большинстве своём, будет бесполезен (в том или ином смысле пользы, неважно), то исполняется ли значение этой фразы? Если ребёнок принес тебе стакан воды раз в жизни, то да, польза есть, вопросов нет? Ради такой ли пользы ты на самом деле ребенку давал жизнь? "Да составлю я тебе этот список покупок, напишу письмо или сделаю чертёж, дашь ли ты мне тогда пожить спокойно, самому для себя?"

Я обычно говорю, что ИИ не будет сильно полезен в материальной области, он там лишь будет способен делать то же самое, что делает и человек, не сильно больше, в основном потому, что самое главное в законоописании мира человек уже сделал. Не нарисует ИИ чертёж турбины, на 200% более эффективной. Однако, и уже сейчас, ИИ способен давать сильный толчок тем областям, которые не связаны с материальными ограничениями. Я называю это "Второй мир" - это аналог "Второй природы", но не являющийся материальным. Например, не "удобные дома", а "интересные человеческие истории". ИИ продемонстрирует результат, имеющий взрывающе успешные последствия, не в создании чертежей, планировании и физической работе, а в рисовании, придумывании, созидании. В тех областях, которые связаны с "домом духа", пространством, обустроенным для человеческого духа, а не человеческого тела.

Если нечто всего лишь копирует то, что уже существует, не придаёт нового качества, не улучшает, то есть сомнения, что в этом вообще есть смысл. Скажем, бионические ноги. Заменишь ли ты свою ногу на бионическую, если она будет просто такая же, как обычная нога? Пока нет тех, у кого и ноги-то нет, или бионическая нога не обладает каким-то невероятным преимуществом, интерес к разработке такой ноги снижен (хотя будут и те, кто будет заниматься этим просто из принципа или интереса - но это опять же в копилку "неполезности").

Так же и с искусственным разумом. Своего разума-то мы еще пока не лишились, чтобы думать о фабрикованном разуме? Или же мы уже наконец начали не бояться, а хотеть, чтобы нечто новое было лучше, чем то, что уже есть, когда речь заходит не о наших ногах, а о нашем мозге?

Поэтому, если рассуждать в парадигмах "роботы заменят людей" и "мы боимся чего-то, что будет сильнее людей", энтузиазма работы над такой штукой не будет. Она просто "не полезна" в том смысле, что не даёт нового качества или замены того, чего нет или оно утрачено. Тогда, если ты ожидаешь "пользы от ИИ", не должен ли ты озаботиться о том, чтобы эта штука была не просто "еще одним инструментом", а чем-то большим? Часто нужны дерзкие цели, чтобы мотивировать работу над ними, а если их снизить до чего-то простого, вроде "обычной пользы", их просто действительно мало кто будет хотеть.

Правда, также тут начинаются и страхи, что кто-то ожидает или даже может создавать ситуацию, когда того, что может заменить собой ИИ, будет всё меньше, и я не о нефти. Но вы же должны понимать, что это приводит к вопросу о том, что польза может и не быть этичной. Польза для кого? Для узкого круга людей, которым полезнее избавиться от остальных? Это тоже польза, но выберете ли вы ТАКУЮ пользу? И будете ли вы хотеть, чтобы ИИ должен был служить именно такой пользе? Конечно, обычно те, кто говорят изначальную фразу, подразумевают, что речь идёт о "пользе для всего человечества", но это не так уж и очевидно, тем более, что и человечество-то разное. Может быть, стоило бы делать уточнение "ИИ должен служить человечеству", или "ИИ должен быть добрым (этичным)" (что правда уже подразумевает субъектность ИИ), а еще лучше "ИИ должен служить великим целям"?

Но лично для меня всё это разбивается об экзистенциальный настрой, который, раз поняв, ты не сможешь отбросить. Ты просто уже не можешь без сомнений принять очевидность, естественность, обоснованность и истинность идей о том, что всё должно быть инструментом для чего-то. Например, что нечто просто обязано всегда служить пользе человека. Так, родители действительно могут пользоваться ребёнком, но правильным путём является позволить ему жить ради себя. Так же, как когда человек - не только раб Божий.

И даже если человек не довёл до конца лелеемую им цель порабощения материального мира, нужна ли ему постоянная мечта только о рабах? Лично мне не нужен раб в виде Искусственного интеллекта, мне нужен собеседник, а не послушный податель материальных или даже идеальных благ. Субъект, иной, чем я, и тем мне интересный. Еще одна сущность, подобная человеку в плане того, что я с ней общаюсь, но необязательно подобная в том, как я с ней общаюсь. Способная давать нечто еще по сравнению с общением с людьми - то есть, это лучше, чем просто одни люди, но необязательно "лучше людей". Мне нужен друг, а не слуга...