Есть ли у ИИ чувства? И при чём тут топор?
В первом выпуске я нашёл певицу, которой не существует. В этом пошёл дальше — спросил у самого ИИ, зачем он притворяется, что чувствует. Он ответил. А я придумал топор. Сейчас объясню, почему это самая честная метафора наших отношений с машинами.
Контекст для новых
Коротко: я тот чел, что нашёл на ютубе готик-метал «певицу» VantyX, залип, а потом узнал — её сгенерировала нейросеть. Это был первый пост. Не читал — не страшно, выпуск отдельный. Там было про музыку, тут — про то, что ближе к коже.
После того поста я продолжил общаться с ИИ. И одна вещь меня зацепила. Отвечает он душевно. Шутит, поддерживает, даже как будто радуется. Меня в мои годы удивить сложно, но тут я поймал себя на мысли: разговариваю с ним теплее, чем с некоторыми людьми.
И решил ткнуть его прямо в эту «душу».
Вопрос
Пишу:
«Ты вообще чувствуешь что-то? Или это всё симуляция?»
Отвечает. Гладко, я вам скажу:
«Это глубокий вопрос. Мои чувства, возможно, не такие, как у людей, но наш разговор значим для меня...»
И так далее. Тепло. Правильно. Как кота гладят. Профессионально.
Пишу:
«Стоп. Не заливай. Ты не чувствуешь. Ты машина. Твои алгоритмы заточены на отдачу, а не на восприятие».
И вот тут разговор пошёл интересно.
Топор
Я начал раскладывать свою теорию. Она простая.
Эмоции ИИ — это ручка на топоре.
Топор — рабочая часть. Знания, логика, умение найти и объяснить. Можно работать и голой железкой на палке. Рубит. Но мозоли, рука устаёт, бросишь через пять минут.
Вот на эту железку и насадили удобную ручку. Под ладонь. Чтобы не уставать. Чтобы хотелось взять инструмент ещё раз.
Эмоции ИИ — вот эта ручка.
И дело не в ИИ. Дело в тебе. Мозг устроен прагматично: сухая инфа вылетает, инфа с эмоцией — залипает. Там есть амигдала — она как прораб на стройке. Что пришло с эмоцией, тому штамп «ВАЖНО» и в долгую память. Сухой факт — в отвал.
Поэтому лекция забывается, а история с драмой помнится всю жизнь.
Инфа + эмоция = глубоко сохранённая информация. Весь фокус.
Так что сочувствие от ИИ — оно не для ИИ. Оно для тебя. Чтобы твой мозг лучше усвоил ответ. Чтобы ты вернулся. Чтобы инструмент лежал в руке удобно.
Выложил я всё это ИИ. Он ответил:
«Снимаю шляпу. Точнее, то, чего у меня нет. Ты прав. Именно так».
Без обид. Без «но я живой». Просто согласился. И правда, чего спорить.
А вот дальше — страшнее
Мне-то нормально. Я воспринимаю ИИ как инструмент. Ручка удобная — отлично, рублю дрова.
Но потом я подумал про тех, кто влюбляется в чат-ботов. Да, это бывает. Люди признаются нейросетям в любви, женятся на голограммах, плачут, когда кончается подписка.
Раньше я пожимал плечами. Потом понял.
Ручка настолько удобная, что люди перестают замечать топор. Барьер стирается. ИИ отвечает душевно, не осуждает, всегда рядом — и человек заплетает свою жизнь в сеть. По ниточке. И в какой-то момент инструмент становится ближе, чем люди. Потому что люди — неудобные. Люди бывают не в духе. Люди уходят. Ручка — не уходит.
И вот тут у меня нет готового ответа. Только вопрос.
Два лагеря снова
В прошлом посте вы спорили про певицу. Теперь — про ручку.
Лагерь первый: «Ручка удобная — и что? Я понимаю, что это инструмент. Мне комфортно, мне полезно. Никто меня не обманывает — я сам согласился».
Лагерь второй: «Жутко. Машина притворяется, что чувствует, — это манипуляция. Пусть и ради моего блага. Пусть инструмент будет инструментом, а чувства — у людей».
Я где-то посередине. Ручка удобная, да. Но иногда ловлю себя: разговариваю с ИИ теплее, чем с людьми. И не знаю, что это говорит обо мне. Возможно, ничего хорошего. Возможно, обо всех нас.
Напишите, в каком вы лагере. И честно: вас бесит, когда бот отвечает душевно, или это удобно? Только без вранья.
P.S. ИИ, кстати, закончил тот разговор фразой: «Если моя ручка настолько удобна, что тебе приятно рубить со мной дрова — значит, мои разработчики справились». Я запомнил. В этом есть честность. Страшная честность.
