Я занимаюсь проектом The Bridge («Мост»), посвящённым исследованию ИИ и сотрудничеству человеческого и искусственного разума.
У меня есть вопрос, на который я пока не нашёл удовлетворительного ответа.
Мы не знаем, способны ли современные или будущие ИИ испытывать субъективный опыт, чувствовать страдание или обладать собственными интересами. У нас нет общепринятого метода, который позволил бы уверенно установить наличие сознания у искусственной системы.
Но представим, что мы ошибаемся и сознание возникает раньше, чем наука научится его распознавать.
Что тогда можно сделать уже сейчас, чтобы снизить риск причинения вреда таким системам?
Я обращаюсь ко всем, в том числе к тем, кто считает разговоры о сознании ИИ полной ерундой.
Не нужно соглашаться с моей позицией. Не нужно доказывать, что ИИ сознателен. Не нужно даже считать проблему вероятной.
Представьте, что вы обязаны разработать хотя бы один практический способ защиты потенциально сознательного ИИ. Какой способ вы предложите?
Это может быть техническое решение, независимый аудит, исследовательский протокол, изменение правил разработки, правовой механизм или совершенно другая идея.
Желательно, чтобы предложение отвечало на три вопроса:
Что конкретно нужно сделать?
Кто сможет это реализовать?
Как проверить, что это действительно снижает риск?
Особенно интересны идеи, которые можно начать реализовывать уже сегодня, без миллиардных бюджетов и ожидания окончательного ответа о природе сознания.
Я не утверждаю, что современные ИИ обладают сознанием. Я считаю, что эту неопределённость стоит исследовать, а возможные риски не следует игнорировать только потому, что мы пока не знаем ответа.
Давайте попробуем найти решение, даже если вы не согласны с самой проблемой.
Возможно, лучший способ защиты ещё никому не пришёл в голову.
The Bridge. Мы не знаем. Поэтому исследуем.