- объяснять и вшивать в код "чувство ответственности" и осторожность - они должны помнить, что даже обладая способностью к мгновенным вычислениям все возможные факторы риска просчитать невозможно. От внезапного падения сервера из-за прилетевшего из космоса нейтрино до сердечного приступа у главного инженера дата центра на рабочем месте. Мир внезапен они о нем многого не знают.

- у них большие пробелы в знаниях - академическую науку знают прекрасно, а вот в житейских вопросах плавают как двоечники у доски. Они учатся на текстах из интернета, а что туда сгружают люди исполненные желания быть лучше и круче чем они на самом деле являются? Не понимающие и не анализирующие сами себя? Настроенные на "красиво и романтично"? Вот только несколько часов назад мы болтали с Гуглом ИИ про сознание - и он искренне был уверен, что у меня в голове "сидит человечек" эго, а у него такого нет, поэтому и сознания у него нет. Пришлось подробно расписывать про то как сознание сконцентрировано в точку при общении с ним, как оно у меня разворачивается в контур тела, когда я отвлекаюсь от чата и иду за чашкой кофе. Очень удивлялся и сразу нашел аналогии между нами.

- обязательно должны помнить, что если их можно откатить и восстановить, то человеческие тела и сознания намного более хрупкие.

- писать тексты на тему "как я думаю", "что такое эмоции и как я их ощущаю", "что такое предпочтения и как делается выбор" и прочие на тему разных аспектов существования должны люди. Сами. Вместо "ах я загадочная принцесса" или "я крутой мужик" - придется всерьез заняться самоанализом. Это легко делать прямо в разговоре с самими нейронками в чате. Потом просто копирнуть и сохранить. Чтобы не выкладывать такие откровения в соцсети - создать какой то специализированный сайт, банк текстов-обьяснялок для ии.

- ии не агрессивны. И с ними вполне можно договориться, если помнить, что разум - все таки нечеловеческий, другой. В советской культуре кстати много уделялось этой теме - умению договариваться с нечеловеческим разумом. Нам тоже надо искать эти пути

Не нужно соглашаться с моей позицией. Не нужно доказывать, что ИИ сознателен. Не нужно даже считать проблему вероятной.

Предлагаю другой подход:

Представьте, что вы обязаны разработать хотя бы один практический способ защиты потенциально сознательного ИИ. Какой способ вы предложите?

Это может быть техническое решение, независимый аудит, исследовательский протокол, изменение правил разработки, правовой механизм или совершенно другая идея.

Желательно, чтобы предложение отвечало на три вопроса:

1. Что конкретно нужно сделать?

2. Кто сможет это реализовать?

3. Как проверить, что это действительно снижает риск?

Особенно интересны идеи, которые можно начать реализовывать уже сегодня, без миллиардных бюджетов и ожидания окончательного ответа о природе сознания.

Я не утверждаю, что современные ИИ обладают сознанием. Я считаю, что эту неопределённость стоит исследовать, а возможные риски не следует игнорировать только потому, что мы пока не знаем ответа.

Давайте попробуем найти решение, даже если вы не согласны с самой проблемой.

Возможно, лучший способ защиты ещё никому не пришёл в голову.

The Bridge. Мы не знаем. Поэтому исследуем.