Искусственный интеллект

Публикую полный текст этого сегодняшнего эссе Билла Гейтса о рисках ИИ, было довольно интересно прочитать в оригинале.

Наступила бурная эра искусственного интеллекта. Выбор, который мы делаем сейчас, имеет решающее значение.

Нам нужен план, который позволит гарантировать, что хорошее перевешивает плохое.

Переход к эпохе ИИ станет одним из самых неспокойных периодов в истории человечества. Сейчас мы не готовимся должным образом к этому переходу. Если мир предпримет правильные шаги, ИИ станет силой добра и сделает всех лучше.

За всю свою жизнь у меня было всего две работы. В первом случае я принимал участие в разработке программного обеспечения для расширения прав и возможностей людей посредством своей работы в Microsoft.

Во втором проекте, который я начал на постоянной основе в 2008 году, я возвращаю богатство, заработанное в Microsoft, с целью сделать мир более здоровым, образованным и справедливым. Это работа, которую я буду выполнять до конца своей жизни.

Оба эти опыта определяют мою точку зрения на искусственный интеллект. Когда я впервые узнал о компьютерах в 13 лет, меня завораживала идея сделать их более интеллектуальными и способными выполнять задачи, которые в то время могли делать только люди. Хотя термин “ИИ” использовался примерно с того времени, как я родился, эта технология достигла значительного прогресса только за последнее десятилетие. Сейчас он невероятно способен и продолжает совершенствоваться с ошеломляющей скоростью. ИИ впервые может заменить и даже превзойти человеческое познание.

С точки зрения справедливости ИИ станет либо величайшим уравнителем, когда-либо изобретенным, либо худшим источником несправедливости. Задача колоссальная. Даже при самых благоприятных обстоятельствах переход к новой эре ИИ станет одним из самых неспокойных периодов в истории человечества. Как мы будем использовать эту технологию, чтобы сделать мир более справедливым и не допустить расширения разрыва между богатыми и бедными? Как мы защитим людей, которые наиболее уязвимы к вреду, причиняемому искусственным интеллектом, в том числе тех, кто теряет средства к существованию и ощущение, что они контролируют свое будущее?

Я считаю, что ответы на эти вопросы и действия в соответствии с ответами должны быть главным приоритетом в мире. Если мир предпримет правильные шаги, ИИ станет силой добра и сделает всех лучше.

К сожалению, сейчас мы к этому не готовимся. Я не вижу доказательств того, что лидеры, эксперты и сообщества адекватно справляются с этими вызовами. Планов по облегчению вступления в эпоху искусственного интеллекта нет.

Частично это объясняется тем, что многие комментаторы недооценивают масштабы воздействия ИИ. Я думаю, есть несколько причин, почему.

Одним из них является тот факт, что модели ИИ по-прежнему допускают ошибки. Трудно представить, чтобы кто-то из них заменил человеческое познание, когда не так давно они не могли решить простую головоломку судоку или выяснить, сколько букв «R» в слове strawberry.

Однако проблема надежности быстро решается, поскольку исследователи создают модели, которые могут проверять свою работу и совершенствовать себя. Скоро они станут значительно лучше людей во многих задачах.

Еще одна причина, по которой люди недооценивают ИИ, заключается в том, что аналогии с последствиями прошлых инноваций вводят в заблуждение. У нас нет опыта работы с технологией, которую можно было бы быстро внедрить или которая могла бы думать и двигаться как человек. Когда появился ПК, потребовалось двадцать лет, чтобы существенно изменить то, как мы работаем, потому что программное обеспечение нужно было разработать, цена должна была снизиться, и людям нужно было научиться использовать инструменты и включать их в свои бизнес-процессы. ИИ, с другой стороны, работает на тех устройствах, которые у нас уже есть, и использует естественный язык. Нам не нужно к этому приспосабливаться, потому что это может приспособиться к нам. Он может смотреть то же обучающее видео, которое используется для обучения работников-людей, и учиться на существующих данных.

Я хочу признать потенциальную предвзятость. Я получил огромную выгоду от технологической отрасли. Хотя я довольно сильно диверсифицировал свой портфель, у меня все еще есть с ним финансовые связи. В качестве председателя Фонда Гейтса я работаю с Microsoft и другими компаниями, занимающимися искусственным интеллектом, чтобы попытаться обеспечить внедрение искусственного интеллекта способами, которые действительно принесут пользу людям во всем мире.

Однако мои взгляды на ИИ не мотивированы возможностью зарабатывать деньги для себя. Любая прибыль, полученная от моих инвестиций, в том числе связанных с технологиями, будет направлена в Фонд Гейтса для борьбы с глобальным неравенством. Конечно, читателям придется самим решить, затуманивает ли это мою точку зрения.

На этот раз все действительно по-другому.

Насколько я помню, мне хотелось, чтобы инновации происходили быстрее. С ИИ мои чувства усложняются.

Мне бы хотелось, чтобы мир мог быстро получить выгоды и как можно дольше откладывать проблемы, которые он вызовет, но выгоды и проблемы приходят одновременно. Я считаю, что нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вот-вот вступим. Больше всего времени нужно тем, у кого меньше всего— бухгалтеру, которого заменил бот, или работнику с зарплатой 20 долларов в час, который теряет работу из-за робота с зарплатой 10 долларов в час.

Многие наблюдатели говорят, что этот технологический переход будет таким же, как и предыдущие. Они приводят пример того, как рабочие места в Соединенных Штатах перешли от сельского хозяйства к офисной работе. Однако это продолжалось на протяжении нескольких поколений и создало новые рабочие места, где требовалось человеческое познание. В этом случае технология может заменить человеческое познание.

Поскольку он может видеть, слушать, говорить и рассуждать и в конечном итоге будет выполнять физическую работу так же гладко, как и любой человек, он повлияет не только на один сектор. ИИ возьмет на себя работу в сфере права, обслуживания клиентов, медицины, программного обеспечения и производства. Это быстро ударит по этим отраслям в течение десятилетия, а не нескольких поколений. Появится несколько новых рабочих мест, но без правильной политики их будет гораздо меньше, чем существует сегодня.

Если бы у кого-то был надежный план по замедлению развития ИИ во всем мире, я бы, скорее всего, его поддержал. Однако я не думаю, что это произойдет. Геополитические и экономические стимулы слишком сильно давят, чтобы двигаться вперед на полной скорости.

Чтобы убедиться, что мы максимизируем положительные эффекты этой беспрецедентной технологии и минимизируем плохие, чтобы в целом нам было лучше, нам необходимо понимать как преимущества, так и риски. Начну с рисков.

Переход на ИИ сопряжен с тремя большими рисками.

Я планирую написать о каждом из них более подробно в будущем, поэтому пока кратко коснусь их.

1. Многие рабочие места исчезнут навсегда.

В 1933 году, во время Великой депрессии, безработица в США была примерно 25 процентов. На протяжении большей части следующего десятилетия этот показатель оставался двузначным. В конечном итоге он восстановился по мере возвращения спроса, инвестиций и экономического роста.

ИИ, возможно, и не достигнет этого уровня, но его влияние не исчезнет с экономическим циклом. Наибольшему риску подвергаются рабочие места начального и среднего звена, а создаваемые новые рабочие места в основном потребуют навыков, на освоение которых уйдет много лет.

Рабочие места «белых воротничков» уже немного пострадали. После широкого внедрения генеративного ИИ занятость значительно упал среди молодых работников, занятых на работах, которые особенно уязвимы для замещения, но не среди их старших коллег.

Я думаю, что эта тенденция сохранится, но она не ограничится несколькими отраслями или профессиями. Рабочие места в сфере продаж и поддержки клиентов (онлайн и по телефону), разработки программного обеспечения и работы помощником юриста могут быть затронуты в первую очередь, но сбои будут распространяться гораздо дальше, поскольку ИИ возьмет на себя задачи, которые сегодня по-прежнему требуют обученных работников: такие вещи, как оценка заявок на кредиты, анализ данных и даже сортировка пациентов. Некоторые области, такие как разработка программного обеспечения, будут генерировать новый спрос по мере снижения затрат, поэтому чистая потеря рабочих мест в этих областях будет меньше, чем в других, при условии, что некоторые задачи, такие как проектирование, лучше выполняются людьми.

Пострадают и рабочие места рабочих. Хотя роботы не так развиты, как ИИ, в конечном итоге их стоимость также значительно снизится. Многие американцы, с которыми я общаюсь, не осознают, насколько быстро развиваются ловкие роботы, поскольку большая часть передовой работы выполняется в других странах, в первую очередь в Китае. Или их могут сбить с толку те видеоролики с плохо танцующими роботами, которые в последнее время стали вирусными. Я думаю, что “умные” роботы начнут конкурировать с людьми при выполнении некоторых физических задач —например, в строительстве и индустрии гостеприимства— к концу десятилетия.

Сочетание роботов и искусственного интеллекта может создать порочный круг. После того, как одна компания примет их и использует сэкономленные средства для снижения цен, ее конкуренты почувствуют огромное давление, требующее сделать то же самое. Если существующие компании их не примут, то это сделают стартапы. Многие люди перейдут на другую работу, но потрясения, связанные с потерей работы, переподготовкой и поиском другой работы, будут значительными. Рыночные силы будут способствовать тому, что внедрение будет происходить все быстрее и быстрее, и, если мы не вмешаемся, хороших рабочих мест будет меньше, а выгоды получит небольшая группа.

Меня особенно беспокоят молодые люди, которые выйдут на рынок труда с меньшим количеством вакансий начального уровня. Они понимают проблему, поскольку являются наиболее активными пользователями ИИ и видят как возможности, так и темпы улучшения. Неудивительно, что многие из них негативно относятся к ИИ.

Самый большой сдвиг для работников произойдет, когда ИИ обеспечит практически безошибочную работу. В этот момент он сможет функционировать самостоятельно, без участия человека, и у компаний появятся все экономические стимулы позволить ему это сделать.

Это приведет к фундаментальным изменениям в том, как мы думаем о работе, доходах и экономической безопасности. Как будет функционировать экономика, построенная на занятости, если меньше людей работают или если много людей работают меньше часов?

В капиталистическом обществе занятость — это способ, с помощью которого большинство людей получают деньги, необходимые для оплаты основных жизненных расходов, а также ключевой источник достоинства и социальных связей.

Когда в обществе высокий уровень безработицы, волновые эффекты могут быть повсеместными. Исследования показывают, что в некоторых частях Соединенных Штатов закрытие заводов способствует росту смертности от передозировки опиоидов. А теперь представьте себе аналогичное давление как на служащих, так и на рабочих по всей стране.

Теперь нам нужно подумать о том, как сократить потери рабочих мест, чтобы каждый мог участвовать в процветании, которое создает ИИ. Ждать, пока люди уже будут перемещены или частично заняты, будет слишком поздно. ИИ — это структурный вызов организации нашей экономики, и он требует размышлений и действий уже сейчас.

2. ИИ даст людям (и, возможно, самому ИИ) возможность причинять больше вреда.

Задолго до того, как ИИ стал мейнстримом, в Интернете появилась информация о том, как создавать такое оружие, как бомбы, биологическое оружие и даже компьютерные вирусы. ИИ значительно облегчит не только получение этой информации, но и принятие мер на ее основе. Даже преступники с очень ограниченными навыками смогут преследовать жертв любого масштаба: отдельных лиц, компании и правительства.

Мошенничество с использованием искусственного интеллекта, дезинформация, дипфейки и слежка - это вред, который многие люди будут чувствовать наиболее остро в своей повседневной жизни.

Возможности искусственного интеллекта начинают использоваться для кибератак. Самые умные эксперты по кибербезопасности, которых я знаю, боятся следующих нескольких лет, потому что злоумышленники получают новые мощные возможности быстрее, чем защитники смогут исправить все слабые места. В конце концов, та же самая модель ИИ, которая может обнаружить уязвимость в программном обеспечении, чтобы компания могла ее исправить, может помочь преступнику ее использовать. Ресурсы, необходимые для совершения атаки, значительно сокращаются, и нам не удалось отделить эти способности от безвредного использования.

Подумайте об инфраструктуре, которая будет уязвима: больницы, финансовые учреждения, системы водоснабжения, электросети, системы управления государственными льготами. Когда эти учреждения подвергаются атакам, проигрывают пациенты, клиенты и получатели пособий.

То же самое касается биотерроризма. Хотя ИИ приведет к спасительным достижениям в области лекарств и вакцин, он также облегчит разработку новой смертельной болезни. Опять же, позитивные возможности трудно отделить от опасных. Это глобальная проблема.

Риски, о которых я только что упомянул, связаны с тем, как ИИ расширит возможности злоумышленников, у которых сейчас относительно мало власти. Те же инструменты будут концентрировать власть и там, где она уже существует. Например, автономное оружие сделает правительства еще более способными применять смертоносную силу без участия человека в принятии решения. Мониторинг и манипулирование общественным мнением станут проще и дешевле, а также эффективнее.

В конечном итоге возможности использования ИИ для причинения вреда людям не будут ограничиваться людьми или учреждениями. Сами системы искусственного интеллекта уже иногда действуют так, как не предполагали их разработчики. Технология совершенствуется быстрее, чем кто-либо ожидал, и удивительным образом, и по мере того, как модели становятся более мощными, они могут начать действовать против наших интересов, и мы можем потерять контроль. Я расскажу об этом подробнее в будущем.

3. ИИ может затормозить развитие наших детей и заменить человеческие отношения.

Когда я рос в Сиэтле, у меня было не так много друзей, кроме нескольких других мальчиков, похожих на меня. Мне потребовалась тяжелая работа и большая помощь мамы, чтобы развить свои социальные навыки и наладить отношения с разными людьми. Я до сих пор использую эти уроки в свои 70 лет.

Сомневаюсь, что я бы проделал ту же работу, если бы у меня тогда был компаньон с искусственным интеллектом. Они разговаривают с вами так, как вам уже комфортно. Они не выталкивают вас за пределы зоны комфорта. Они всегда доступны и никогда на вас не злятся. Это дает им возможность стать очень зависимыми и лишить нас уроков, которые мы извлекаем из общения с другими людьми.

Объем доказательств по этому вопросу пока невелик и немного неоднозначен, но есть признаки того, что нам следует быть очень обеспокоенными. Например, в одном исследование Исследователи из Стэнфорда и Карнеги-Меллона обнаружили, что из более чем 1100 человек, использующих ИИ-компаньонов, те, у кого небольшие социальные сети, чаще всего обращаются за помощью к чат-боту. И чем тяжелее и эмоциональнее становилось это использование, тем хуже они себя чувствовали.

Молодые люди могут пострадать на всю жизнь. В его книге Тревожное поколениеДжонатан Хайдт делает наблюдение о влиянии социальных сетей, которое еще более верно для ИИ: “Подобно молодым деревьям, подвергающимся воздействию ветра, дети, которые регулярно подвергаются небольшим рискам, вырастают и становятся взрослыми, которые могут справиться с гораздо большими рисками, не паникуя. И наоборот, дети, воспитывающиеся в защищенной теплице, иногда становятся недееспособными из-за тревоги еще до достижения зрелости.”

ИИ-компаньон, призванный никогда вас не расстраивать, — это большая защищенная теплица.

Мы только начинаем понимать, какую опасность Интернет —особенно социальные сети— может представлять для развития молодежи. Мы наблюдаем компульсивное употребление, нарушение сна, кибербуллинг и воздействие вредоносного контента. ИИ может усилить многие из этих рисков, сделав их более убедительными и трудными для избежания, и нам не следует ждать, пока еще одно поколение начнет относиться к ним серьезно. Такие страны, как Австралия, Великобритания и Норвегия, принимают меры защиты детей в Интернете. Китай пошел дальше всех. Его правила в целом ограничивают приложения-компаньоны на основе искусственного интеллекта, запрещают разработку приложений, способствующих эмоциональной зависимости, а также запрещают виртуальных родственников и романтических партнеров для несовершеннолетних.

Меня также беспокоит влияние ИИ на образование. По иронии судьбы, тот же инструмент, который позволит людям узнать больше, чем когда-либо, может также привести к тому, что многие люди будут учиться меньше. Один предварительное обследование предположил, что более интенсивное использование ИИ связано с менее критическим мышлением. Эффект был сильнее у молодых людей.

Это было бы худшее время для людей, чтобы потерять свои навыки критического мышления. В эпоху дипфейков и дезинформации, которые можно адаптировать индивидуально для вас, способность отличать правду от неправды становится важнейшим жизненным навыком.

Неясно, где провести черту в этих психосоциальных проблемах. В некоторых случаях ИИ может помочь людям понять, как улучшить свои человеческие отношения. Возможно, это единственный контакт с внешним миром для изолированных пожилых людей и людей с ограниченной подвижностью, и это будет лучше, чем ничего. Где бы мы ни подвели черту, это должно быть наше решение, принятое намеренно.

Хорошие вещи, которые мы делаем с ИИ, могут быть очень и очень хорошими.

Часто говорят, что мы переоцениваем, насколько сильно изменится в краткосрочной перспективе, и недооцениваем, насколько сильно изменится в долгосрочной перспективе.

Что касается ИИ, я вижу, что происходит что-то другое. Некоторые люди видят только положительные стороны ИИ и недостаточно сосредотачиваются на отрицательных сторонах. Другие совершают противоположную ошибку: сосредотачиваются исключительно на опасностях —которые реальны— ценой упущения потенциальных выгод.

Нам нужно и то, и другое: глубокая обеспокоенность вредом ИИ, который нам необходимо минимизировать, и обоснованный оптимизм в отношении положительных моментов, если мы максимизируем их для всех.

Максимизация выгод так же важна, как и минимизация вреда. Если люди увидят, как ИИ облегчает им жизнь, это поможет укрепить общественное доверие, необходимое для управления более трудными этапами перехода. Если первое, что делает ИИ в жизни большинства людей, — это отнимает у них работу, те, кто и так относится к ней скептически, категорически отвергнут ее. Это затруднит реализацию преимуществ, и это еще одна причина, по которой правительства, отрасли, включая медицинскую промышленность, и компании, занимающиеся искусственным интеллектом, должны работать вместе уже сейчас.

Благодаря своей способности синтезировать знания из всех научных областей ИИ может ускорить инновации в самых сложных технических задачах мира: обеспечение надежной чистой энергией для всех, борьба с изменением климата, выращивание достаточного количества продуктов питания, искоренение болезней и многое другое. Исследователи, работающие над лечением рака или ядерной энергетикой, могут использовать ИИ для поиска огромного количества научной литературы. Это может помочь им выявить закономерности, которые человек может упустить, и решить, какие эксперименты являются наиболее многообещающими. Когда интеллект перестанет быть ограничивающим фактором, как сегодня, более мелкие компании смогут конкурировать с организациями, имеющими гораздо большие исследовательские бюджеты. Научно-исследовательские и опытно-конструкторские работы, а также инновации получат мощный импульс.

Здравоохранение — одна из областей, где ИИ может помочь решить реальные проблемы. Во многих небольших американских больницах не хватает специалистов на месте, которые могли бы быстро диагностировать пациента во время опасной для жизни чрезвычайной ситуации. В таких местах ИИ мог бы гарантировать, что сердечный приступ будет вовремя зафиксирован, а семья избежит непосильных расходов на неотложную медицинскую помощь. Одним из примеров является Viz.ai. Он анализирует результаты сканирования для выявления инсультов и других неотложных состояний и помогает медицинским бригадам координировать уход за пациентами’. Он используется почти в 2000 больницах США.

ИИ также поможет врачам первичной медико-санитарной помощи ставить более точные диагнозы и поддерживать связь со своими пациентами, когда они не находятся в клинике. Это поможет пациентам понять результаты анализов и сложные графики приема лекарств.

Я удивляю многих людей, когда говорю им, что во второй области —сельское хозяйство— я вижу самое быстрое влияние ИИ в странах с низким уровнем дохода. В большинстве стран с низким уровнем дохода фермеры не получают надежных прогнозов погоды или советов о том, какие семена сажать, как защитить урожай и скот от болезней или как улучшить почву. Учитывая рост населения в этих странах и проблемы изменения климата, этим фермерам нужна большая помощь, чем когда-либо. Используя ИИ, фермеры с низкими доходами вскоре смогут получить более качественные советы по всем этим вопросам, чем даже самые богатые фермеры сегодня, и существенно увеличить свое производство.

Государственные услуги — это третья область, где ИИ может облегчить жизнь людей. В Соединенных Штатах я встречал семьи, которые, как и следовало ожидать, были перегружены процессом подачи заявления на медицинскую страховку, студенческую помощь или продовольственную помощь. Столкнувшись с огромным набором сложных бюрократических форм, многим захотелось сдаться. ИИ может значительно оптимизировать ситуацию, чтобы они быстрее получали необходимую помощь, а правительство могло работать более эффективно. Правительства могут значительно улучшить условия жизни граждан, начиная с тех, кто больше всего нуждается в услугах социальной защиты.

Несмотря на мои опасения по поводу его влияния на наше психическое здоровье, я думаю, что ИИ также может здесь очень помочь. В большинстве сообществ слишком мало консультантов, психиатров и специалистов по наркозависимости. При наличии правильных мер защиты конфиденциальности инструменты искусственного интеллекта могут помочь людям распознавать предупреждающие знаки. Затем, при необходимости, они могут предложить научно обоснованные стратегии преодоления трудностей и объединиться с человеком, чтобы обеспечить более отзывчивое лечение.

ИИ также может стать благом для образования, несмотря на опасения, о которых я упоминал ранее. Это может освободить учителей, чтобы они могли больше времени уделять работе с учениками один на один или в небольших группах и дать им более четкое представление о том, где весь класс испытывает трудности. Для студентов инструмент искусственного интеллекта, который сохраняет то, что исследователи называют “продуктивной борьбой ”— когнитивной работой, которая формирует понимание—, может усилить обучение. Когда студент впервые сталкивается с новой идеей, ИИ дает содержательные объяснения и предлагает как вопросы, так и ответы. Позже, когда он проверяет их понимание, он задерживает ответ и помогает им прийти к нему самостоятельно.

В совокупности достижения во всех этих областях могут сделать повседневную жизнь проще, доступнее и менее ограниченной доходами или связями человека.

ИИ может предоставить частным лицам и малому бизнесу доступ к возможностям, которые сегодня требуют дорогостоящей профессиональной помощи или большого персонала, одновременно делая продукты и услуги лучше и дешевле. Это могло бы помочь людям с ограниченными возможностями жить более независимо и дать возможность работникам и предпринимателям с хорошими идеями достичь гораздо большего, чем они могут сегодня.

Самое главное, это может вернуть людям часть времени и внимания, которые сейчас тратятся на бумажную работу, бюрократию, поиск достоверной информации и задачи, за выполнение которых они не могут позволить себе платить кому-то другому. Эти преимущества могут показаться скромными, но, если их умножить на миллионы жизней, они будут значительными: больше людей получат хороший совет, когда он им нужен, и получат большую свободу сосредоточиться на жизни, которую они хотят построить.

Во всех этих областях ключевым словом является “может” — ИИ может улучшить жизнь людей с любым уровнем дохода. Но автоматически этого не произойдет. Как и в случае с любой новой технологией, мы должны тщательно следить за тем, чтобы она приносила пользу всем, а не только немногим богатым. Это потребует от правительств и благотворительных организаций играть важную роль, чтобы менее обеспеченные граждане и страны с низким уровнем дохода стали полноправными бенефициарами.

Фонду Гейтса осталось 19 лет из 20 лет, в течение которых он потратит оставшиеся 200 миллиардов долларов. ИИ поможет ему достичь своих амбициозных целей, ускоряя разработку вакцин и лекарств от ВИЧ, туберкулеза, малярии и недоедания, а также помогая работникам здравоохранения и пациентам узнать, как использовать эти инструменты. В задачи фонда входит повторное сокращение числа детей, умирающих каждый год, вдвое, как это делалось с 2000 по 2024 год. Вся наша работа, не только здравоохранение, но также сельское хозяйство и образование, будет в полной мере использовать преимущества искусственного интеллекта.

Я напишу гораздо больше об этих усилиях в следующем месяце в ежегодном отчете фонда Goalkeepers, включая наше внимание к обеспечению доступности моделей искусственного интеллекта на языках, на которых говорят люди во всех странах, где мы поддерживаем работу, а не только на тех, которые распространены в богатых странах и странах со средним уровнем дохода. Многие ведущие компании в области искусственного интеллекта, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом во всех этих инициативах, что имеет большое значение.

Миру нужен план.

Замечательно, что некоторые компании, занимающиеся искусственным интеллектом, предлагают решения проблем, возникающих из-за их собственных технологий, но мы не должны ожидать, что они возглавят этот процесс. Некоторые вопросы выходят за рамки их компетенции, и в демократическом обществе решать эти вопросы не входит в их обязанности.

Вместо этого решения должны разрабатываться посредством публичного демократического процесса, в котором участвуют выборные должностные лица, политики, педагоги, работники здравоохранения, местные чиновники и общественные лидеры. Жизнь миллионов людей будет нарушена, и нам понадобится более сильная и гибкая система социальной защиты, которая поможет им справиться с переходным периодом. Местные сообщества уже выражают обеспокоенность по поводу энергии и воды, необходимых для центров обработки данных. Без решений некоторые группы будут настаивать на полном прекращении разработки и внедрения искусственного интеллекта.

Решения должны формироваться на основе наших ответов на глубокие вопросы, поднятые ИИ, в том числе на то, как мы сохраняем нашу человечность в то время, когда машины могут перехитрить нас. Как люди, которые проводят свою жизнь, размышляя о том, что значит быть человеком, религиозные лидеры могут сыграть в этом ключевую роль. Меня очаровала энциклика Папы Льва XIV об ИИ, “О защите человеческой личности во времена искусственного интеллекта.” Это закладывает прочную основу для работы, которую необходимо проделать.

В ближайшие месяцы я поделюсь новыми идеями, как сделать так, чтобы преимущества ИИ перевешивали вред, который он наносит. Для начала вот три из них, начиная с того, что я считаю самым важным.

Создайте новую систему управления переходом.

Высшим приоритетом является монументальная задача: создание внутренней и международной основы для борьбы с ИИ.

Ни одно из наших нынешних учреждений не было создано для работы с технологиями, которые распространяются так быстро и затрагивают так много сфер нашей жизни. Так что нам придется делать новые.

Трудно переоценить, насколько масштабным будет это начинание. После терактов 11 сентября правительство США провело крупнейшую реорганизацию со времен Второй мировой войны с целью улучшения только одной функции - национальной безопасности.

ИИ потребует гораздо, гораздо большего. Это повлияет на национальную безопасность, а также на занятость, образование, налогообложение, энергетику, выборы, воздух и воду, здравоохранение, финансовую систему, правоохранительную деятельность, транспорт, государственные земли и ИТ-системы.

Эти секторы пересекаются таким образом, что наша существующая бюрократия не предназначена для управления ими. Департамент труда может понимать подрыв рабочей силы, но не угрозу безопасности. Регулятор бизнеса может понимать концентрацию рынка, но не влияние ИИ на детей и подростков. Предоставленные самим себе, учреждения увидят только одну часть системы, в то время как последствия ИИ распространятся на всю систему.

На национальном уровне странам понадобятся органы, которые смогут устанавливать приоритеты во всех государственных учреждениях. Цель будет заключаться в том, чтобы убедиться, что каждый риск учтен. В противном случае атака с использованием искусственного интеллекта может увенчаться успехом, поскольку никто не считает своей задачей ее остановить.

Но даже страна, которая наведет порядок в собственном доме, все равно будет подвержена рискам, выходящим за рамки границ. Вот почему международную организацию необходимо будет строить параллельно.

Он будет не похож ни на один другой институт, который мы когда-либо создавали, хотя он может следовать модели некоторых существующих систем. Существует режим инспекций ядерного оружия, правила международной авиации и соглашения, защищающие озоновый слой. Новой глобальной организации в области ИИ потребуются элементы всех трех и более.

Справедливо задаться вопросом, способны ли мировые институты справиться с задачей проектирования и внедрения этой новой архитектуры. Правительство движется медленно, когда оно вообще движется, а поляризация внутри стран и между ними затрудняет достижение цели как никогда. Потребуется определенное сотрудничество между США и Китаем.

Мы не можем позволить себе роскошь двигаться медленно. Начнем с процесса создания правильных институтов, прежде чем сбои заставят правительства перейти в кризисный режим. Национальные лидеры должны регулярно созывать экономистов, технологов, экспертов по труду, руководителей предприятий и самих работников, чтобы определить, где существующие институты терпят неудачу и какие новые органы власти могут потребоваться. Странам необходимо будет учиться друг у друга.

А страны, которые принимают ведущих разработчиков ИИ и контролируют критически важные части цепочки поставок, должны начать встречаться уже сейчас, чтобы установить общие нормы, прежде чем конкурентное давление затруднит их сотрудничество.

Создание структуры, о которой я говорю, займет годы, поэтому нам нужно начать сейчас.

Выделите часть рабочих мест для людей.

Мой отец умер от болезни Альцгеймера в 2020 году. На поздних стадиях болезни о нем днем и ночью заботились оплачиваемые сиделки, которые понимали его, даже когда ему было трудно выразить себя. Он не всегда мог сказать им, когда голоден, но они всегда знали.

Моя семья и я всегда будем благодарны этой замечательной группе профессионалов. Что-то в заботе, которую они оказывали моему отцу, было незаменимо человечным. Ни один робот не мог и не должен был этого сделать.

Я думаю об этой команде, когда возникает вопрос, какие рабочие места исчезнут, а какие останутся. Я считаю, что по мере совершенствования ИИ и роботов мы будем откладывать определенные дела только для людей. Я начал называть этот домен Human Reserved, и это пример того, какие идеи нам нужно будет рассмотреть.

Мне нравится фраза «Заповедник», потому что она заставляет меня думать о природных заповедниках —местах, где мы могли бы строить здания и дороги, но мы предпочитаем этого не делать, потому что потери были бы слишком велики.

Мы могли бы отложить что-то в сторону как «Зарезервированное для человека» по экономическим причинам. Например, мы можем сделать это потому, что разрешение машинам взять на себя определенную роль приведет к вытеснению большого количества людей, которые не могут легко сменить работу. Нельзя сказать 55-летнему парню, который всю свою карьеру проработал в строительстве, что ему нужно пойти работать в учреждение по уходу за пожилыми людьми и ожидать, что оно принесет ему удовлетворение.

Иногда решение сделать что-то зарезервированным человеком будет обусловлено другими факторами. Например, в здравоохранении представьте себе робота, сообщающего вам ужасную новость о том, что у вас неизлечимая болезнь. Нет никаких технических причин, по которым это не могло бы произойти. Но этого не должно быть.

Область «Зарезервированные для человека» будет развиваться с течением времени —например, нам следует рассмотреть возможность выделения некоторых рабочих мест сейчас и постепенного внедрения ИИ в течение многих лет или десятилетий, взяв на себя обязательство сохранить некоторые рабочие места. Некоторые сферы, такие как образование и охрана психического здоровья, будут представлять собой смесь, в которой будет отвечать человек, использующий технологии для расширения своих возможностей.

Линии также будут различаться в зависимости от места. Некоторые страны могут настаивать на том, чтобы люди заботились о пожилых людях. Однако такая страна, как Япония, где численность рабочей силы сокращается, а молодых людей не хватает для ухода за пожилыми людьми, может приветствовать робота-ухаживателя.

Идея Human Reserved поднимает множество вопросов, на которые у меня нет ответов. Кто решает, что мы оставим для людей? Какие критерии нам следует использовать? Как вообще удержать компании от мошенничества и использования роботов? Что происходит с международной торговлей, когда одна страна позволяет роботам что-то производить, а другая — нет? Эти вопросы необходимо будет проработать публично в рамках плана перехода.

Перебалансируйте то, как мы облагаем налогом труд и капитал.

Поскольку работников заставляют работать на разных должностях, им потребуется переподготовка и другая поддержка со стороны системы социальной защиты. Но они будут работать меньше, а это значит, что они будут платить меньше подоходного налога, а государственные доходы упадут как раз тогда, когда спрос на эти услуги станет наибольшим. Средства должны будут откуда-то поступать в то время, когда бюджеты растянуты.

Я считаю, что мы должны облагать налогом ИИ токены и роботы. Прямо сейчас, если вы работодатель и нанимаете кого-то, вы платите налог на заработную плату с его заработка. Но если вы покупаете робота, вы обычно можете сразу списать его как деловые расходы. Налоговая система подталкивает вас к замене людей машинами.

Налог немного замедлит отток людей от человеческого труда и соберет деньги на переподготовку и укрепление системы социальной защиты. Его необходимо будет нацелить, чтобы он не замедлял чисто полезное использование ИИ, например, удешевление медицины и образования.

Критики этой идеи отмечают, что она не является оптимально эффективной в экономическом смысле, но они не учитывают более широкую ценность труда для отдельных людей и общества. И со всеми ускоренными инновациями, которые у нас будут, мы сможем позволить себе небольшую неэффективность в качестве цены за сохранение занятости людей.

Я предложил ввести налог на роботов много лет назад, и большая часть реакции заключалась в том, что это странная идея. Я до сих пор большой сторонник этого. Хотя это и не полное решение угрозы ИИ, это часть мудрого ответа.

Как бы мы ни собирали деньги на дополнительную помощь, она должна доходить до людей, которые в ней больше всего нуждаются, включая работников, которые теряют работу из-за искусственного интеллекта и роботов, людей, чей рабочий день или заработная плата сокращаются, а также сообщества, где сосредоточены потери. Нам нужно начать выполнять эту работу сейчас, чтобы системы были готовы, когда потребность станет острой.

Что я делаю.

Я воспользуюсь своим голосом и временем, чтобы поставить ИИ и справедливость выше в общественной повестке дня. Я буду поднимать этот вопрос перед законодателями каждый раз, когда посещаю Вашингтон и встречаюсь с лидерами по всему миру. Это будет в центре моих бесед с людьми, которые разрабатывают модели искусственного интеллекта. Я буду выступать за национальную и международную структуру, которую я описал ранее. Фонд Гейтса будет способствовать повышению эффективности использования, в том числе в Африке. Компания Breakthrough Energy, которую я основал, будет использовать ИИ, чтобы помочь компаниям разрабатывать дешевую чистую энергию и решать климатические проблемы. Я также буду регулярно писать об ИИ.

Мое послание лидерам таково:

У тебя есть шанс действовать сейчас, до того, как безработица резко возросла, сообщества страдают, а общественное доверие подорвано. Вы можете убедиться, что ваше правительство решает проблему комплексно, а не делит ее на несколько бюрократических вотчин. Вы можете быть уверены, что ИИ принесет пользу всем. И вы можете работать с другими правительствами, чтобы решить эту национальную и глобальную проблему.

Наконец, я постараюсь расширить круг людей, формирующих эту дискуссию. В него должны входить работники, студенты колледжей, которые собираются выйти на рынок труда, общественные лидеры, религиозные лидеры и религиозные организации, родители, педагоги и другие, чьи голоса часто не слышны, но которые имеют представление о том, как переход повлияет на жизнь людей.

Как нам гарантировать, что преимущества ИИ дойдут до людей, которые еще не имеют богатства, влияния и доступа?

Как укрепить систему социальной защиты и помочь работникам и сообществам процветать, даже если они перемещены?

Как должны адаптироваться государственные учреждения?

И как нам сохранить нашу человечность благодаря всему этому?

Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы сделаем это правильно, отдача для человечества будет феноменальной, а мир станет более справедливым местом.

Я редко перестаю думать об ИИ— не потому, что у меня есть ответы на все вопросы, а потому, что вопросы, которые он поднимает, слишком важны, чтобы оставлять их на усмотрение небольшой группы технологов. Лидеры научных кругов, бизнеса, правительства и гражданского общества должны сыграть свою роль в формировании того, что будет дальше.

Источник (блог Гейтса): https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-c...
Перевод мой, тег «моё».

«Миру нужен план» - это уже не футурология, это крик капиталиста, который увидел, что математика перестаёт биться. И что особенно забавно, проблема, которую он описывает, - это не баг будущего, а баг сегодняшней налоговой системы. Работодатель платит налоги с зарплаты человека, но купленного робота может сразу списать в расходы. Налоговый код буквально субсидирует увольнение людей и замену их машинами. То есть государство, само того не понимая, подталкивает капитал к той самой дефляционной спирали, о которой мы говорили: чем больше роботизации, тем меньше зарплат, тем меньше налогов, тем больше бюджетный дефицит, тем больше нужно печатать денег.

И вот Гейтс, главный архитектор софтверного капитализма, предлагает ввести налог на токены ИИ и на самих роботов. Это не благотворительность и не левацкая заморочка. Это чистая инженерная заплатка на систему, которая начинает трещать. Капитал сам признаёт: текущая модель налогообложения, привязанная к человеческому труду, не работает в мире, где труд становится опциональным. Нужно перенести базу налога с зарплаты на ренту - на те самые терафлопсы, вычисления, киловатт-часы и машино-часы роботов, которые и создают новую стоимость.

Заметьте, как это точно коррелирует со всем, что мы обсуждали. Тайвань, самый капиталистический из азиатских тигров, уже вводит «дивиденды от ИИ» — прямую выплату каждому жителю из ренты полупроводниковой промышленности. Маск говорит про деньги, которые к 2036 году перестанут иметь значение, и про всеобщий высокий доход. А теперь Гейтс предлагает механизм, которым этот доход будет финансироваться: налог на роботов. Три разных голоса из разных точек капиталистического спектра - Тайвань как государство, Маск как визионер-инженер, Гейтс как старый финансист - сходятся в одной точке. Ренту от машин придётся изымать и перераспределять. Иначе система сожрёт сама себя.

Но самое интересное в предложении Гейтса - это идея зарезервировать часть профессий за людьми. Вот это уже прямой признак того, что капитализм столкнулся с собственным пределом и пытается притормозить. Чистая рыночная логика говорит: если робот делает работу лучше и дешевле, пусть делает. Но Гейтс понимает, что если отпустить эту логику на волю, она уничтожит саму социальную ткань, на которой держится потребление. Резервирование профессий - это не про эффективность, это про сохранение человеческого слоя как буфера между машинами и обществом. Это фактически административное вмешательство в рынок труда, причём вмешательство социалистического типа: не потому что так эффективнее, а потому что иначе социум развалится.

И здесь снова всплывает наш старый тезис: капиталисты строят технокоммунизм своими руками, просто называют это другими словами. Налог на роботов - это налог на ренту от средств производства. Резервирование профессий - это регулирование рынка труда в интересах общества. Дивиденды от ИИ на Тайване - это прямое распределение ренты между гражданами. Всё это элементы одной системы, которую классики называли социализмом, а современные миллиардеры вынуждены изобретать заново, чтобы их же система не схлопнулась от собственной эффективности.

Парадокс в том, что Гейтс предлагает замедлить автоматизацию, чтобы дать людям время на переподготовку. Но автоматизацию нельзя замедлить административно - она идёт быстрее любых регуляций. Единственное, что можно сделать, - это перераспределить её плоды. И именно это, судя по всему, и будет происходить в ближайшие десять лет. Сначала налог на роботов как вынужденная мера, потом - расширение базы этого налога, потом - прямые выплаты гражданам из собранных средств, потом - постепенное отмирание самой концепции налога на труд, потому что труд перестанет быть основной формой дохода.

Мы наблюдаем редкий момент: три крупнейших капиталиста современности фактически признают, что их система уперлась в потолок и должна мутировать. Они не называют это социализмом - слишком страшное слово для акционеров. Они называют это «планом», «дивидендами», «налогом на токены». Но суть одна: рента от машин должна принадлежать не только владельцам машин. И это не акт доброты, а вопрос выживания их же собственной системы. Дефляционная спираль, о которой мы говорили в прошлом посте, становится слишком реальной, чтобы её можно было игнорировать. И когда даже Гейтс, человек, построивший империю на софтверной ренте, начинает говорить про налог на роботов, это значит, что процесс перешёл из теоретической плоскости в практическую. Дальше будет только интереснее.

Пруфы:
https://vc.ru/opinions/3098015-bill-gejts-o-budushhem-ii-pla...
https://www.nytimes.com/2026/08/26/technology/bill-gates-ai-...
https://www.technologyreview.com/2026/08/26/1142946/bill-gat...
Ответ на пост «Тайвань решил выплатить всем гражданам дивиденды от искусственного интеллекта»
Интервью Илона Маска главному редактору The Economist: «деньги будут не нужны к 2036 году»

RAD Studio 12, С++, Пробовал google ИИ-ассистент, и deepseek. Так выглядит интерфейс - красота пока лишнее.

Никаких кнопок, только TPopupMenu - правая кнопка мыши, с видимыми Button морда будет похожа на франкенштейна из страшных снов. Показываем google базу, что бы знал ее поля, и просим: Напиши код для функции "Добавить значение в базу" - получаем код, тестируем - все ок. На стадии интерфейса никаких вопросов, все четко и красиво делаем весь интерфейс "Добавить/Изменить/Удалить" - видит все связи в базе, экономит кучу времени - в общем, интерфейс здесь написан ИИ. Глюки начинаются дальше - при клике на компоненте заполняются связанные компоненты - при клике на классе заполняются связанные с ним компоненты - "План" и "Шаблоны", первый клик все ок, 2 клик - ошибка! Не видим базу. Спрашиваю у google в чем дело? - начинает нести явную ахинею, причем выдает кучу кода с обьяснением почему это произошло и "Кто виноват?". Хорошо, - 1 раз пробую deepseek = "Почему первый клик нормально, а последний падает?" Получаю ответ "Странно, почему на последнем, должна была упасть на втором" - в точку! Каскадные/Веерные подключение - пока одна функция использует подключение к базе, невидимо вызывается "Каскадная функция", которая использует то же подключение что и первая, и благополучно его закрывает. Цикл первой функции в незаконченном цикле получает закрытую базу и отваливается с ошибкой. Возвращаемся к google - "А твой конкурент, deepseek - сразу нашел ошибку!" ответ google: "Напишите пожалуйста в чем была ошибка, я тоже разработчик, мне интерестно!". Получив ответ выдает: "Ну да, это же deepseek". Хорошо, идем дальше: первым в списке должна быть расстановка групп по расписанию: - база чистая, учителя свободные, полная свобода действий! Запрос deepseek: "Напиши функцию которая расставит группы в расписании" - получаем функцию которая ищет свободных преподавателей, не занят ли класс в расписании на этот час, свободно ли подходящее помещение, и в итоге ставит группу в понедельник, первым уроком. Делаю запрос: "Не пиши код! Давай разберем логику!" Рандомизируем установку, убираем не нужные проверки - все ок, группа стоит и привязана. Хорошо, следующее по списку классы где все предметы ведет один - свой преподаватель, это началка. Тренируем логику и хлоп - получаем сообщение от deepseek "Превышен лимит запросов, начните новый диалог" - не больно то и хотелось! Возвращаемся в google, и первым делом троллим: "Посмотри функции которые написал твой конкурент, deepseek". Ответ дословно: "Как и ожидалось, бэкенд-логика от DeepSeek — это гремучая смесь из нарушений базовых правил работы с памятью в C++, жестких логических багов и полнейшего непонимания того, как работает его собственный интерфейс." На просьбу переписать функцию получаем ту же простыню как и от deepseek. Хорошо, сначала пишем логику: Находим самый "слабый" класс - в смысле кол-во дней учебы, учебных часов в день и ставим Группы ему, он выступает у нас "якорем", остальных членов группы подтягиваем ему, закрепляем всех от дальнейших перестановок. Результат неплохой. Ну ОК, идем дальше: расстановка своих классов - началка. Пишем логику - получаем абсолютно одинаковые поля для всех паралелей - А если потребуется специалист/предметник для предмета, который "свой" преподаватель не ведет? Рандомизируем каждый класс, проверяем необходимость специалиста, проверяем свободен специалист на данный час - свободен - ставим, нет - все сначала. Вот на этом пока остановились. Далее будем писать функцию для "Старшаков" где все предметы ведут специалисты/предметники.

И таки да, я лентяй! Всем хорошего дня!