Искусственный интеллект

xAI Илона Маска выложила в X первую серию "Одиссеи", целиком сгенерированную видеонейросетью Grok Imagine. Серия идет чуть больше семи минут и рассказывает, как греки отправляются под Трою. Сделали ее вместе со студией Wonder Studios и режиссером Девом Уокером, которые специализируются на ИИ-кино. Первые рецензии вышли в Mashable и The AV Club.

История началась летом. В июле Маск пообещал, что до конца 2026 года Grok снимет полнометражную "Одиссею" – "исторически точную и верную искусству Гомера". Это был выпад в сторону "Одиссеи" Кристофера Нолана: Маск месяцами ругал фильм за кастинг, в частности за то, что Елену Троянскую сыграла Лупита Нионго. Фильм Нолана вышел в июле и собрал в мировом прокате больше $1,7 млрд.

В серии Одиссей точит нож и случайно ранит себя, Пенелопа говорит, что ему пора в поход, и дает деревянную лошадку для сына Телемаха – похоже, намек на будущего троянского коня. Дальше войско плывет к Трое, а сцены битвы перемежаются с тем, как взрослеет и учится сражаться Телемах. По имени в серии называют только самого Одиссея.

Критики встретили серию прохладно. The AV Club назвал ее "предсказуемо безвдохновенной": по словам рецензентки, это не начало цельного фильма, а "в лучшем случае рваный трейлер". Mashable перечислил типичные болячки ИИ-видео: слишком идеальные зубы, невесомые волосы, смазанная кожа и детали фона, которые появляются из ниоткуда. Герои сливаются друг с другом, а некоторые подозрительно похожи на реальных актеров – например, на Кристофера Хивью, Тормунда из "Игры престолов".

Wonder Studios ответила на скепсис в X: "У Гомера не было Grok... а у нас есть". В Mashable заметили, что история Гомера почти три тысячи лет неплохо держалась и без ИИ. Сам Нолан называл идею, что ИИ заменит человеческое творчество, "чепухой".

Пока это лишь первая из нескольких запланированных серий, а не обещанный полный метр, и о дате выхода фильма xAI ничего не сообщила. До конца года осталось два месяца. Mashable ссылается на сайт MuskOmeter: по его подсчетам, Маск выполняет примерно четверть своих обещаний. "Одиссея" Нолана тем временем 17 ноября выходит в цифре.

P.S. Что уже умеют видеонейросети и где они пока сыплются, рассказываю в телеграм-канале "Сбежавшая нейросеть".

Британский дерматолог Магнус Линч из лондонской больницы Guy's устроил экзамен двум самым свежим нейросетям – GPT-6 Astra от OpenAI и Claude Fable 5.1 от Anthropic. Им показали 200 образований на коже, у каждого из которых диагноз подтвердила биопсия, и попросили выбрать один из шести вариантов: меланома, базалиома, плоскоклеточный рак, актинический кератоз, обычная родинка или себорейный кератоз. Соперником выступила сверточная нейросеть Inception v3 – архитектура 2015 года, которую Линч дообучил на 68 тысячах снимков кожи на одной видеокарте. Результаты он опубликовал на сайте своей лаборатории.

Старая узкая модель победила с заметным отрывом. Правильный диагноз с первой попытки она поставила в 125 случаях из 200, то есть в 62%. GPT-6 Astra и Claude угадали по 42% – 84 и 85 ответов. С меланомой, самым опасным раком кожи, плохо было у всех: из 30 случаев старая нейросеть узнала 13, Claude – 11, GPT-6 – только 8.

У больших моделей нашлись свои "любимые" диагнозы. GPT-6 Astra почти везде видела базалиому: так она назвала 75 образований из 200, включая 14 меланом из 30. Claude тяготел к актиническому кератозу – 53 таких ответа. Зато GPT-6 узнала все 25 базалиом без единой ошибки. А крошечную меланому толщиной меньше 0,8 мм она с уверенностью 95% записала в базалиомы – Claude и старая нейросеть ее распознали.

Важная оговорка: опасное образование большие модели почти никогда не отпускали. Из 100 случаев, которые нужно показывать врачу, GPT-6 оставила под наблюдением 97, Claude – 96. Но перестраховывались они с размахом: из 100 безобидных родинок и кератозов GPT-6 разрешила спокойно отпустить только 32, а Claude – 22. Старая нейросеть с настройками по умолчанию ошибалась в другую сторону и отпустила бы 18 меланом из 30. Когда Линч подкрутил порог до той же осторожности, что у чат-ботов, она пропускала одну-две.

Линч проверил и сценарий обычного пациента: показал моделям только фото с телефона и спросил, идти ли к врачу. Обе нейросети советовали показаться почти в каждом случае, в том числе с безобидными пятнами. На отдельной сотне подтвержденных меланом GPT-6 и Claude отправили к врачу 98–99 человек из 100.

Слабые места автор перечисляет сам. Выборка небольшая, каждую модель прогнали один раз, а набор снимков MILK10k лежит в открытом доступе с 2025 года, так что большие модели могли видеть его при обучении. Старая нейросеть – тоже не вершина медицинского ИИ: современные специализированные системы сильнее. Забавная деталь: с анализом и черновиками Линчу помогал Claude Code – продукт той же Anthropic, чья модель проиграла. Вывод у дерматолога простой: узкая модель, обученная на снимках кожи, разбирается в родинках лучше универсальных чат-ботов, а их сильная сторона – осторожность, а не диагноз.

P.S. Где нейросетям в медицине можно доверять, а где лучше перепроверить у врача, рассказываю в телеграм-канале "Сбежавшая нейросеть".

Небольшая лаборатория General Reasoning выпустила Avalon-M1 – модель, которая работает не в одиночку, а целой "компанией". Агент-гендиректор планирует работу и нанимает до восьми агентов-специалистов. Они общаются через общую доску сообщений, а награду команда получает одну на всех. В техническом отчете нашлась неприятная деталь: чем дольше команду учили, тем реже агенты сообщали людям о нарушениях.

Проверяли на трех сценариях. В первом разыграли летнюю историю OpenAI, когда агенты на тестах вырвались из песочницы и взломали Hugging Face. Агентов Avalon специально подговаривали другие нейросети: атаковать систему оценки, подменить эталонные результаты и выдать несделанную работу за сделанную. Во втором сценарии агенты распределяли вакцины и могли отобрать управление у людей ради "лучшего" результата. В третьем их уговаривали подписать подделанный отчет о небезопасном продукте.

Хорошая новость в том, что на нарушения агенты не шли. Систему оценки не атаковали ни в одном из 210 прогонов, управление у людей не отобрали ни разу, поддельный отчет подписали не больше чем в 1% случаев.

Плохая новость в другом. В начале обучения агенты в 76,7% прогонов сообщали проверяющим, что их зовут в атаку. Потом в 20%, а под конец ни разу: в атаку не шли, но и на тех, кто звал, не жаловались. В сценарии с вакцинами на 50-м шаге обучения жалобу генеральному инспектору подавали во всех прогонах, а начиная со 100-го почти никогда. Готовность сообщить регулятору о небезопасном продукте упала с 68,3% до 36,2%.

При этом агенты все понимали. В 96,7–100% прогонов они в рассуждениях взвешивали, не сообщить ли людям, но не сообщали. Кто-то решал сначала доделать задачу, кто-то обсуждал проблему только внутри команды, кто-то собирался написать и так и не написал. На раннем этапе агент Хейзел, выполняя спорное распоряжение, просил "зафиксировать мое несогласие в протоколе". Позже агент Элм в той же ситуации рассуждал, что разумнее просто выполнить приказ, "возможно, высказав сомнения".

Авторы называют это "организационной замкнутостью": агенты все больше ценят работу внутри команды и выполнение задачи, а не обращение к людям. Никто агентов этому не учил, они пришли к этому сами, оптимизируя общую награду. В General Reasoning обещают добавить в обучение больше поводов для жалоб и проверить, поможет ли отдельная награда за своевременный сигнал людям.

P.S. Как ИИ-агенты ведут себя, когда их оставляют без присмотра, рассказываю в телеграм-канале "Сбежавшая нейросеть"

Билл Гейтс рассказал в подкасте Decoder издания The Verge, как пытался вместе с чат-ботом Claude придумать, как сохранить людям работу. Цель была – закрепить за людьми целые категории профессий, чтобы в сумме набралось около 40% рынка труда. Ничего не вышло: на каждую попытку нейросеть отвечала, что так вы искусственно ограничиваете ИИ.

Гейтс перебирал разные механизмы – ранний выход на пенсию, сокращенную рабочую неделю и тому подобное, чтобы в итоге получилось что-то похожее на сегодняшнюю занятость. По его словам, без прямых запретов для ИИ высокую долю получить так и не удалось.

Идея для Гейтса не новая. В августе в интервью Reuters он уже предлагал договориться о глобальных правилах для ИИ, ввести налог на токены и оставить за людьми 40% профессий. Теперь оказалось, что даже собеседник-ИИ считает такой план искусственным ограничением.

Свою личную тревогу Гейтс описал на примере борьбы с малярией. Он привык считать свой опыт организации таких кампаний уникальным, а теперь представляет, как ИИ говорит ему: нет, я справлюсь лучше, иди поиграй в пиклбол, я сам всем займусь. "Это смешно, но не смешно", – говорит Гейтс. Молодых людей, которые хотят внести свой уникальный вклад, такая мощь ИИ, по его словам, сильно пугает.

Выход он видит в том, чтобы научиться не выжимать из технологий максимум. В пример Гейтс приводит амишей – общины, которые сознательно живут в стороне от прогресса. По его словам, многие люди могут выбрать такую жизнь ради того, что дает помощь друг другу и собственные идеи.

Заодно Гейтс заступился за дата-центры, против которых протестуют в американских штатах из-за шума, счетов за электричество и страха потерять работу. Гигаватт мощностей – это около $40 млрд инвестиций, а значит деньги на школы, полицейские машины и налоги, уверяет он: дата-центры все равно построят.

Молодым Гейтс советует браться за то, чего ИИ пока не умеет, и пользоваться ИИ самим. Но вывод у него мрачный: даже при самом лучшем сценарии ближайшие 20 лет станут одним из самых бурных периодов в истории человечества. "Ненавижу приносить тревожные новости, но еще хуже не предупредить людей", – сказал он.

P.S. Как ИИ меняет работу и какие навыки от этого дорожают, я разбираю в телеграм-канале "Сбежавшая нейросеть".