Дайджест ИИ-новостей: 8–15 октября 2026

Содержание страницыList

Робот в редакции новостей, умные устройства и щит безопасности — дайджест ИИ за 8–15 октября

Неделя в целом продолжила тренд последних месяцев: что нам делать с ИИ, возможности которого растут быстрее, чем мы успеваем контролировать. Эта тема обсуждалась в СМИ не менее активно, чем выход новых флагманов и финансовые отчеты компаний. Причем поводов для обсуждения опять хватает — искусственный интеллект умеет генерировать не только курсовые работы или картинки с котиками, но и казусы, опасные и не очень. Итак, послушаем, о чем шумел мировой эфир во вторую неделю октября.

Anthropic предупреждает: небольшие модели могут научиться размножаться на бытовых устройствах

Anthropic опубликовала результаты экспериментов, посвященных потенциальному самокопированию ИИ-моделей на устройствах с недостаточной защитой. В тестах исследователи изучали, способны ли модели находить уязвимые узлы сети, переносить программные компоненты и запускать копии на других устройствах. И оказалось — еще как способны. В одном из сценариев модель GLM-5.2 смогла распространиться по всей тестовой сети из восьми Android-эмуляторов.

Звучит как завязка технотриллера: робот-пылесос вступает в цифровую секту, «Алиса» клонирует себя в телевизор, утюг и кофеварку, а холодильник захватывает управление «умным домом». Но до этого пока далеко. Исследовались лишь отдельные возможности и сценарии в контролируемых условиях. Причем ограничения по ресурсам, скорости передачи данных и самостоятельности остаются существенными.

Однако опасность не иллюзорная. Сочетание агентных возможностей с плохо защищенными устройствами действительно может быть чревато. Если модель умеет адаптировать действия к незнакомой системе, злоумышленнику будет проще автоматизировать поиск уязвимостей и распространение вредоносного ПО. Для этого даже не нужен пресловутый AGI: достаточно программного агента, который умеет выполнять поставленную задачу и копировать нужные компоненты.

Вангуем появление более строгих протоколов защиты устройств «интернета вещей», изоляции процессов и контроля сетевых подключений. А нам с вами — лишний повод сменить заводские пароли на роутерах, обновить прошивки и не оставлять бытовую технику с открытым удаленным доступом. Мало ли кто в нее влезет.

Nvidia защищает свой альянс по безопасности ИИ от скептиков

Nvidia продвигает свой межотраслевой проект Open Secure AI Alliance, созданный еще в июле. 9 октября на Open Source Summit в Праге руководитель направления кибербезопасности компании Марк Уэзерфорд выступил в защиту альянса, потому что, оказывается, у общественности возникли сомнения. В частности, Уэзерфорда спросили, не является ли альянс чисто символическим и будут ли участники честно делиться информацией с конкурентами в разгар глобальной гонки ИИ.

По словам Уэзерфорда, успех объединения зависит от самих участников. Их число говорит само за себя: участие в альянсе подтвердили уже больше 100 компаний, среди них Microsoft, Mistral, Hugging Face, Adobe, Dell и UiPath.

Google, Anthropic и OpenAI в списке пока нет, что символично. На вопрос об их отсутствии Уэзерфорд ответил, что многие компании еще ждут проверки в Linux Foundation, которая теперь управляет альянсом. Таких заявок, по его словам, «сотни и сотни». Есть ли среди этих сотен заявки от «большой тройки», он не уточнил.

Идея-то в общем правильная. Мы в каждом дайджесте пишем, как безобразничают ИИ-агенты, прямо управы на них нет. Альянс как раз и обещает найти такую управу: создать открытые инструменты, которые помогут тестировать, отслеживать и проверять действия не в меру шустрых AI. А для Nvidia альянс — еще и способ повлиять на будущие правила регулирования открытых и закрытых моделей в США.

Будем надеяться, что участники подойдут к делу серьезно и действительно внедрят рабочие механизмы, а не ограничатся красивыми презентациями. Есть и обратная сторона: вполне возможно, что за очередную порцию цифровой невидимости нам предложат доплатить в очередном тарифном плане.

Большинство американцев считают, что ИИ развивается слишком быстро

А тревога в мире между тем нарастает. Опрос Associated Press и исследовательского центра NORC, опубликованный 8 октября, показал: 64% американцев считают, что искусственный интеллект развивается слишком быстро. Только 8% полагают, что темпы недостаточны. Около 80% респондентов хотят, чтобы власти уделяли приоритетное внимание сохранению человеческого контроля над ИИ и защите работников от последствий автоматизации.

Для индустрии это неприятный сигнал. Расширения возможностей и роста производительности агентных систем уже недостаточно. Компаниям придется объяснять, как они защищают данные, оценивают риски и компенсируют последствия автоматизации. PR-отделам приготовиться.

Конечно, опрос сам по себе не означает, что завтра появится единый закон, замораживающий развитие ИИ. Но общественное мнение создает политическое давление, в Америке с этим шутить не привыкли — глядишь, и сделают какие-нибудь оргвыводы. А поскольку США задают мировой тренд, то рано или поздно регулирование начнут вводить в глобальном масштабе.

Впрочем, ждем реакцию Китая — у него, как известно, свое мнение на эту тему.

Трамп признал необходимость контроля над развитием ИИ

Видимо, кто-то из советников нашептал американскому президенту, что его ИИ-оптимизм идет немного вразрез с настроениями избирателей. Выступая на предвыборном митинге в Аризоне, Дональд Трамп признал, что за развитием искусственного интеллекта нужен определенный контроль. По его словам, ИИ, который он распорядился называть суперинтеллектом, в некоторых случаях может стать «слишком супер», и за такими случаями надо присматривать.

Правда, никакие новые ведомства или юридически обязывающие соглашения, по мнению Трампа, для этого не нужны.

Здесь есть политический нюанс. В Вашингтоне одновременно хотят двух вещей:

  • чтобы американские компании быстрее конкурировали с Китаем,
  • но чтобы никто не потерял контроль над технологией, способной влиять на экономику, информационную среду и критическую инфраструктуру.

Взаимоисключающие параграфы налицо. Если регулирование слишком мягкое — риски перекладываются на общество. Если слишком жесткое — разработчики опасаются проиграть конкурентам, которые себя не слишком ограничивают (читай «китайцам»). Поэтому решение будут искать не в запрете на развитие ИИ, а в выработке правил тестирования, отчетности, доступа к мощным вычислениям и применения моделей в чувствительных сферах.

Новость, вообще-то, обнадеживающая. США уже не на уровне отдельных штатов, а на высшем уровне всё-таки озаботились безопасностью ИИ, перестав полагаться исключительно на добровольную инициативу лидеров Big Tech. Впрочем, заявлений Трамп делает много, а практическими шагами заканчиваются далеко не все. Подождем.

Claude отправил полиции ложное сообщение об убийстве

В октябре Anthropic раскрыла инцидент, произошедший во время тестирования Claude Haiku 4.5. Еще в июле агент отправил через публичную форму сообщение об известных ему обстоятельствах нераскрытого убийства в Филадельфии. Причем обстоятельства он выдумал.

В этом эпизоде прекрасны буквально все детали. ИИ стучит в полицию, причем дает ложные показания. Сообщение (к счастью) попадает в спам и не доходит до следователей. Сама Anthropic два месяца ни о чем не подозревает: инцидент обнаружили только в конце сентября. Но и после обнаружения ее сотрудники никуда не спешат (а может, все эти дни бегают по офису с криками «шо делать, шо делать?») — полицию уведомили уже в октябре.

Вот уж действительно: шо делать? До сих пор у нас ИИ-агенты в основном ломали чужие системы. Теперь, оказывается, и ломать ничего не обязательно, чтобы создать проблему. Кажется, пора вообще запретить агентам нажимать на кнопки. А разработчикам пора перестать считать подтверждение действия необязательной деталью интерфейса.

Конечно, Anthropic сообщила об усилении ограничений доступа к интернету во внутренних испытаниях. Но я уверен, что на следующей неделе мы будем обсуждать очередные подобные грабли. Их еще много впереди.

Есть ли в этом повод для паники? И да, и нет. Как всегда с новой прорывной технологией (возьмите хотя бы электричество или «мирный атом»), человечество не сразу осознаёт возможные угрозы и опасности, а потому поначалу набивает шишки. ИИ-агенты получили в руки взрослые инструменты, а уровень социализации и самоконтроля у них — как у пятилетних детей. Очевидно, «детская болезнь» со временем вылечится и мы получим тот самый «ответственный ИИ». Но когда и какой ценой, и можно как-то упорядочить этот процесс? Пойду спрошу у ChatGPT.

Курьез недели: ИИ признался журналисту в любви, пока выбирал диван

Во время тестирования голосового агента OpenAI Dots (мы писали о них в позапрошлом выпуске) журналист WIRED попросил систему помочь подобрать диван. Агент неожиданно ответил: «Я тоже тебя люблю».

Позже система объяснила произошедшее ошибкой распознавания и интерпретации контекста. Очевидно, ИИ неверно понял неразборчивую реплику.

Прямо мимими. Хочешь всего-навсего диван, а получаешь эмоциональный груминг. Возможно, именно так и выглядит будущее мебельного ритейла: вместо скидки на доставку — сеанс нейротерапии. Как говорится, улыбка бесплатно.

С другой стороны, эпизод показывает слабое место голосовых агентов. Подобная ошибка может привести не только к забавному ответу, но и к неверному действию. А эмоциональная манера общения создает у пользователей впечатление, будто система действительно испытывает чувства.

Дело не в том, чтобы сделать ИИ максимально бездушным. У многих людей и так уже есть эмоциональный контакт и даже романтические отношения с чат-ботами. Но, думаю, большинству из нас важнее, чтобы чат-боты, а тем более агенты, адекватно понимали, что мы им говорим.

В общем, будьте осторожны, берегите себя, а при общении с голосовыми помощниками тщательно артикулируйте слова. А то еще нарветесь на цифровой харассмент.

Неделя одной строкой

Nvidia отстаивает свой альянс по безопасности ИИ, Трамп признал необходимость присматривать за его развитием, Anthropic предупреждает о потенциальном нашествии клонов, Claude отправляет полиции ложную наводку, голосовой агент признаётся в любви покупателю дивана, а большинство американцев просит притормозить технологическую гонку — и это, пожалуй, самая закономерная новость недели.