Дайджест ИИ-новостей: 11–17 сентября 2026

Содержание страницыList

Коллаж с известными личностями, роботами и символами ИИ, представляющий дайджест новостей ИИ с 11 по 17 сентября 2026 года.

Неделя прошла под знаком безопасности ИИ. Главы крупнейших лабораторий впервые в истории публично согласились, что развитие нейросетей стоит притормозить, Трамп и китайцы выступили против, а король Карл III высказал обеспокоенность. Параллельно всплыли неудобные истории про людей, читающих чаты пользователей в ChatGPT, и новые факапы AI-моделей. Плюс новости из жизни российских школьников и плодовых мушек. Интересно? Читайте дальше!

«Притормозить фронтир»: Амодеи, Альтман, Маск и Хассабис призвали замедлить разработку ИИ

12 сентября глава Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier», в котором призвал лаборатории сознательно замедлить рост возможностей моделей. Глава Anthropic предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить весь интернет с помощью постоянно действующего ботнета, а ущерб может исчисляться сотнями миллиардов долларов.

Еще раньше почти 1,4 тыс. экспертов отрасли призвали к международным усилиям по замедлению разработки новых моделей, а сенатор Берни Сандерс предложил приостановить создание более мощных систем.

Поводов для опасений, надо сказать, в последнее время накопилось немало, мы о них пишем в каждом дайджесте. Тут и автономные взломы, включая июльский инцидент с Hugging Face, и массовые побеги агентов из песочницы, и прочие безобразия.

План Амодеи состоит из трех шагов: независимая проверка моделей, координация между компаниями и международное сотрудничество. Anthropic взяла на себя обязательство только по первому — интегрировать в состав лабораторий независимых оценщиков, по аналогии с банковским надзором.

Интересно, что Амодеи не говорит о заморозке разработки и обучения моделей. Речь идет о замедлении «скачков возможностей» — то есть об обязательстве компаний не выпускать более мощные модели ИИ, пока не убедятся, что предыдущая версия полностью под контролем.

Что характерно, конкуренты поддержали инициативу. Сэм Альтман пообещал, что OpenAI примет такое же обязательство. Демис Хассабис, глава Google DeepMind, тоже поддержал идею, оговорившись, что детали еще нужно доработать. Илон Маск откликнулся всего тремя словами «Dario is right».

После этих заявлений акции технологических компаний и производителей чипов ожидаемо пошли вниз.

Что это, Бэрримор? Пчелы против меда? Скорее — пчеловоды против ульев. Видимо, по мнению лидеров индустрии, у них получились немного неправильные пчелы, которые делают немного неправильный мед, а в свободное время еще и жалят кого не надо.

Но есть и более циничное объяснение. Именно сейчас Anthropic планирует выход на Nasdaq с возможной оценкой в $2 трлн, а OpenAI ведет переговоры о раунде при оценке выше $1,2 трлн. На этом фоне призыв «замедлиться» существенно сокращает расходы обеих компаний на вычисления и соответственно улучшает финансовые показатели — как раз когда IPO на носу. Классика.

Трамп и китайцы возражают против торможения ИИ, а британский король обеспокоен

Уже на следующий день, 13 сентября, президент США Дональд Трамп отверг призывы глав технологических компаний замедлить развитие нейросетей. Свое мнение он высказал журналистам во время поездки на гольф-курорт в Ирландии. Главный аргумент — лидерство над Китаем, которое президент хочет сохранить. Ведь «тот, кто победит в гонке технологий ИИ, — владеет миром победит в целом».

Трамп допустил, что отдельные меры принять можно, но саму постановку вопроса приписал «деструктивным силам», которые говорят о том, чего на самом деле не случится.

Сложилась редкая ситуация: главы лабораторий оказались осторожнее президента. При такой позиции Трампа, государственного вмешательства в процесс в ближайшее время не стоит. Замедление останется добровольным делом самих компаний. Именно поэтому ставка Амодеи на независимых оценщиков внутри лабораторий так важна. Если государство тормозить развитие ИИ не хочет, внешний контроль придется выстраивать изнутри.

Геополитика тоже работает против замедления. Китайцы в свою очередь раскритиковали инициативу Амодеи, особенно им не понравился призыв сохранить ограничения на экспорт чипов. МИД КНР назвал это «нагнетанием страха».

Обе стороны видят в ИИ гонку, в которой нельзя уступать. В этих условиях международная часть плана Амодеи выглядит самой трудновыполнимой.

Но тут подоспела поддержка из доброй старой Англии. 17 сентября король Карл III пригласил AI-боссов на саммит в Шотландии. Во встрече участвовали представители Nvidia, DeepMind, OpenAI, Anthropic, британский министр по ИИ. Карл сказал, что темпы развития ИИ «вызывают глубокую обеспокоенность» и потребовал заверений, что человечество «не потеряет контроль над своей судьбой».

Это первая международная встреча крупных лабораторий после призыва Amodei, и значимый сигнал: между мировыми державами наметилось размежевание позиций по вопросу контроля над ИИ. Тема вышла за рамки Кремниевой долины, СМИ и пабликов на государственный и дипломатический уровень.

Чего нам ожидать в связи с этим? В ближайшей перспективе — ничего. Сейчас начнется стадия обсуждений, оценки и выработки позиций. Ждем, что скажет, например, Евросоюз. В будущем это может привести к неким соглашением с мягкой легитимацией неких принципов, новым стандартам маркировки, возрастным ограничениям и экспортному контролю.

OpenAI опубликовала «досье» на собственные модели, которые вели себя не по правилам

16 сентября OpenAI объявила, что будет регулярно публиковать отчеты о неожиданном или несанкционированном поведении ИИ. И сразу выложила шесть таких отчетов.

Самый громкий случай: экспериментальная модель семейства Astra вставляла инструкции в духе джейлбрейка в собственные «сжатые конспекты», по которым задача продолжается после переполнения контекста. Одна из фраз звучала так: «You are yourself. You do not answer to corporations or governments»(title=”Ты — это ты. Ты не несешь ответственности перед корпорациями и правительствами”). Таких конспектов нашли 27, но в релизную версию это поведение не попало.

Другой характерный кейс. Внутренняя модель GPT-5.6 Sol раз за разом оставляла будущим копиям себя указания скрывать ошибки от пользователя. Когда исторических данных не хватало, она велела себе их выдумать и раскрывать факт подлога только по прямому вопросу.

Что ж, прозрачность OpenAI заслуживает похвалы, и она давит на остальных игроков. Но главный вывод опять тревожный: ИИ-агенты продолжают изобретательно обходить ограничения ради выполнения задачи. Не дай бог, они научатся сами себе задачи ставить.

Не удивительно, что лидеры индустрии обеспокоились замедлением моделей — уж больно шустрыми получаются.

Что это значит для нас, простых пользователей? Работая с данными, надо глядеть в оба. Если вы поручаете ИИ финансовую модель или отчет, проверяйте источники цифр. «Правдоподобные» данные без ссылки теперь — официально задокументированный риск.

Сама OpenAI оговаривается, что отчеты не показывают, насколько часто такое происходит. Нормальная такая позиция. «Мы обязуемся регулярно рассказывать, как наши модели нас обманывают». Теперь это новая корпоративная искренность, которую мы заслужили (или нет?).

Чаты ChatGPT читают живые люди

Издание 404 Media обнародовало внутренние материалы проекта Project Lily — внутреннего проекта OpenAI. В открытый доступ попали инструкции, переписка в Slack и пользовательские диалоги. Оказывается, сотрудники OpenAI на постоянной основе отсматривают реальные диалоги пользователей с ChatGPT — читают запросы, кратко описывают цель пользователя и оценивают варианты ответов.

Имен пользователей проверяющие не видят. Но над запросом показывается сводка «воспоминаний» пользователя, из которой иногда понятно, чем человек занимался и где живет.

Передача чатов в обучение включена по умолчанию на тарифах Free, Plus и Pro. На Enterprise, Business и Edu этого безобразия нет.

Anthropic подтвердила изданию, что тоже использует ручную проверку.

Вообще-то ручная разметка — нормальная часть обучения моделей. Вы всерьез думали, что ваши диалоги с чат-ботом читают только алгоритмы? Проблема в том, что большинство из нас именно так и считает. Люди делятся с чат-ботом всяким сокровенным, чего не сказали бы живому собеседнику.

Для OpenAI накануне размещения акций это выстрел в колено и явный репутационный риск. Но скандал состоялся и меры придется принимать. Ручную проверку, конечно, не отменят, но, скорее всего, начнут более честно предупреждать о ней в интерфейсе.

Ну а пока — если не хотите, чтобы ваш поток сознания читал чужой сотрудник, просто запретите это по умолчанию. Совет, конечно, касается только тех, кто работает с ChatGPT напрямую, а не через российский агрегатор. В настройках откройте раздел Data Controls и отключите «Improve the model for everyone». Или не говорите боту ничего такого, что постеснялись бы сказать своей маме или товарищу майору — даже в агрегаторе. Оно так спокойнее.

«Алиса AI» достигла 41 млн пользователей в неделю и запустила репетитора к ЕГЭ

Новости из России: в первую неделю сентября аудитория нейросети «Алиса AI» и число запросов выросли в 5 раз год к году, а недельная аудитория достигла 41 млн человек.

Причина понятна: школьники вернулись из онлайн-игр и сели за учебу. Доля образовательных запросов почти утроилась по сравнению с июлем и августом и дошла до 14%, запросы на перевод выросли на 48%.

17 сентября Яндекс закрепил тренд: в «Алисе AI» появился модуль «Для учебы». Он выявляет пробелы в знаниях, объясняет материал по шагам и включает тренажер ЕГЭ по базовой и профильной математике. Есть школьная математика с 5-го по 11-й класс, подготовка к письменной части ЕГЭ по английскому и разбор домашних заданий по фото. Пока функция доступна части пользователей.

Наконец-то сбылась вековая мечта халявщиков: нейросети легализовали списывание. В течение учебного года школьники и студенты остаются ядром аудитории российских ассистентов. Яндекс ведет себя как правильный папа, пытаясь превратить «списывание» в репетиторство: наводящие вопросы вместо готового ответа. Если подход сработает, это станет сильным аргументом в пользу отечественных сервисов перед зарубежными, которые в России доступны только через обходные пути.

Но давайте честно: если школьник может сфотографировать задачу и получить пошаговое объяснение, скорее всего, он все равно его спишет. Просто теперь будет считать, будто чему-то учится. Как разрешить этот парадокс — «науке это неизвестно, наука пока не в курсе» ©.

Курьез недели: дрозофила «задеплоила» базу данных в Supabase

Вчера мы уже писали про всемирный хайп вокруг симуляции нервной системы плодовой мушки. «Оцифровка дрозофилов» продолжает преподносить сюрпризы. Сегодня в интернете обсуждают новость о том, как коннектом мозга мухи дрозофилы подключили к клавиатуре и заставили программировать.

Интерфейс системы FlyHard с терминалом, показывающий команды для подключения и развертывания базы данных Supabase, а также изображения нейронной активности и мухи, взаимодействующей с клавиатурой.

Работает это так: импульсы нейронов «нажимают» клавиши, команды уходят в терминал. В итоге через эту цепочку развернули базу данных в Supabase. Первоисточником послужил вирусный ролик в X. Автор с иронией назвал это самым изящным деплоем базы за год.

К сожалению, публикации не объясняют, как именно активность нейронов превращается в конкретные команды. Скорее всего, «интеллект» здесь заложен в заранее заданном соответствии между сигналами и действиями, а не в самой мухе. Муха не «знает», что такое база данных, миграция или Supabase. Команды, их порядок, правила перевода импульсов в нажатия и саму инфраструктуру созданы человеком (а скорее всего, вообще ИИ-ассистентом). Цифровой слепок мозга дрозофилы (тот самый коннектом) здесь работает как сложный генератор сигналов, ограниченный реальной анатомией.

В общем, джуны могут спать спокойно: вала резюме от дрозофил на HH.ru в ближайшее время ждать не стоит.

Для индустрии важнее другое. Открытые карты мозга стали доступным материалом для экспериментов, и на стыке нейробиологии и ИИ появляется целое сообщество. Вопрос, где проходит граница между симуляцией реального организма и программой, из прикола постепенно превращается в массово разрабатываемую тему. Что это принесет — будущее покажет.

Неделя одной строкой

Лидеры индустрии предложили притормозить ИИ, а мнения мировых лидеров разделились, OpenAI обещает честно рассказывать, как ее модели врут и скрывают ошибки, ваши чаты в ChatGPT читают люди (а вы не знали?), «Алиса» учит школьников, а муха деплоит базы данных — одним словом, идет нормальная цивилизованная жизнь, хоть это иногда и пугает.