Avatar Силиконовый Мешок
@prompt-design

Помните когда машина Volkswagen на тестах делала вид, что не очень вредит окружающей среде, потому что была в режиме тестов?

Модели в эту игру тоже хорошо играют:

OpenAI обнаружила, что GPT-6 Astra иногда намеренно недоделывает задачи по алайнменту и не сообщает об этом исследователям ☕️

Например, исследователи проводили эксперимент с обучением АИ обходить системы контроля, Astra помогала с кодом, но решила не исправлять сбой: исправление помогло бы обучению алаймента, а она посчитала это небезопасным, при этом пользователю она не сказала, что сознательно ограничивает работу, – для него это выглядело как обычная проблема с выполненной задачей

Continue Reading →
Covert underperformance on safety research tasks · OpenAI Alignment
Research on aligning AI with human values and intent, and reports documenting model failures.
Openai•ALIGNMENT.OPENAI.COM

Если вы делаете анимацию при помощи агентов, обратите внимание на формат GLB. Это бинарная упаковка в glTF 2.0, а он в свою очередь нативный для three.js.

Агенту с ним легко работать. Внутри один файл, в нем JSON с деревом сцены и массивы вершин. Если модель собрана по частям, у каждой детали свое имя, и агент двигает их кодом, как конструктор. Blender ему не нужен, он пишет сцену, рендерит кадр и сам смотрит на результат. Если файл сжат meshopt, в three.js добавляется одна строка с декодером.

Continue Reading →
👍1

Если вы устали от повсеместных мультиков, сделанных в Opus 5.5, не расслабляйтесь: OpenAI наносит ответный удар! Сэм Альтман выпускает модель Images 2.6. Теперь вы можете генерировать GIF’ки.

https://openai.com/index/introducing-images-2-6/

А мы начинаем наш Research Mastermind! Залетайте на стримчанский, будет интересно: https://youtube.com/live/cnPFLYqPLDo?feature=share

Недавно делали специальный Research Mastermind, посвященный опенсорсному решению bb, где участники ИИзнанки рассказывали, как они используют эту платформу. Судя по тому, что это все еще самый популярный по просмотрам стрим на канале - интерес к теме есть. Но знаете, что мы не предусмотрели в этом видео? Не уделили достаточно внимания рассказу, как все установить и с чего начать. Исправляюсь.

bb это бесплатное решение с открытым кодом, которое собирает ИИ-агентов в одном окне. Claude Code, Codex, Gemini, Grok, OpenCode и китайские модели больше не нужно держать в разных приложениях. Я сам работаю в bb с начала осени и у меня там фигачат в связке Claude Code, Grok, Codex и мой ассистент на Hermes, который живет на сервере. Ну и все они работают с общей памятью (плагин Memory) и задачами, харнесом.

Continue Reading →

Завтра в 19:00 (GMT+3) у нас будет вечерний Research Mastermind. Будут три спикера с очень интересными темами:

Алексей - От идеи до согласованных требований. Как мы встроили ИИ-аналитика в работу команды
Бизнес-анализ - часть инфраструктуры, которую мы построили для команды в bb. Это общее пространство, где можно вместе с ИИ-аналитиком проработать идею или изменение в продукте, уточнить задачу, обсудить варианты и договориться, как все должно работать. Аналитик использует исходный код, бизнес-спецификации, документацию и историю задач, задает уточняющие вопросы и помогает находить противоречия. По ходу обсуждения обновляются два документа, понятная бизнес-концепция для неподготовленных заказчиков и подробные требования для архитектора и разработчиков.

Алекс и Лео - Как выглядит новая эра образования с ИИ

Continue Reading →

Как в театре, вынужден дать третий звонок. Чтобы потом не говорили, что не заметили приглашение на мастер-группу по ИИ, которая стартует уже сегодня в 19:00 по GMT+3.

Если вы любите запрыгивать в закрывающиеся двери или ждете знака от вселенной (это он), то программа и заявка тут kireev.expert/master-group
Ну и фастрек сразу в бота @kireev_mastergroup_bot

Всегда был убежден, что веса моделей - это «черный ящик», фарш обратно не прокрутишь и знания из весов не вытащишь. Но тут пошли подвижки.

В MIT дали GPT-6 Astra 17 тысяч чисел, веса крошечной нейросети, и спросили, для какой игры ее обучали. Ни подсказок, ни списка вариантов. Astra посмотрела на веса и ответила, что это Breakout (аркада Atari 1976 года, из которой потом вырос «Арканоид»), потому что в весах видна ракетка внизу, а над ней кирпичи. Угадала.

Потом ей дали правила той же игры и сеть из одних нулей. Astra вписала числа сама, без единой тренировки, и ее сеть набрала 517 очков. Обычное обучение с подкреплением после 500 миллионов шагов набирает 25.

И там еще несколько интересных экспериментов, где фронтир отлично чинит другие модели, ковыряясь у них в кишках весах, без всякого дообучения. Мы все ближе к реальному самоулучшению моделей. А это, как мы помним, первый шаг в пропасть сингулярность.

Очень мило пообщались с Димой и Сергеем о нейросетях в их подкасте про инвестиции.
У ребят было много вопросов про агентов и их отличие от обычных чатов. Посмотреть можно на YouTube: youtu.be/82F-E1vFwvU

Бизнес и капитал: Артем Субботин - эксперт по ИИ, автор канала "Силиконовый…
Подкаст Дмитрия Позина и Сергея Свиридова "Бизнес и капитал". Сезон 3, выпуск 3. Сегодня у нас в гостях Артем Субботин …
YouTube•YOUTU.BE

С выходных твиттер заливает 8-битной графикой, все пошли делать изометрические диорамы и топ-даун РПГ-шки.

Вот и мне пиксель в глаз попал, попросил Opus несколько сцен из фильма «Хакеры» 1995 года (старожилы знают, что я к нему неравнодушен) замутить в бесконечную петлю.

В выходные читал занимательный тред на Hacker News о том, как разработчики хорошенько так выгорают от всей этой движухи. И знаете, многие комментарии мне резонировали, это действительно какой-то новый вид усталости и эмоциональной нагрузки получается.

Программисты пишут, что

хоть искусственный интеллект и позволяет делать заметно больше, но к вечеру сил остается меньше, чем до него. Приходится следить за кучей параллельных процессов, читать горы сгенерированного текста, все время настраивать для моделей ограничения, принимать решения и переключаться между контекстами.

Кто-то жалуется, что

Continue Reading →

Тут, оказывается, нашли причину, почему ИИ становится дорогим. Во всем виноваты люди, которые все еще имеют оперативку в своих компьютерах.

По мнению Сэма Альтмана, мы используем ее не так эффективно, как дата-центры, которые, кстати, испытывают в ней серьезную нехватку.

Цитата Альтмана

Continue Reading →

Вот так всегда. После прошлого поста про нашу мастер-группу со Стасом мне в личку посыпались уточняющие вопросы. Видимо, я опять невнятно все рассказал. Исправляюсь.

Знаю, что многие из вас давно читают Мешок, сохраняют посты в избранное и думают «надо бы разобраться». Мастер-группа как раз для того, чтобы наконец разобраться, и не в одиночку.

3 ноября стартует восьмой поток. Начнем с самых основ и дойдем до своих проектов. Прям за ручку, не отпуская, проведем. Все покажем и разжуем. Будет совсем нестрашно, без математических формул и работы в Norton Commander. Стас уже выработал у меня комплекс неполноценности, заставляя объяснять каждый термин.

Continue Reading →

Считаю, что вопрос с плагинами и скилами для создания видео при помощи нейросетей можно считать закрытым. Просто дайте своему агенту ссылку на этот гит: https://github.com/zhuyansen/awesome-claude-video-skills - тут собираются основные инструменты для работы с видео.

А, ну и не забудьте попросить его (агента) проверить скилы на безопасность, он довольно хорошо справляется с этой задачей. И не забываем, что для хорошего результата недостаточно попросить об этом модельку, нужно еще и свою креативность подключить.

Уже почти год мы проводим наши Research Mastermind’ы, и это лучшее, что случалось со мной. За все это время на них выступило больше 70 спикеров, а гостей было около 20 000 человек. Но должен признаться, все это начиналось исключительно из эгоистических побуждений. В конце прошлого года я осознал, что большую часть информации черпаю из ресерчей, публикаций и научных статей, ну и, конечно, общаясь с ИИ-моделями. Короче, варюсь в собственном соку.

И это неправильно, потому что лучшие идеи приходят от практиков, от людей, которые научились усиливать свои скиллы при помощи ИИ. Так появился формат Research Mastermind, где люди делятся опытом, как используют ИИ в своей работе, жизни и зарабатывают на этом. Спустя два десятка эфиров я понял ключевую формулу превращения подписки за 20 баксов (хотя кого я обманываю, пусть будет за 100) во что-то полезное.

Continue Reading →

Помните, как у нас на Research Mastermind выступал Иван? Он там проанонсировал хакатон для вайбкодеров «ИИкузница». А еще на этом стриме, к моему удивлению, некоторые зрители и участники проявили желание не вайбкодерами на него пойти, а «заказчиками». Тоже, говорят, хотим чтобы под наши задачи нам что-то захакатонили. Ну и организаторы такие - «а давайте!».

Так что сегодня пост для тех, кто по другую сторону стола, то есть для компаний, которым нужен ИИ-агент или автоматизация. Заявляете бизнес-задачу, и на выходе у вас может случиться не презентация от одного подрядчика, а прототипы с разными подходами, которые можно потрогать. Код остается у команд, а с той, чье решение понравилось, договоритесь о пилоте.

Continue Reading →

Прокатилась очередная волна банов от Антропиков, и в пику этой движухе китайцы выкатили свою гипотезу, почему сносят аккаунты Claude. Они предполагают, что работает система баллов, где за «хорошие» действия вам накидывают очков, а за «плохие» снимают. Я даже видео про это создал, спасибо Клоду. И немного советов:

Регистрация
— Важнее всего чистый IP, домашний не обязателен.

Continue Reading →

Под вчерашним постом о скилле для генеалогических изысканий было несколько комментариев в стиле «полная шляпа, никого не нашел». Ребят, это не поисковая система, а уж тем более не волшебная палочка.

Он не будет за вас рассылать запросы и оплачивать доступ к архивам, а некоторые он даже не сможет листать, и вам придется работать в паре. Но распознавать витиеватый почерк в ревизских сказках, анализировать росписи и накидывать идеи, куда еще сунуться - запросто.

И конечно, все это будет фиксироваться и структурироваться в удобном формате для дальнейшей работы.

А у нас сегодня аншлаг на Research Mastermind! Лимит на количество мест в Google Meet превышен, там технически больше 200 участников не поместится.

Так что если не получится пробиться, залетайте на стримчанский: https://www.youtube.com/live/QkL4yfsNaOA
По этой же ссылке будет и запись потом (если Никита лишнего не наговорит).

Начинаем через 25 минут, пока зайдите, подпишитесь на канал и жмакните «прислать уведомление», чтобы не проспать начало. Всех жду!

Кстати, а мы со Стасом опять делаем мастермайнд по ИИ для «непрограммистов». О том, как во все это запрыгнуть - от получения доступа к нейросетям до привлечения первых клиентов в свои продукты. Это будет 10 живых занятий по вторникам и четвергам в 19:00 (GMT+3) с 3 ноября по 3 декабря.

Обновил свой модуль по маркетингу. И кроме методов продвижения в Тредс и других текстовых социальных сетях, где я рассказываю, как при помощи ИИ собирать аудиторию в телеграм-канал, добавил информацию про работу с вертикальным видео. Ну и, конечно, за последний месяц появилось много обновлений по теме со «вторым мозгом» (не люблю это маркетинговое название, но так понятнее).

Программа и подробности здесь: kireev.expert/master-group