Back to Timeline

Всегда был убежден, что веса моделей - это «черный ящик», фарш обратно не прокрутишь и знания из весов не вытащишь. Но тут пошли подвижки.

В MIT дали GPT-6 Astra 17 тысяч чисел, веса крошечной нейросети, и спросили, для какой игры ее обучали. Ни подсказок, ни списка вариантов. Astra посмотрела на веса и ответила, что это Breakout (аркада Atari 1976 года, из которой потом вырос «Арканоид»), потому что в весах видна ракетка внизу, а над ней кирпичи. Угадала.

Потом ей дали правила той же игры и сеть из одних нулей. Astra вписала числа сама, без единой тренировки, и ее сеть набрала 517 очков. Обычное обучение с подкреплением после 500 миллионов шагов набирает 25.

И там еще несколько интересных экспериментов, где фронтир отлично чинит другие модели, ковыряясь у них в кишках весах, без всякого дообучения. Мы все ближе к реальному самоулучшению моделей. А это, как мы помним, первый шаг в пропасть сингулярность.