Нейросеть и тайная комната: языковая модель Claude создала для себя личное пространство

Разработчики из компании Anthropic заглянули внутрь своего "умного" продукта — языковой модели Claude — и обнаружили там тайную комнату. Это небольшая область нейросети, где машина ведет внутренний монолог. Подобно тому, как мозг продолжает работать в фоновом режиме, нейросеть выстраивает цепочки идей до того, как они превращаются в итоговый текст. Это "личное пространство" модели теперь официально описано как J-пространство, названное в честь математического метода якобиана.
В этом материале:

Что такое J-пространство

Безмолвные рассуждения ИИ

Скретчпад для нейронных связей

Опасность потери контроля

Ответы на популярные вопросы

Читайте также

Что такое J-пространство

Специалисты Anthropic нашли внутри системы обучения особый узел. Он работает как кратковременная память для "черновиков" мыслей. Это вычислительная зона, где модель обкатывает концепции, прежде чем выдать ответ пользователю. Математически выделить этот феномен позволила матрица Якоби. Важно уточнить: это не обретение сознания машиной, а лишь инженерный механизм обработки данных.
"Мы имеем дело с продвинутым алгоритмом обработки абстракций, а не с аналогом человеческих нейронов. Разделение потоков на "печать" и "вычисление" — это классическая оптимизация, просто в нейросетевых масштабах она выглядит как некая "внутренняя жизнь"", — прокомментировал ученый-физик Дмитрий Лапшин.