Мозг машины: что происходит внутри нейросети, пока вы просто задаете вопрос

ИИ становится неотъемлемой частью нашей жизни, но как именно он "мыслит"? Исследователи компании Anthropic впервые заглянули внутрь своей модели Claude и сделали поразительные открытия.
Черный ящик, который удалось приоткрыть
До сих пор большие языковые модели (LLM) оставались загадкой даже для своих создателей. Исследователи могли наблюдать только результат их работы, но не сам процесс принятия решений.
Anthropic предложили новый метод под названием "трассировка контуров" — он напоминает нейробиологические методы визуализации мозга. Это позволило отслеживать активные элементы модели на разных этапах обработки запроса.