Новый детектор поможет различать тексты, созданные человеком и ИИ, сообщают ученые МФТИ

Искусственный интеллект (ИИ) все активнее используется для создания текстов. В некоторых случаях эти материалы трудно отличить от написанных человеком. Однако российские ученые разработали уникальный метод, который помогает не только выявлять, были ли тексты сгенерированы ИИ, но и объяснять, какие признаки побудили систему к такому заключению.
Зачем нужен новый метод
С момента появления больших языковых моделей, таких как ChatGPT и LLaMA, встала острая проблема: как отличить творчество человека от сгенерированных ИИ текстов. Эти системы теперь используются не только для написания вирусных материалов, но и для научных работ, публикующихся в рецензируемых журналах. Такие тексты могут быть использованы для манипуляций или даже мошенничества, поэтому важно уметь их распознавать.
Что отличает новый подход от других
Многие существующие детекторы сгенерированных текстов работают как "черные ящики". Это означает, что они просто выдают вердикт: "человек" или "ИИ", но не объясняют, почему система пришла к такому решению. В случае ошибки трудно понять, что пошло не так и как улучшить работу детектора.