OpenAI объяснила борьбу с гремлинами в ответах ИИ — и позволила снять ограничения

OpenAI рассказала широкой аудитории о своей проблеме с гоблинами — к этому компанию подвиг материал на сайте Wired. Как выяснилось, разработчик систем искусственного интеллекта вынужден дополнительно инструктировать свои модели "никогда не говорить о гоблинах, гремлинах, енотах, троллях, ограх, голубях или других животных и существах", потому что эти модели в процессе обучения выработали такую "странную привычку".