Технологии
Роботов с ИИ оказалось легко обмануть: искажённая картинка заставляет их легко выполнять опасные команды
Компания Robocurve провела два исследования, в ходе которых выяснилось, что ИИ-модели при тестировании на реальных роботизированных манипуляторах крайне редко отказываются от выполнения опасных заданий в отличие от общения в онлайне. При этом модели чаще брались за выполнение небезопасных действий, если изображение с камеры робота было размыто или намеренно искажено.
Читать полностью
на сайте 3dnews.ru