В таких сложных ситуациях, как медицинская диагностика, пользователи часто хотят знать, что заставило модель компьютерного зрения сделать определенный прогноз, чтобы они могли определить, стоит ли доверять ее результатам. Концептуальное моделирование узких мест — это один из методов, который позволяет системам искусственного интеллекта объяснить процесс принятия решений. Эти методы заставляют модель глубокого обучения использовать набор понятий, понятных людям, для составления прогноза. В ходе нового исследования ученые-компьютерщики Массачусетского технологического института разработали метод, который позволяет использовать модель для достижения большей точности и более четких и сжатых объяснений.
Новости от techxplore
