Уверенность — это способность убеждать. В системах искусственного интеллекта она часто вводит в заблуждение. У современных моделей, способных рассуждать, есть одна общая черта с самым громким голосом в зале: они дают каждый ответ с одинаковой непоколебимой уверенностью, независимо от того, верен он или нет. Исследователи из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL) выяснили, что чрезмерная самоуверенность связана с определенным недостатком в способах обучения моделей, и разработали метод, который устраняет его, не снижая точности. Результаты исследования опубликованы на сервере препринтов arXiv.
Новости от techxplore
