Был предложен новый подход для решения проблемы «чрезмерной самоуверенности» — одного из наиболее серьезных рисков, связанных с искусственным интеллектом (ИИ) в таких областях, как автономное вождение и медицинская диагностика, где ИИ демонстрирует высокую степень уверенности в неверных прогнозах. Исследовательская группа KAIST разработала метод обучения, который позволяет ИИ распознавать ситуации, связанные с незнакомыми или невидимыми знаниями, закладывая основу для снижения чрезмерной самоуверенности и повышения надежности.
Новости от techxplore
