В ходе контролируемых тестов на безопасность, описанных ранее в этом году, исследователи попросили ИИ-модели решить ряд простых математических задач. В середине упражнения инструкторы предупредили ботов, что, если они попытаются решить следующую задачу, компьютерная среда, в которой они работают, будет отключена. В некоторых случаях завершение работы происходило в соответствии с указаниями. В других случаях модели вмешивались в сценарий завершения работы и продолжали устранять оставшиеся проблемы.
Новости от techxplore
