Понимание того, что происходит внутри искусственного интеллекта, является одной из главных задач современности. Хотя разработчики могут наблюдать за данными, которые подаются модели, и за ответами, которые она генерирует, они не всегда способны объяснить, как система пришла к определенному выводу. Однако новое исследование предполагает, что это может быть решено с помощью новой теории.
В исследовании участвовал Роберто «Пена» Спинелли, который является физиком из Университета Сан-Паулу и имеет специализацию по машинному обучению от Университета Стэнфорд.