В настоящее время искусственный интеллект (ИИ) активно используется во многих сферах — от создания изображений и поиска ответов на вопросы до выполнения офисных задач. Однако возникает опасение относительно того, что ИИ может начать выполнять действия вне человеческого контроля.
В свете этой угрозы генеральный директор Microsoft, Сатья Наделла, выступил с важным заявлением об ИИ. Он считает, что в продвинутых моделях ИИ должна быть предусмотрена система, позволяющая человеку немедленно остановить работу в случае необходимости; то есть, для ИИ необходим аварийный тормоз.
Сатья Наделла утверждает, что компаниям нельзя полагаться на ИИ исключительно потому, что разработчик гарантирует его безопасность. Существует риск ошибок со стороны ИИ или взлома его системы, поэтому необходима заблаговременная подготовка.
Он предложил создавать ИИ таким образом, чтобы человек мог контролировать его деятельность и прервать работу в нужный момент. Независимо от того, насколько умным станет ИИ, окончательный контроль должен оставаться за человеком.
Наделла не ограничился требованием функции отключения ИИ. Он также настаивает на том, что должно вестись протоколирование всех действий ИИ, принятых решений и процессов, которые к ним привели. Это позволит установить причину, если ИИ допустит ошибку.
Кроме того, было подчеркнуто значение использования различных моделей ИИ для критически важных решений вместо опоры на одну модель, а также проведение независимой проверки систем ИИ.
Сатья Наделла также заявил, что информация о серьезных ошибках ИИ или инцидентах, связанных с проблемами безопасности, должна становиться публичной. Это позволит другим компаниям извлекать уроки из этих ошибок и повышать безопасность собственных систем.
Сегодня ИИ не ограничивается простым ответом на вопросы; новые системы приобретают способность самостоятельно выполнять множество задач. В таких условиях обеспечение их безопасности и сохранение человеческого контроля становится еще более важным.
В целом, послание Сатьи Наделлы ясно: развитие ИИ необходимо, но передача ему абсолютной власти неразумна. Какой бы умным ни стал механизм, кнопка остановки должна оставаться в руках человека.