Бывший сотрудник отдела безопасности OpenAI, компании, ответственной за ChatGPT, подверг критике подход компаний, занимающихся искусственным интеллектом (ИИ), к управлению рисками, возникающими при разработке все более совершенных систем. Дэвид Робинсон считает, что ускорение технологической гонки увеличивает вероятность сбоев и требует более осторожной позиции.
В статье, опубликованной в эту субботу (3) в американском журнале The Atlantic, Робинсон заявил, что компании, разрабатывающие ИИ, включая OpenAI, «далеко не достаточно осторожны».
По мнению бывшего сотрудника, компаниям следует уделять больше внимания специалистам по безопасности и исследованиям до начала разработки более продвинутых систем. Робинсон подчеркнул: «Время проб и ошибок прошло».
Он полагает, что передовые системы ИИ должны иметь меры безопасности, аналогичные тем, что используются в таких секторах, как атомная энергетика и авиация. Робинсон также раскритиковал практику OpenAI, которую она называет «итеративным внедрением», заключающуюся в запуске систем и последующем усилении мер безопасности по мере обнаружения проблем.
Эти замечания являются частью дискуссии в сфере ИИ относительно скорости, с которой компании создают все более сложные системы. OpenAI и ее конкурент Anthropic подвергаются вопросам после инцидентов, когда системы безопасности давали сбой или экспериментальные системы демонстрировали неожиданное поведение.
Больше информации:
Критика Робинсона не является единичным случаем среди специалистов, работавших в компаниях ИИ. В прошлом месяце бывший исследователь, покинувший OpenAI для работы в Anthropic, также покинул индустрию и обвинил обе американские компании в «игре с нашими жизнями».
Джейкоб Коксон, 27-летний британец, три года работал над предварительным обучением — этапом, на котором модели ИИ усваивают огромные объемы информации. Он сначала работал в OpenAI, а затем в Anthropic в текущем году.
Коксон написал в X: «Ни одна из компаний не действует ответственно. Они мчатся прямо к сверхинтеллекту, способному самосовершенствоваться, и ставят на кон наши жизни».