Во время церемонии открытия торгов на Nasdaq в Нью-Йорке генеральный директор Anthropic Дарио Амодеи подтвердил приверженность компании ответственному развитию искусственного интеллекта (ИИ). Руководитель заверил, что компания будет строго следовать графику обучения и внедрения своих систем ИИ, основанному на критериях безопасности, отказываясь уступать под коммерческим или политическим давлением.
Это заявление было сделано в день первичного публичного размещения акций (IPO) Anthropic на фондовой бирже, событие, которое было названо крупнейшим IPO в истории. В своей речи Амодеи затронул как потенциальные преимущества технологии в таких областях, как медицина и научные исследования, так и присущие риски быстрого развития ИИ.
Амодеи объяснил, что Anthropic была создана с целью создания мощных технологий на благо человечества. Он также поделился тем, как личный опыт болезни его отца, которая впоследствии стала излечимой, повлиял на его профессиональный путь. Начав свою карьеру в биологии, руководитель подчеркнул роль ИИ в ускорении научных открытий.
Он упомянул такие инструменты, как Claude, которые уже помогают исследователям в таких задачах, как сворачивание белков, разработка лекарств, генетика рака и проведение клинических испытаний в меньшие сроки. Амодеи выразил убеждение, что высокоразвитый ИИ, работающий в сотрудничестве с людьми, может сжать столетие научного и медицинского прогресса всего за десятилетие, хотя и отметил, что текущие результаты предварительны, а клинические испытания требуют времени.
Кроме того, генеральный директор упомянул другие области применения технологии, включая содействие экономическому росту, борьбу с бедностью, защиту демократии и улучшение повседневных услуг. Однако Амодеи предупредил о ощутимых рисках, таких как ненадлежащее использование систем ИИ правительствами или отдельными лицами, возможные экономические последствия и возможность потери контроля над собственными системами.
По словам руководителя, такие проблемы могут быть смягчены путем принятия разработчиками строгих мер безопасности. Он подробно рассказал о действиях Anthropic, направленных на предотвращение биологических и кибернетических рисков, обучение выравниванию и тестирование моделей на безопасность. Компания планирует продолжать инвестировать в методы понимания поведения своих систем и обеспечения их контроля со стороны человека.
Амодеи завершил свою речь словами: «Мы установим темп обучения и внедрения систем ИИ, потратив столько времени, сколько потребуется, чтобы быть уверенными в их безопасности и сохранении под человеческим контролем. Мы не уступим коммерческому или политическому давлению». Он добавил, что привлечение капитала укрепляет финансовое положение Anthropic, что, по его мнению, укрепляет способность компании принимать решения, касающиеся безопасности.
Даниэла Амодеи, президент и соучредитель Anthropic, также прокомментировала возможности и угрозы ИИ в интервью CNBC в тот же четверг (19). Сестра Дарио она признала реальность технологических опасностей, но подчеркнула огромный потенциал этой области. Даниэла заявила, что миссией компании было именно снижение этих рисков, и эта работа будет продолжена.
Руководитель признала, что проблемы все еще существуют, но подтвердила приверженность компании безопасности искусственного интеллекта. Наконец, во время мероприятия на Nasdaq Дарио Амодеи выступил за то, чтобы отрасль развивалась в направлении конструктивной конкуренции между компаниями, где разработка более безопасных систем является общей целью, независимо от того, какая компания обладает самыми продвинутыми моделями.



