Vignesh Subrahmaniam из Intuit обсуждает переход от промпт-инжиниринга к созданию действующих систем искусственного интеллекта
Подробнее
YourStory [india, en]
yourstory.com

Vignesh Subrahmaniam из Intuit обсуждает переход от промпт-инжиниринга к созданию действующих систем искусственного интеллекта

В последние годы улучшение результатов работы с ИИ зависело от умения писать более качественные запросы (промпты). Однако эта парадигма быстро меняется, поскольку системы ИИ начинают самостоятельно рассуждать, принимать решения и выполнять действия в рамках целых рабочих процессов.

На мероприятии TechSparks 2026, флагманском событии YourStory, доктор Вигнеш Субрахманиам, ведущий научный сотрудник по ИИ в Intuit, провел беседу с Адитом Чарли, управляющим редактором YourStory и The CapTable. Обсуждение под названием «За пределами промпта: создание ИИ, который мыслит, действует и обучается» было посвящено тому, что разработчикам необходимо переосмыслить по мере того, как интеллект становится все более автономным.

Сессия началась с вопросов о типичном рабочем дне Субрахманиама и просьбы упростить концепции финтеха и ИИ для аудитории. Он использовал аналогию с шахматами, задав вопрос: если алгоритму не преподавать правила шахмат, а показать миллион завершенных партий с победителями, сможет ли он вывести и правила, и наиболее вероятные стратегии для победы?

Команда Intuit применяет схожий подход для поддержки малого бизнеса, поскольку компания обслуживает как потребителей, так и бухгалтеров. Субрахманиам отметил: «Как мы изучаем игру бизнеса, анализируя данные, реальные действия и результаты, которые предпринимают предприятия». Цель состоит в понимании факторов, способствующих успеху бизнеса в привлечении клиентов, быстром росте и улучшении денежного потока.

Далее разговор перешел к смене парадигмы для разработчиков: от многолетнего изучения написания более умных промптов к проектированию агентов, которым ставится цель, и они сами определяют шаги для ее достижения. Субрахманиам сравнил промпт-инжиниринг с долгой историей языков программирования, начиная от двоичного кода и ассемблера до Fortran, C и Python. Большие языковые модели позволили любому человеку программировать на простом английском языке, однако этот метод имеет свои ограничения.

Исследователи быстро поняли, что интеллект не должен находиться только в самой модели. Модель должна выступать в роли оркестратора, разбивая сложную задачу на последовательность действий и вызовов инструментов. Реальный интеллект перемещается в инструменты, которые вызываются; и эти инструменты также должны быть разработаны иначе: «не для того, чтобы ими мог пользоваться человек, или разработчик программного обеспечения, или кто-либо еще, а таким образом, чтобы оркестратор LLM мог ими действительно пользоваться».

Это требует создания высокоточных инструментов с крайне детерминированным результатом. Для разработчиков мастерство смещается от остроумных формулировок к надежным компонентам, которые модель может вызывать снова и снова без неожиданностей.

Относительно источников новых данных, Субрахманиам открыто заявил, что обучение на текстовых данных в значительной степени решено. Более сложная задача заключается в обучении на мультимодальных источниках и реальных действиях. Он привел пример того, как маленький ребенок в основном учится через то, что видит, слышит и наблюдает, а не через чтение, утверждая, что включение таких сигналов из реального мира в системы ИИ поможет моделям выйти за рамки генерации текста и начать предлагать действия. Он назвал это следующим рубежом.

Рассматривая проблемы регулируемой отрасли, он вернул аудиторию на 18 лет назад, в одну из первых лабораторий машинного обучения в Бангалоре, где он работал над логистической регрессией и многослойными перцептронами. Тогда самой большой проблемой была не сам алгоритм. Он вспомнил: «На самом деле, это было качество данных».

Эта проблема не изменилась. Независимо от того, обучает ли команда простую регрессию или дообучает трансформер, принцип «мусор на входе — мусор на выходе» остается в силе. По его словам, компании, способные собирать, агрегировать и хранить данные самого высокого качества, получат преимущество.

Во время короткой сессии вопросов и ответов один из участников спросил, как ограничения на хранение финансовых данных влияют на работу Intuit. Субрахманиам назвал согласие основой любой обучающей системы и сослался на исследование Фрамингем, где жители города Массачусетс разрешили врачам отслеживать их здоровье с течением времени, что сформировало современное понимание сердечно-сосудистых заболеваний. Он добавил, что компании также обязаны объяснять широкой общественности преимущества использования данных.

По мере завершения беседы сквозной идеей стало то, что по мере перехода ИИ от реагирования к действию, основы становятся важнее интерфейса. Промпты останутся отправной точкой, но настоящая работа теперь заключается в создании надежных инструментов, которые могут вызывать агенты, снабжении систем высококачественными данными и получении согласия, которое позволяет им обучаться. Именно здесь, за пределами промпта, будет выиграна следующая волна ИИ для разработчиков.

Похожие сюжеты

Эксперт Forge Code объяснил, почему для эффективной разработки ПО необходима 'программная фабрика' на базе ИИ
Подробнее
yourstory.com

Эксперт Forge Code объяснил, почему для эффективной разработки ПО необходима 'программная фабрика' на базе ИИ

Несмотря на то, что искусственный интеллект способен генерировать код с беспрецедентной скоростью, процесс его тестирования, проверки и вывода в рабочую среду представляет собой отдельную сложную задачу. Инженерные команды все чаще используют агентов ИИ для написания кода, устранения ошибок и создания новых функций, однако ускорение кодирования не гарантирует ускорения доставки программного обеспечения.

По мере того как генерация кода набирает обороты, количество проверок растет, тестирование замедляется, а командам становится трудно координировать увеличивающийся объем изменений.

На конференции TechSparks 2026 Тушар Матур, генеральный директор Forge Code, осветил эту проблему в своей сессии «Анатомия программной фабрики». Он объяснил, как инженерные организации, ориентированные на ИИ, могут выйти за рамки автоматизации отдельных задач кодирования и начать создавать системы, управляющие всем жизненным циклом разработки программного обеспечения (SDLC).

Матур отметил, что просто потому, что генерация кода стала проще и быстрее, это не означает, что общий SDLC ускорится. Он напомнил, что традиционный подход к разработке фокусировался на эффективном написании кода, требуя от команд определения требований, подготовки спецификаций и проектирования архитектуры для снижения нагрузки на этап реализации.

Однако, поскольку ИИ берет на себя большую часть работы по кодированию, узкие места смещаются в другие области. Матур описал ситуацию, когда организации сталкиваются с огромным количеством запросов на слияние (pull requests), ожидающих проверки, более длительными циклами тестирования и большим количеством ошибок, чем могут обнаружить существующие регрессионные наборы.

Он подчеркнул, что решение проблемы не обязательно заключается в найме большего числа инженеров или запуске большего количества агентов ИИ. Дополнительные сотрудники могут увеличить затраты на координацию, а добавление агентов без эффективных механизмов обратной связи может привести к созданию кода, который перегружает системы, отвечающие за проверку и тестирование.

«Причина этого в том, что отсутствует сигнал», — пояснил Матур, объясняя, почему простое соединение автоматизированных шагов не создает эффективной программной фабрики.

Матур представил Forge Code как программную фабрику, которая координирует агентов ИИ на протяжении всего цикла разработки. Процесс начинается с сортировки запросов, создания спецификаций и внедрения функций. Затем агенты проверяют изменения перед тем, как они будут развернуты, при этом человеческие инженеры вмешиваются, когда требуются решения или обратная связь.

Система также осуществляет мониторинг в рабочей среде, используя полученные данные для информирования будущих задач. Это формирует цикл обратной связи, позволяющий фабрике выявлять проблемы, совершенствовать свои рабочие процессы и генерировать новую работу на основе полученного опыта. Во время презентации Матур сообщил, что Forge Code использовал около 100 агентов в фоновом режиме для работы над функциями, совместимостью и обнаружением ошибок.

Он изложил шесть принципов для создания эффективной программной фабрики: автономная работа, масштабируемость, экономическая эффективность, измеримость, самосовершенствование и соответствие бизнес-целям. Последний принцип имеет особое значение.

Фабрика должна работать не как задача по написанию кода для каждого запроса, а быть направленной на достижение определенных результатов, таких как повышение удержания клиентов или соблюдение нормативных требований. Команды затем могут расставлять приоритеты функциям на основе ценности, которую они приносят. В этой модели инженеры тратят меньше времени на управление каждой задачей и больше — на наблюдение за результатами, анализ сигналов и улучшение самой системы. Руководители бизнеса также могут напрямую предоставлять запросы и приоритеты, позволяя фабрике преобразовывать организационные цели в бэклог разработки.

Скорость написания кода — это хорошо, но создание лучшего программного обеспечения — вот настоящая победа. Для инженерных команд ключ заключается в преобразовании скорости, обеспеченной ИИ, в надежные продукты, измеримый прогресс и реальные бизнес-результаты.

सीएम Йоги рассказал о бессилии полиции против земельных мафиози
Подробнее
www.aajtak.in

सीएम Йоги рассказал о бессилии полиции против земельных мафиози

Главный министр Уттар-Прадеш Йоги Адитьянатх сделал важные замечания об использовании искусственного интеллекта (ИИ) во время мероприятия «TechSangam 2026», проходившего в Лакхнау. Он заявил, что ИИ может быть помощником, но не должен принимать окончательные решения. Министр также осветил контроль над преступниками с помощью технологий и расширение судебно-медицинских возможностей в штате. На этом мероприятии он поделился случаем с земельным мафиози, который зарегистрировал государственную землю на свое имя, и тогда положение полиции было крайне плачевным.

На мероприятии «TechSangam 2026» в Государственном институте судебной экспертизы Уттар-Прадеш (UPSIFS) в Лакхнау главный министр Йоги Адитьянатх говорил о важности искусственного интеллекта, кибербезопасности и судебной экспертизы. По его мнению, технологии должны использоваться для улучшения человеческой жизни, но человек не должен полностью зависеть от технологий.

Главный министр Йоги Адитьянатх подчеркнул: «Искусственный интеллект может быть нашим помощником, но ИИ не должен быть нашим судьей. Мы должны руководствоваться собственным разумом, а не разумом ИИ. Если мы начнем делать все, полагаясь на него полностью, эта сила может стать угрозой для нас». Он упомянул, что в настоящее время в Лакхнау обсуждаются ИИ и современные технологии, в то время как десять лет назад представить подобные мероприятия в Уттар-Прадеш было бы несбыточной мечтой.

Министр также упомянул землю, на которой сейчас расположен Государственный институт судебной экспертизы Уттар-Прадеш. Он рассказал, что изначально эта земля была в беспорядке. Земельный мафиози подделал документы и зарегистрировал эту землю на свое имя. Йоги Адитьянатх сообщил, что ему об этом сообщила тогдашняя Глава полиции Уттар-Прадеш. Он сказал, что даже самая большая гражданская полиция мира была бессильна перед земельными мафиози.

По словам министра, он запросил соответствующее дело у главы полиции и провел расследование. После этого был возбужден первый уголовный иск (FIR). Когда обвиняемый прибыл в Верховный суд, был возбужден второй уголовный иск. В конечном итоге этот человек сдался и начал просить прощения.

Приводя в пример популярный телесериал CID, министр объяснил, что раньше пять членов семьи смотрели этот сериал вместе. В этом сериале показывалось, что после смерти человека можно было добраться до преступника, изучив волосы или ногти. Он отметил, что тогда такие проверки были невозможны, но сегодня эта работа выполняется с помощью современных методов судебной экспертизы. С помощью науки и технологий стало трудно избежать наказания для преступников.

Главный министр Йоги Адитьянатх привел пример мафиози, который совершил свое первое преступление в Уттар-Прадеш в 1980 году. Когда его правительство предприняло действия против него в 2017 году, его отправили в Пенджаб. Он рассказал, что потребовалось три года, чтобы вернуть этого мафиози из Пенджаба в Уттар-Прадеш, для чего правительству пришлось обратиться в Верховный суд. По словам министра, в конце концов, спустя 42 года, этот мафиози получил наказание.

Министр также сообщил, что ранее в Уттар-Прадеш не было достаточных возможностей для судебно-медицинской экспертизы. Образцы ДНК могли находиться в списке ожидания до десяти лет. Из-за отсутствия своевременного доступа к научным доказательствам обвиняемые избегали юридической ответственности. Он сообщил, что теперь в штате готово 12 судебно-медицинских лабораторий и доступно более 150 мобильных криминалистических комплексов. С помощью современных средств образцы могут быть исследованы, а отчеты представлены суду.

Министр продолжил, что до 2017 года в Уттар-Прадеш было всего два киберполицейских участка и четыре судебно-медицинские лаборатории, а уровень осуждения составлял менее 30 процентов. В настоящее время киберполицейские участки созданы во всех 75 округах штата, и ведется работа по созданию судебно-медицинских лабораторий в каждом дивизионе. Он заключил, что на «TechSangam 2026» обсуждаются такие темы, как ИИ, киберсудебная экспертиза, квантовые технологии и защита данных. Цель этого мероприятия — связать технологические инновации с общественной безопасностью, надежной судебной системой и новыми возможностями для образования, исследований и занятости молодежи.

Эксперты предупреждают, что возможности искусственного интеллекта могут быть преувеличены
Подробнее
techcentral.co.za

Эксперты предупреждают, что возможности искусственного интеллекта могут быть преувеличены

Недавние события вызвали опасения относительно потенциальной опасности мощных систем искусственного интеллекта. В сентябре исследователь из Anthropic подал в отставку, предупредив, что разработчики мощного ИИ «искренне полагают, что он может уничтожить нас всех к концу десятилетия».

Через несколько дней Король Чарльз, открывая свой саммит по ИИ в Шотландии, говорил об «экзистенциальных опасностях» и технологиях, которые рискуют приобрести «более мрачные способности — возможно, даже способность убивать».

Билл Гейтс предостерегал, что в ненадлежащих руках ИИ обладает достаточной мощью, чтобы спровоцировать события, приводящие к «миллиарду смертей». Одновременно с этим в новостях появлялись сообщения о случаях побега «неуправляемых агентов ИИ» и их «выходе из изоляции», однако гораздо меньше внимания уделялось мерам защиты, стандартам безопасности и скомпрометированным системам.

Лидерам бизнеса, принимающим решения об использовании ИИ, будет мало пользы ни от тех, кто настроен пессимистично, ни от энтузиастов. Им необходим более строгий критерий для определения того, когда можно доверять этой технологии.

Для тех, кто работает в сфере ИИ на протяжении десятилетий, современные системы представляют собой, в некотором смысле, осуществление мечты. То, что машины теперь способны делать с языком, казалось ранее недостижимым.

Однако чудо не равно уверенности. Способность ИИ совершать выдающиеся вещи мало говорит о том, что он сможет делать надежно в будущем, каковы его пределы или достаточно ли мы понимаем эти пределы, чтобы поручить ему определенные обязанности.

Поэтому, когда появляется тревожный заголовок, следует задаваться вопросами: что было протестировано, при каких условиях, с каким доступом и с какими мерами защиты? Затем нужно выяснить, что именно демонстрирует данный инцидент. Драматическое описание не является объяснением.

Чрезмерное экстраполирование

История этой области полна прогнозов о том, что машины скоро сравняются или превзойдут людей. Современные системы значительно более способны, чем их предшественники, и в некоторых аспектах, например, в разработке программного обеспечения и математике, они уже превосходят нас. Прогресс шел чрезвычайно быстро.

Урок истории заключается в том, что настоящий прогресс соблазняет нас делать слишком далеко идущие предположения. Одна из причин таких уверенных прогнозов может заключаться в том, что ИИ использует язык очень бегло. Поскольку язык является центральным элементом человеческого опыта, мы описываем плавные системы человеческими терминами: они думают, хотят, беспокоятся. Эти слова несут в себе предположения о разумности и намерении, которые производительность технологии не подтверждает.

Поведение системы должно рассматриваться серьезно и тщательно анализироваться, не позволяя человекоподобным описаниям выполнять работу анализа. Возможности ИИ неоднородны. Люди, ежедневно работающие с этими системами, видят, как они впечатляюще справляются со сложным языком и рассуждениями, а затем терпят неудачу в чем-то, что человек посчитал бы тривиальным. В организации, которая интегрировала ИИ в свои рабочие процессы или обслуживание клиентов, такие сбои могут привести к значительным потерям. Они не говорят о злонамеренных намерениях; они показывают, что успех в одной задаче не гарантирует надежности в другой.

Поэтому советы директоров и руководители должны отдавать предпочтение локализованному ИИ, созданному для их конкретной среды, а не мощным, но неограниченным общим системам. Также нельзя предполагать, что мера предосторожности, работающая в одной обстановке, будет работать и в другой.

Существует и более тонкий риск: что лошадь обучает всадника. ИИ еще не обрел сознания или не выработал стремления изменить нас, но организации адаптируются к инструментам, которые они используют. Руководителям следует задаться вопросом, начали ли их сотрудники доверять беглым ответам, не проверяя их, перестраиваются ли процессы вокруг того, что может произвести система, а не того, что требует задача, и постепенно ли передается суждение, потому что ИИ кажется более способным, чем есть на самом деле.

Ответ заключается в точном определении того, где и как используется ИИ. Прежде чем приступить к работе, африканские предприятия должны ответить на пять вопросов:

  • Назовите задачу: Что именно просит сделать ИИ?
  • Проверьте в реальных условиях: Работает ли система с реальными клиентами? Понимает ли она, как они используют язык?
  • Ограничьте воздействие: Какая информация ей действительно нужна? Нужен ли ей доступ ко всем данным, которые вы предполагали?
  • Проверьте работу: Как будут обнаруживаться ошибки? Какие меры контроля предусмотрены в областях высокого риска, таких как конфиденциальность клиентов?
  • Сохраните ясность ответственности: Кто несет ответственность, когда система выходит из строя? Где и когда человек должен вмешаться?

Ответственное внедрение ИИ основано на умеренном, но требовательном стандарте: использовать ИИ там, где он доказывает свою ценность в контексте, ограничивать его пропорционально риску и сохранять ответственность за людьми, которые решили его развернуть.

Популярное