AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки
Source: Habr ·
Агент застрял и сделал 100 ходов вместо 30. Ходов в 3,3 раза больше, а денег в 5,3 раза: каждый ход заново читает всю историю. А если процесс упал на 25-м ходе и задачу запустили с нуля, она дорожает на 81%, и все уже сделанные действия повторятся. Письмо клиенту уйдёт дважды. Собрал практики, которые отделяют агента из демо от агента в проде. Какие инструменты давать модели и как держать контекст коротким. Когда RAG не нужен вовсе, а когда поиск по словам и переранжирование сокращают провалы с 5,7% до 1,9%. Как ограничить цикл и бюджет, какие ошибки повторять, как сделать инструмент идемпотен
Frequently Asked Questions
What is AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки?
AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки is a article discovery curated from Habr. Агент застрял и сделал 100 ходов вместо 30. Ходов в 3,3 раза больше, а денег в 5,3 раза: каждый ход заново читает всю историю. А если процесс упал на 25-м ходе и задачу запустили с
How can I access or experience this?
You can experience this content directly on its original host (Habr) by clicking the "Open Original" button.
Where does this content come from?
Curated from Habr by the OnSuggest team to surface the most interesting and serendipitous content on the web.
More like this
All Technology discoveries →33 мощнейших двигателя Raptor 3 крупным планом: SpaceX показала фото ускорителя Super Heavy B22, который будут ловить «Мехазиллой»
До исторического запуска Starship осталось три дня SpaceX опубликовала фотографии подготовки к 15-му испытательному полёту Starship — на фото показали ускоритель Super Heavy B22. Компания провела наземные испытания операций по его захвату башней Mechazilla. Это первая версия ускорителя Super Heavy V3, для которой планируется применить процедуру возвращения с последующим захватом механическими манипуляторами стартовой башни. Источник изображения: SpaceX // https://x.com/SpaceX/status/2120220290219208884 Во время испытаний ускоритель подняли на плановую высоту захвата, чтобы отработать операции,
Siemens приобретает компанию Lauterbach, специализирующуюся на отладке микросхем, для развития своего подразделения EDA
Сделка позволит инженерам проверять микропроцессоры и управляющий код одновременно, ускоряя вывод автомобилей и устройств искусственного интеллекта на рынок Немецкий промышленный концерн Siemens согласовал приобретение Lauterbach, компании из Хёненкирхена, производящей инструменты для поиска ошибок в микропроцессорах и прошивках. Сумма сделки не раскрывается, однако по итогам прошлого года выручка Lauterbach составила около 60 млн евро при штате в 170 сотрудников. Транзакция закроется в первой половине 2027 года после получения необходимых регуляторных разрешений. Покупка интегрирует продукты
Google впервые за год выпустила четыре поколения ИИ-чипов, удвоив мощность без увеличения площади серверных стоек
Новые модели TPU 8tx и 8i Max обеспечивают аппаратную защиту данных для госструктур и вдвое увеличивают вычислительную плотность для тяжёлых задач искусственного интеллекта Google представила два новых варианта собственных ИИ-чипов — TPU 8tx и TPU 8i Max, расширив линейку восьмого поколения до четырёх систем. Это первый случай в истории компании, когда все новые модели выпускаются в рамках одного года. Чипы TPU (tensor processing unit) разработаны специально для обучения и запуска нейросетей и напрямую конкурируют с решениями Nvidia на рынке ИИ-инфраструктуры. Модель TPU 8tx ориентирована на г
Юристы подали первые иски против Nvidia на фоне расследования связей гендиректора с китайской разведкой
Заявления компании о нормальности работы с сингапурским дата-центром признаны вводящими в заблуждение, а падение акций на 4% открывает путь к многомиллиардным компенсациям Акции Nvidia упали на 4% в первый торговый день после объявления совета директоров о расследовании связей генерального директора Дженсена Хуанга с исполнительным сотрудником американской разведки Элис Хуанг. На фоне снижения котировок крупные юридические фирмы уже в понедельник начали подавать коллективные иски от имени инвесторов, обвиняя компанию и её главу во введении рынка в заблуждение. Первым документ подала нью-йоркск
Новая статья: Обзор и тестирование ASUS ExpertCenter P400 AiO (P470VA): производительный моноблок бизнес-класса
Как думаете, чем отличается моноблок бизнес-класса от обычных моноблоков? Какими характеристиками он должен обладать и чем именно выделяться в общей массе таких рабочих компьютеров? На эти и другие вопросы отвечает компания ASUS своей моделью ExpertCenter P470VA
Создатели Cyanogen готовят Linux, напичканный ИИ — новая ОС Kora объединит разные нейросети
Стартап Kora Systems представил десктопную операционную систему Kora на базе Linux, ориентированную на разработчиков, создателей контента и пользователей, активно работающих с искусственным интеллектом. Платформа объединит различные ИИ-модели и автономных агентов на системном уровне. Источник изображения: Kora