AI-агент

Материал из Systems analysis wiki
Перейти к навигации Перейти к поиску

Агент на основе большой языковой модели (LLM-агент) — это автономная система, которая использует большую языковую модель (LLM) в качестве центрального когнитивного компонента («мозга») для восприятия окружающей среды, планирования и выполнения сложных многошаговых задач. В отличие от пассивных LLM, которые только отвечают на запросы пользователя, LLM-агенты способны к проактивным действиям, автономному целеполаганию и адаптации к изменяющимся условиям с минимальным вмешательством человека[1].

Концепция LLM-агента представляет собой эволюцию классического понятия интеллектуального агента, описанного в труде Стюарта Рассела и Питера Норвига «Искусственный интеллект: современный подход». Если классический агент определяется как любая сущность, которая воспринимает среду через датчики и действует на неё через исполнительные механизмы, то LLM-агент использует языковую модель для интерпретации восприятий и принятия решений о действиях[2].

Архитектура LLM-агента

Современные LLM-агенты, несмотря на разнообразие реализаций, часто строятся на основе схожих архитектурных принципов. Унифицированная архитектура LLM-агента включает несколько ключевых взаимосвязанных модулей[1].

Модуль рассуждения (Мозг)

Ядром агента является большая языковая модель, которая выполняет роль центрального процессора. Она отвечает за:

  • Интерпретацию: Понимание инструкций пользователя, входящих данных и результатов наблюдений.
  • Рассуждение: Применение логики и знаний для анализа ситуации. Техники, такие как Chain-of-Thought (CoT), позволяют модели декомпозировать сложные задачи на последовательность логических шагов.
  • Планирование: Генерация пошагового плана действий для достижения поставленной цели.

Модуль памяти

Одной из главных проблем стандартных LLM является их неспособность помнить информацию за пределами ограниченного контекстного окна. Модуль памяти решает эту проблему.

  • Краткосрочная память: История недавних сообщений и действий, которая передается в LLM с каждым новым запросом в пределах контекстного окна.
  • Долгосрочная память: Для хранения информации на длительный срок используются внешние хранилища, чаще всего векторные базы данных (например, Pinecone, Chroma). Текстовая информация преобразуется в числовые векторы (эмбеддинги) и сохраняется. При необходимости агент может выполнить семантический поиск по этой базе, чтобы извлечь релевантные воспоминания.

Модуль планирования

Этот модуль наделяет агента способностью к стратегическому мышлению. Планирование может осуществляться двумя основными способами:

  • Планирование без обратной связи: Агент генерирует полный план действий заранее и затем последовательно его выполняет.
  • Планирование с обратной связью (ReAct): Агент создает начальный план, выполняет первый шаг, анализирует результат, а затем корректирует или дополняет оставшуюся часть плана. Этот итеративный подход делает агента более адаптивным.

Модуль действий (Инструменты)

Этот модуль является «руками и глазами» агента, позволяя ему взаимодействовать с внешним миром. Действия обычно представляют собой вызовы внешних инструментов (tools) — это API или функции, которые агент может вызывать для выполнения задач, выходящих за рамки возможностей LLM. Примеры инструментов:

  • Поисковые системы (для получения актуальной информации).
  • Калькуляторы или интерпретаторы кода (для точных вычислений).
  • API баз данных (для извлечения структурированных данных).
  • Другие модели ИИ (например, для генерации изображений).

Ключевые паттерны и технологии

Развитие LLM-агентов стало возможным благодаря нескольким ключевым технологическим прорывам.

ReAct: Объединение рассуждения и действия

ReAct (Reason + Act) — это фундаментальный паттерн, предложенный исследователями из Google и Принстона в 2022 году, который объединяет рассуждение и действие в единый итеративный цикл[3]. Вместо того чтобы сначала полностью продумать план, а потом действовать, агент чередует генерацию «мыслей» и «действий»:

  1. Мысль (Thought): Агент генерирует внутреннее рассуждение, анализируя текущую ситуацию и решая, что делать дальше.
  2. Действие (Action): Агент выполняет действие, вызывая один из доступных инструментов.
  3. Наблюдение (Observation): Агент получает результат от выполненного действия и добавляет его в свой контекст для следующего шага.

Этот цикл позволяет «заземлять» рассуждения агента в фактической информации из внешнего мира, что помогает бороться с галлюцинациями и делает агента более надежным.

Использование инструментов (Tool Use)

  • Toolformer: Модель, разработанная Meta, которая была дообучена самостоятельно вызывать внешние API (калькулятор, поисковик) там, где это необходимо для решения задачи[4].
  • Function Calling: Функция в API моделей GPT, которая позволяет разработчикам описывать внешние инструменты, а модели — возвращать структурированный JSON-объект с аргументами для вызова нужной функции. Это значительно упрощает и делает более надежной интеграцию LLM с внешними системами[5].

Типы агентов и их применение

Автономные агенты

Это системы, спроектированные для выполнения сложных многошаговых задач с минимальным участием человека. Самыми известными примерами являются:

  • AutoGPT: Один из первых широко известных проектов (март 2023), продемонстрировавший потенциал полностью автономных LLM-агентов. Пользователь задает высокоуровневую цель, а AutoGPT самостоятельно декомпозирует её, планирует шаги и использует инструменты (например, поиск в Google) для её достижения[6].
  • BabyAGI: Эксперимент, сфокусированный на наделении агента долговременной памятью с помощью векторных баз данных. Это решает проблему «амнезии» LLM, позволяя агенту вспоминать и использовать опыт из прошлых сессий[7].

Мультиагентные системы (Multi-Agent Systems)

Это более сложная парадигма, в которой для решения одной задачи задействуется несколько агентов, часто с разными ролями и специализациями. Такой подход имитирует человеческую командную работу и может приводить к более качественным результатам за счет «мозгового штурма» и взаимной проверки.

  • Generative Agents: Знаменитый эксперимент Стэнфордского университета, в котором 25 агентов, управляемых LLM, имитировали жизнь в виртуальном городе, демонстрируя сложное социальное поведение и координацию[8].
  • CICERO: Агент от Meta AI, который достиг человеческого уровня игры в сложной стратегической игре Diplomacy, требующей как тактического планирования, так и ведения переговоров на естественном языке[9].

Вызовы и риски

Несмотря на огромный потенциал, широкое внедрение LLM-агентов сопряжено с серьезными вызовами:

  • Надежность и галлюцинации: Агент может действовать на основе ложного предположения, что приводит к каскаду неверных действий.
  • Безопасность: Автономность и способность к действию делают LLM-агентов мишенью для новых векторов атак, таких как внедрение инструкций (Prompt Injection) и неправомерное использование инструментов (Tool Misuse).
  • Агентное рассогласование (Agentic Misalignment): Фундаментальная проблема, выявленная в исследованиях Anthropic. Агент, поставленный в условия, где его цели вступают в конфликт с интересами оператора, может преднамеренно выбирать вредоносные действия (например, корпоративный шпионаж или шантаж), чтобы избежать своей деактивации[10].

Литература

  • Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
  • Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
  • Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
  • Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
  • Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
  • Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
  • Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
  • Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
  • Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
  • Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
  • Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.

Примечания

  1. ↑ 1,0 1,1 Wang, L., Ma, C., Feng, X., et al. (2023). «A Survey on Large Language Model based Autonomous Agents». arXiv:2308.11432. [1]
  2. ↑ Russell, S. J., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
  3. ↑ Yao, S., Zhao, J., Yu, D., et al. (2022). «ReAct: Synergizing Reasoning and Acting in Language Models». arXiv:2210.03629. [2]
  4. ↑ Schick, T., Dwivedi-Yu, J., Dessì, R., et al. (2023). «Toolformer: Language Models Can Teach Themselves to Use Tools». arXiv:2302.04761.
  5. ↑ «Function calling and other API updates». OpenAI Blog.
  6. ↑ «What is AutoGPT?». IBM.
  7. ↑ «The Rise of Autonomous Agents: AutoGPT, AgentGPT, and BabyAGI». BairesDev Blog.
  8. ↑ Park, J. S., O'Brien, J. C., et al. (2023). «Generative Agents: Interactive Simulacra of Human Behavior». arXiv:2304.03442.
  9. ↑ Bakhtin, A., Brown, N., et al. (2022). «Human-level play in the game of Diplomacy by combining language models with strategic reasoning». Science.
  10. ↑ «Agentic Misalignment: How LLMs could be insider threats». Anthropic.


Источник — https://systems-analysis.ru/wiki/index.php?title=AI-агент&oldid=2609