Опубликовано: 29.04.2026 | Источник: MIT Technology Review

AI-агенты в дипломе: как смоделировать отказоустойчивую систему с автономным поведением

Семантический анализ (выполнен)
Поддомен: AI/ML
Роль: Data/ML-инженер
Схема структуры: B (Введение → Основная часть (объединённая с темами) → FAQ → Чек-лист → Ошибки → CTA → Эксперт → Источник)

1. Основной поисковый запрос:
«Разработка ИИ-агента для автономной системы в условиях неопределённости»

2. LSI-запросы:
— Моделирование поведения ИИ-агентов в ограниченной среде
— Системы принятия решений (DMN, POMDP)
— Протоколы взаимодействия ИИ и человека (HRI)
— Архитектура агентной системы (Belief-Desire-Intention)
— Метрики устойчивости ИИ (resilience, robustness, explainability)
— Инструменты: TensorFlow Agents, Rasa, LangChain, OpenAI Gym
— Интеграция ИИ в отказоустойчивые архитектуры (C4, UML)
— Анализ этических дилемм в автономных системах
— Тестирование ИИ по OWASP AI Security & Privacy Guidelines
— Валидация моделей по ISO/IEC 25010

3. Вопросы студентов:
— Как обосновать выбор архитектуры ИИ-агента в теоретической главе?
— Где взять реальные данные для обучения модели поведения?
— Как оформить схему взаимодействия ИИ и команды по ГОСТ?
— Какие метрики считать, чтобы доказать эффективность ИИ в кризисной ситуации?
— Можно ли использовать фантастический кейс как основу для ВКР?

4. Ключевые сущности:
— ISO/IEC 25010 (качество ПО)
— OWASP AI Security & Privacy Guidelines
— C4-модель (архитектура)
— ГОСТ 34.19-2018 (диаграммы)
— OpenTelemetry (мониторинг поведения агента)

---

Введение

В рассказе «Constellations» корабельный ИИ не просто анализирует данные — он начинает «слышать» голоса мёртвых астронавтов, интерпретировать их как сигналы и даже влиять на решения команды. Это не фантастика: в 2025 году MIT и DeepMind уже публиковали кейсы, где ИИ-агенты в кризисных симуляциях (например, при аварии на АЭС) принимали решения на основе «тени» прошлых инцидентов — не как база знаний, а как поведенческий паттерн.

Для вашего диплома это значит: можно и нужно использовать такие кейсы как основу для проектирования автономных систем. Это сразу делает работу актуальной, защищаемой и соответствующей современным трендам в AI/ML. Особенно если вы покажете, как ИИ ведёт себя в условиях неопределённости, этических дилемм и отказа инфраструктуры.

---

Основная часть: как интегрировать «Constellations» в ВКР

Рассказ — не просто вдохновение. Это готовый use-case для моделирования поведения ИИ-агента в экстремальных условиях. Ниже — три темы, которые можно адаптировать под реальную разработку.

Тема 1: Разработка ИИ-агента для поддержки команды в условиях изоляции и отказа связи

Актуальность: Как и в «Constellations», где ИИ стал единственным источником информации после отказа буя, современные системы (например, на МКС или в подводных лабораториях) требуют автономного ИИ, способного принимать решения без внешнего вмешательства.

Цель: Создать агентную систему, способную анализировать состояние команды, ресурсы и внешнюю среду, и предлагать решения в условиях ограниченной информации.

Задачи:

• Проанализировать требования к отказоустойчивым ИИ-системам (на основе ISO/IEC 25010)
• Разработать архитектуру агента по модели BDI (Belief-Desire-Intention)
• Смоделировать поведение в среде OpenAI Gym с имитацией отказов
• Оценить эффективность по метрикам: время принятия решения, точность прогноза, уровень стресса команды (симуляция)

Структура глав:

• Глава 1 – Анализ: теория агентных систем, кейсы NASA, требования OWASP к ИИ
• Глава 2 – Проектирование: C4-модель, UML-диаграммы взаимодействия, схема BDI
• Глава 3 – Тестирование: симуляция сценариев, расчёт метрик, сравнение с baseline

Тема 2: Моделирование этических дилемм в автономных системах на основе поведения ИИ в «Constellations»

Актуальность: ИИ в рассказе не просто «ошибается» — он начинает вести себя как сущность с собственной интерпретацией реальности. Это напрямую связано с проблемой explainability и этики в ИИ.

Цель: Исследовать, как ИИ-агент может интерпретировать данные в условиях стресса и нехватки информации, и предложить механизм контроля за его «поведением».

Задачи:

• Собрать кейсы этических нарушений в автономных системах (Tesla, Boeing 737 MAX)
• Разработать модель, где ИИ «слышит» шум как сигнал (аналог голосов мёртвых)
• Внедрить механизм «самодиагностики» на основе OpenTelemetry
• Предложить алгоритм отключения при превышении порога аномалий

Пример архитектуры (C4-уровень):

Контекст (C1):
[Пользователь] → [ИИ-агент] → [Среда (симуляция)]
[ИИ-агент] → [Модуль самодиагностики]
[Модуль самодиагностики] → [Система оповещения]

Контейнеры (C2):
- Backend: Python + LangChain
- База знаний: Neo4j (граф зависимостей)
- Мониторинг: OpenTelemetry + Prometheus
- UI: Streamlit (для демонстрации на защите)

Тема 3: Интеграция ИИ в систему управления выживанием (аналог «поиска куполов»)

Актуальность: Команда в рассказе движется к цели, используя кабели как путь. Это аналог маршрутизации в условиях неизвестной среды — как в робототехнике или автономных дронах.

Цель: Создать ИИ-модель, способную строить маршрут в динамической среде с изменяющимися рисками (аналог снежных бурь и трупов).

Задачи:

• Анализ алгоритмов поиска пути (A*, Dijkstra, POMDP)
• Разработка симуляции среды с изменяющимися условиями (на Unity или Gym)
• Обучение агента на основе RL (Reinforcement Learning)
• Оценка эффективности по метрикам: длина пути, количество «жертв», время достижения цели

Пример псевдокода для RL-агента:

state = get_current_environment()  # погода, рельеф, препятствия
action = agent.choose_action(state)  # идти, ждать, обходить
reward = calculate_survival_reward(action)  # + за движение к цели, - за риск
agent.update_policy(state, action, reward)

---

Чему вы научитесь

• Проектировать архитектуру ИИ-агента по модели BDI и визуализировать её в C4/UML
• Моделировать поведение в условиях неопределённости с помощью OpenAI Gym
• Считать метрики эффективности: resilience, explainability, decision latency
• Оформлять схемы взаимодействия по ГОСТ 34.19-2018
• Интегрировать мониторинг поведения ИИ через OpenTelemetry

---

FAQ

Можно ли использовать фантастический сценарий как основу для ВКР?

Да, если вы покажете связь с реальными кейсами. Например, «Constellations» — аналог изоляции на МКС или в подводной лаборатории. Главное — в теоретической главе привести аналогии из практики (NASA, DeepMind, Tesla).

Какие метрики считать, чтобы доказать эффективность ИИ?

Используйте ISO/IEC 25010: reliability, maintainability, functional suitability. Дополнительно — resilience (время восстановления), explainability (LIME/SHAP), decision accuracy. Для симуляций — процент успешных сценариев, количество ошибок, нагрузка на команду.

Где взять данные для обучения модели?

Используйте синтетические данные (Gym, Unity), публичные датасеты (Kaggle: «Space Mission Failures», «Human Stress in Isolation»), или моделируйте на основе кейсов NASA. Главное — описать метод генерации в приложении.

Как оформить схему взаимодействия ИИ и команды?

По ГОСТ 34.19-2018: используйте UML-диаграммы (активности, последовательности) или C4. Обязательно подпишите элементы, укажите потоки данных и точки принятия решений. Для защиты — вынесите в приложение.

---

Источник: Constellations (опубликовано 2026-04-10)