Несмотря на всю автоматизацию, встроенную в современные самолеты, самые важные решения в чрезвычайной ситуации по-прежнему остаются за человеком в кабине пилота, зачастую в условиях жесткого временного давления.
Именно эта суровая реальность побудила исследователей из Стэнфордского университета к необычному сотрудничеству со Школой летчиков-испытателей ВВС США : разместить в кабине пилота искусственного интеллекта в качестве «второго пилота», чтобы оценить, может ли он помочь пилотам принимать более безопасные решения, когда каждая секунда на счету.
Проект, реализованный в рамках DAF-Stanford AI Studio, вышел далеко за рамки теории. После нескольких месяцев испытаний на симуляторе система была испытана на борту самолета Learjet 25 летчиками-испытателями ВВС, что стало редким случаем оценки генеративного ИИ в реальных чрезвычайных ситуациях на борту самолета, а не только в лабораторных условиях или на симуляторе.
Идея зародилась в Лаборатории интеллектуальных систем Стэнфордского университета под руководством Майкела Кохендерфера, доцента кафедры аэронавтики и космонавтики, чья работа сосредоточена на принятии решений в критически важных с точки зрения безопасности средах. Для Кохендерфера эта задача также имеет личный характер.
«Пилоты проходят интенсивную подготовку к чрезвычайным ситуациям, но базы данных аварий показывают, что многие происшествия происходят из-за человеческой ошибки, — сказал он. — Если мы сможем как можно быстрее донести до пилота необходимую информацию, мы сможем значительно повысить безопасность».
Вместо того чтобы пытаться заменить экспертную оценку пилотов, команда поставила перед собой задачу создать помощника, предназначенного для тихой работы в фоновом режиме, снижая рабочую нагрузку именно тогда, когда когнитивное напряжение достигает пика.
В результате получилась система на базе планшета, работающая на iPad и использующая технологию генерации с дополненной реальностью, по сути, аналог «Ctrl + F» в авиационной сфере, позволяющая за считанные секунды сканировать руководства по эксплуатации, аварийные контрольные списки и техническую документацию.
Марк Шлихтинг, аспирант, работающий над этим проектом, сказал, что время — это самое суровое ограничение в кабине пилота.
«Когда пилот обнаруживает неисправность, например, загорается сигнальная лампочка, время всегда является ограничивающим фактором», — объяснил он. «Обычно они просматривают контрольные списки и руководства, чтобы диагностировать проблему. А помощник может просмотреть эти источники и предоставить рекомендации в течение нескольких секунд. Это может показаться незначительным, но в экстренной ситуации эти секунды имеют значение». Команда прекрасно осознавала риски, связанные с генеративным ИИ, в частности, опасность уверенной, но некорректной обработки результатов. Кохендерфер сказал, что значительная часть усилий по разработке была сосредоточена на снижении этого риска и обеспечении надежности ответов системы в условиях максимальной нагрузки.
Перед первым полетом система прошла интенсивную проверку в полнофункциональном исследовательском симуляторе Стэнфордского университета. Платформа с шестью степенями свободы воссоздает движение самолета, вибрацию и управляющие воздействия, что позволяет исследователям имитировать редкие каскадные отказы, слишком опасные для попытки воспроизвести в реальном полете.
Шлихтинг прямо описал эти сценарии как «кошмар пилота в контролируемых условиях», комбинации ошибок, призванные отвлечь внимание и проверить, действительно ли помощь ИИ помогает, а не отвлекает. Только после этого этапа проект переместился на авиабазу Эдвардс, где 24 пилота Школы летчиков-испытателей совершили полеты на самолете Learjet 25 в двух тщательно разработанных сценариях аварийных ситуаций: один раз без использования ИИ-помощника, а другой — с его использованием. Цель заключалась не в том, чтобы доказать превосходство ИИ над человеческим суждением, а в том, чтобы измерить его влияние на рабочую нагрузку, скорость диагностики и качество принятия решений.
Майор Джон «Хитер» Алора, директор по операциям в DAF-Stanford AI Studio, заявил, что партнерство является естественным продолжением миссий обеих организаций.
«Стэнфордский университет продвигает границы возможностей искусственного интеллекта и автономных систем, а TPS является ведущим национальным учреждением по тестированию новых технологий авиационных систем», — сказал он.
Для пилотов эти полеты дали представление как о поведении человека, так и о производительности программного обеспечения. Капитан Хорхе «FAIR» Сервантес, студент TPS, участвовавший в испытаниях, сказал, что этот опыт выявил тонкие, но важные закономерности.
Хотя эта работа основана на военных испытательных полетах, ее значение выходит далеко за рамки боевой авиации. Алора отметил, что ИИ-вторые пилоты могут поддерживать длительные военные миссии, а также повышать безопасность и эффективность управления рабочей нагрузкой в кабинах коммерческих самолетов, где экипажи сталкиваются с растущей автоматизацией и плотностью информации.
Результаты летных испытаний все еще анализируются, подробная научная статья ожидается позднее в этом году. Параллельно команда Стэнфордского университета уже работает над версией голосового помощника следующего поколения, добавляя возможности голосового взаимодействия и визуального восприятия, чтобы лучше соответствовать естественному поведению пилотов.
«Каждый этап тестирования был маленьким шагом на пути к созданию уверенности, необходимой для ответственного внедрения ИИ-помощников в критически важных с точки зрения безопасности средах», — сказал Кохендерфер. Конечная цель, добавил он, проста: «сделать полеты безопаснее для всех».