DARPA разработает AI для принятия антикризисных решений
Управление перспективных исследовательских проектов Министерства обороны США (Defense Advanced Research Projects Agency или DARPA) презентовало программу In the Moment (ITM). Ее задача заключается в объединении алгоритмов большой языковой модели с человеческим мышлением в критических ситуациях, где нет однозначного решения.
Уже более 50 лет DARPA находится в авангарде новаторских разработок (R&D). Сегодня — это лидер и спонсор всех инновационных исследований в области AI. Управление было создано Пентагоном в ответ на запуск первого искусственного спутника Земли, осуществленный СССР. Ежегодный бюджет DARPA составляет порядка $3 млрд .Обычно организация концентрируется на краткосрочных программных проектах, которые выполняются совместными усилиями компаний-подрядчиков.
Операции с задействованием вооруженных сил предусматривают широкий спектр возможных сценариев. Это и боевые действия, и медицинская сортировка, и оказание помощи населению. Для всех этих случаев (перечень может быть продолжен) у полевых командиров должны быть готовы быстрые и верные ответы. Сложность в том, что действовать шаблонно им непросто, а зачастую и невозможно. Поэтому даже опытные командиры прибегают к различным вариантам тактики.
Министерству обороны нужны строгие, измеримые и масштабируемые подходы к оценке и созданию алгоритмических систем для принятия сложных решений, когда объективная истина недоступна. Сложные решения — это те, в отношении которых лица, наделенные соответствующими полномочиями, расходятся во мнениях. Правильного ответа не существует, а неопределенность, нехватка времени и противоречивые ценности создают серьезные проблемы выбораобъясняет DARPA амбициозность поставленной задачи
При этом уверенность в способностях AI принимать обоснованные антикризисные решения становится критически важным. Реализовав программу In the Moment, DARPA хочет зафиксировать и алгоритмизировать логику и интуицию, которыми руководствуются военачальники в разных ситуациях. В Управлении видят необходимость выхода за рамки использования только обучающих данных для реализации алгоритмов “вынесения вердикта”, поскольку такие подходы могут быть хрупкими и ненадежными.
Реализовывать ITM будет несколько подрядчиков.
- Компании Raytheon BBN Technologies и Soar Technology, Inc. Они разработают методы, с помощью которых можно собрать личностные характеристики людей, способных принимать решения в кризисных ситуациях. Затем будет сделан профайлинг и определены основные методы, которыми руководствуются уполномоченные военнослужащие. Kitware, Inc. и Parallax Inc. алгоритмизируют полученную от Raytheon BBN Technologies и Soar Technology, Inc. информацию.
- CACI International Inc. проведет оценку результатов программы.
- Лаборатория прикладных исследований разведки и безопасности Университета Мэриленда и Институт оборонного анализа внедрят разработанную модель и рассмотрят этические, правовые и социальные последствия изобретения.
In the Moment направлена на развитие отрасли AI и в конечном счете создание полностью автоматизированных систем принятия решений с возможностью ограниченного вмешательства человека. Осталось сформировать у специалистов и общества доверие к алгоритмам искусственного интеллекта, которые будут самостоятельно делать выбор в сложных и неоднозначных ситуациях.
