Особенности обоснования представительного набора требований к интеллектуальным автотранспортным средствам

Введение (постановка задачи и актуальность). Ключевой задачей обеспечения доверия к автотранспортным средствам с элементами искусственного интеллекта (АТС ИИ) является формирование представительного набора требований, соответствие которым обеспечивает необходимые гарантии функциональности и безопасности АТС ИИ. Отсутствие общепринятых и нормативно закреплённых подходов к обоснованию состава требований сдерживает применение технологий искусственного интеллекта в АТС и, соответственно, препятствует созданию и совершенствованию высокоавтоматизированных транспортных средств. Цель исследования – анализ принципов формирования представительного набора требований к АТС ИИ.

Методология и методы. Встатье используются принципы квалиметрии, адаптированные для информационных систем на основе алгоритмов машинного обучения, методы системного анализа, математической статистики, комбинаторики, теории множеств, принципы исчисления высказываний. Результаты и научная новизна. Сформулирован подход к обоснованию статистически репрезентативного набора требований к АТС ИИ, позволяющего в достаточной мере оценивать соответствие этих систем ожиданиям потребителей, разработчиков, поставщиков, регуляторов и других заинтересованных сторон. Рассмотрена структура таких ожиданий и приоритетов с учётом особенностей создания и применения систем ИИ. Показано, что требования заинтересованных сторон распространяются как на процессы жизненного цикла АТС ИИ, так и на системы как таковые с учётом определённых (предусмотренных) условий их эксплуатации. Рассмотрены различные существенные факторы, вариативность которых задаёт предусмотренные условия эксплуатации, и сформулированы условия репрезентативности тестовых наборов данных, используемых для испытания АТС ИИ. Показано, что АТС ИИ для сокращения размерности пространства предусмотренных условий эксплуатации могут быть декомпозированы на отдельные функциональные подсистемы и далее – на частные алгоритмы ИИ. Предложены способы проведения такой функциональной декомпозиции.

Практическая значимость. Предложенные в статье принципы обоснования состава требований могут быть использованы при проведении сертификационных испытаний алгоритмов искусственного интеллекта, используемых в высокоавтоматизированных транспортных средствах.

1. Технический регламент Таможенного союза «О безопасности колёсных транспортных средств» (ТР ТС 018/2011). URL: https://www.gost.ru/documentManager/rest/file/load/1515751932581 (дата обращения: 12.08.2023).

2. Кисуленко Б.В. Нормирование безопасности автомобилей с искусственным интеллектом // Стандарты и качество. – 2020. – № 5. – С. 92–95.

3. Распоряжение Правительства Российской Федерации от 29 марта 2018 г. № 535-р «О плане мероприятий («дорожной карте») по совершенствованию законодательства и устранению административных барьеров в целях обеспечения реализации Национальной технологической инициативы по направлению «Автонет».

4. Постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по эксплуатации на автодорогах высокоавтоматизированных транспортных средств».

5. ISO 26262-1. Road vehicles. Functional safety. Part 1: Vocabulary.

6. ГОСТ Р ИСО 26262-1-2014. Дорожные транспортные средства. Функциональная безопасность. Часть 1. Термины и определения. – М.: Стандартинформ, 2015. – 20 с.

7. ISO/TC 22/SC 32 Electrical and electronic components and general system aspects. ISO/CD 21448:2019 Road vehicles. Safety of the Intended Functionality. Committee Draft.

8. Доклад Рабочей группы по автоматизированным/автономным и подключённым транспортным средствам о работе её девятой сессии. URL: https://unece.org/sites/default/files/2021-12/ECE-TRANSWP29-GRVA-09r.pdf (дата обращения: 10.08.2023).

9. Artificial intelligence definition and specifics of its application for automated road vehicles. Informal document GRVA-09-23 9th GRVA, 1–5 February 2021. Russia.

10. ГОСТ 34.603-92. Информационная технология. Виды испытаний автоматизированных систем. – Введ. 1993–01–01. – М.: Стандартинформ, 2009. – 6 с.

11. Garbuk S.V. Intellimetry as a way to ensure AI trustworthiness / The Proceedings of the 2018 International Conference on Artificial Intelligence Applications and Innovations (IC-AIAI). – Limassol, Cyprus, 6–10.10.2018. – P. 27– 30.

12. Gendron C., Penser l’acceptabilité sociale: au-delà de l’intérêt, les valeurs // Éthique et relations publiques: pratiques, tensions et perspectives. – 2014. – No. 11, 01.02.2014. – P. 117–129.

13. ISO/IEC 12207:2017. System and software engineering. Software lifecycle processes.

14. Воробьёв Г.Б., Беликов Р.П., Лесин В.С. Кибербезопасность транспорта. Стандарт ГОСТ Р ИСО 11898-1-2015 требует пересмотра? // Стандарты и качество. – 2021. – № 8. – С. 60–63.

15. Кисуленко Б.В., Евграфов В.В., Бочаров А.В., Бурыкина Д.С., Макаров А.В. Критерии обеспечения кибербезопасности автомобилей в международных соглашениях под эгидой ООН и перспективы в России // Труды НАМИ. – 2022. – № 2 (289). – С. 41–50. DOI: 10.51187/0135-3152-2022-2-41-50.

16. Гарбук С.В. Задачи нормативно-технического регулирования интеллектуальных систем информационной безопасности // Вопросы кибербезопасности. – 2021. – № 3. – С. 68–83.

17. SAE J3016. Surface vehicle recommended practice. Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles. June, 2018. 18. Cummings M.L. Adaptation of Human Licensing Examinations to the Certification of Autonomous System / Safe, Autonomous and Intelligent Vehicles; Eds. Yu H., Li X., Murray R.M., Ramesh S., Tomlin C.J. – Springer International Publishing, 2019. – Р. 145–162. URL: https://doi.org/10.1007/978-3-319-97301-2 (дата обращения: 10.06.2023).

18. Котляренко В.И. К вопросу об испытаниях высокоавтоматизированных и беспилотных автотранспортных средств // Труды НАМИ. – 2020. – № 1 (280). – С. 94–102.

19. Иванов А.М., Кристальный С.Р., Попов Н.В. Системы автоматического экстренного торможения. – М.: МАДИ, 2018. – 180 с.

20. SAE J3018. Surface vehicle recommended practice. Safety-Relevant Guidance for On-Road Testing of Prototype Automated Driving System (ADS)-Operated Vehicles. December, 2020.

21. IEEE Standard for Assumptions in Safety‐Related Models for Automated Driving Systems. IEEE 2846-2022.

22. Pollard E., Morignot Ph., Nashashibi F. An Ontology-based Model to Determine the Automation Level of an Automated Vehicle for Co-Driving. Fusion’13, Istanbul, July 10, 2013.

23. Гарбук С.В., Шалаев А.П. Перспективная структура национальных стандартов в области искусственного интеллекта // Стандарты и качество. – 2021. – № 10. – С. 26–33.

24. Кисуленко Б.В. Оценка безопасности высокоавтоматизированных и беспилотных автомобилей // Труды НАМИ. – 2020. – № 2 (281). – С. 6–13.

25. Informal Working Group on Functional Requirements for Automated Vehicles (FRAV) Progress Report to GRVA. Informal document GRVA-09-28. 9th GRVA, 1–5 February 2021. 27. Kuutti S., Fallah S., Bowden R., Barber Ph. Deep Learning for Autonomous Vehicle Control Algorithms, State-of-the-Art, and Future Prospects. Synthesis Lectures on Advances in Automotive Technology, January, 2019.

26. ISO 26262-9:2018. Road vehicles. Functional safety. Part 9: Automotive safety integrity level (ASIL)-oriented and safety-oriented analyses.

27. Waldmeir P. Driverless cars must navigate human foibles // Financial Times, 2 January 2019.

28. ГОСТ Р 70251-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов обнаружения и распознавания препятствий. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.

29. ГОСТ Р 70252-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов низкоуровневого слияния данных. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.

30. ГОСТ Р 70253-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов обнаружения и реконструкции структуры перекрёстков. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.

31. ГОСТ Р 70254-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов прогнозирования поведения участников дорожного движения. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.

32. ГОСТ Р 70255-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов обнаружения и распознавания дорожных знаков. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.

33. ГОСТ Р 70256-2022. Системы искусственного интеллекта на автомобильном транспорте. Системы управления движением транспортным средством. Требования к испытанию алгоритмов контроля обочины и полосы движения. – Введ. 2023–01–01. – М.: Российский институт стандартизации, 2022. – 12 с.