Гарбук Сергей Владимирович – канд. техн. наук, старший научный сотрудник, директор по научным проектам, председатель технического комитета по стандартизации № 164 «Искусственный интеллект»
г. Москва 101000
Garbuk S.V. – PhD (Eng), senior researcher, Director of Research Projects, Chairman of the Technical Committee for Standardization No. 164 “Artificial Intelligence”
Moscow 101000
Введение (постановка задачи и актуальность). Ключевой задачей обеспечения доверия к автотранспортным средствам с элементами искусственного интеллекта (АТС ИИ) является формирование представительного набора требований, соответствие которым обеспечивает необходимые гарантии функциональности и безопасности АТС ИИ. Отсутствие общепринятых и нормативно закреплённых подходов к обоснованию состава требований сдерживает применение технологий искусственного интеллекта в АТС и, соответственно, препятствует созданию и совершенствованию высокоавтоматизированных транспортных средств. Цель исследования – анализ принципов формирования представительного набора требований к АТС ИИ.
Методология и методы. Встатье используются принципы квалиметрии, адаптированные для информационных систем на основе алгоритмов машинного обучения, методы системного анализа, математической статистики, комбинаторики, теории множеств, принципы исчисления высказываний. Результаты и научная новизна. Сформулирован подход к обоснованию статистически репрезентативного набора требований к АТС ИИ, позволяющего в достаточной мере оценивать соответствие этих систем ожиданиям потребителей, разработчиков, поставщиков, регуляторов и других заинтересованных сторон. Рассмотрена структура таких ожиданий и приоритетов с учётом особенностей создания и применения систем ИИ. Показано, что требования заинтересованных сторон распространяются как на процессы жизненного цикла АТС ИИ, так и на системы как таковые с учётом определённых (предусмотренных) условий их эксплуатации. Рассмотрены различные существенные факторы, вариативность которых задаёт предусмотренные условия эксплуатации, и сформулированы условия репрезентативности тестовых наборов данных, используемых для испытания АТС ИИ. Показано, что АТС ИИ для сокращения размерности пространства предусмотренных условий эксплуатации могут быть декомпозированы на отдельные функциональные подсистемы и далее – на частные алгоритмы ИИ. Предложены способы проведения такой функциональной декомпозиции.
Практическая значимость. Предложенные в статье принципы обоснования состава требований могут быть использованы при проведении сертификационных испытаний алгоритмов искусственного интеллекта, используемых в высокоавтоматизированных транспортных средствах.
Introduction (problem statement and relevance). The key task of ensuring confidence in motor vehicles with elements of artificial intelligence (AI vehicles) is forming of a representative set of requirements compliance with which ensures the necessary guarantees of AI vehicle functionality and safety.
Absence of generally accepted and statutory approaches to justification of the requirements content constrains application of artificial intelligence technologies in motor vehicles and, respectively, impedes creation and improvement of highly automated vehicles. The purpose of the study is to analyze the principles of forming of a representative set of requirements for AI vehicles. Methodology and research methods. The paper uses the principles of qualimetry adapted for the information systems based on machine learning algorithms, it also uses the methods of system analysis, mathematical statistics, combinatorics, set theory and propositional calculus principles. Scientific novelty and results. The approach is formulated to justify the statistically representative set of requirements for AI vehicles, and that allows adequate and accurate assessment of compliance of these systems with the expectations of the customers, developers, suppliers, regulatory authorities and other stakeholders. The structure of such expectations and priorities has been considered taking into account creation and application of AI systems. It is shown that stakeholder requirements apply to both the AI vehicle life cycle processes and the systems per se taking into account particular (given) conditions of their operation. Different significant factors, which variability sets the intended operating conditions, have been considered and conditions of representativeness of test data sets used for AI vehicle trials have been formulated. It is shown that, in order to reduce the dimensionality of space of the intended operating conditions, AI vehicles can be decomposed into separate functional subsystems and then into individual AI algorithms. The ways to perform such functional decomposition have been suggested. Practical significance.
The principles of justification of the requirements content offered in the paper can be used in certification testing of artificial intelligence algorithms that are used in highly automated vehicles.
The authors declare that there are no conflicts of interest present.