ОБЕСПЕЧЕНИЕ НАДЕЖНОСТИ В ЖИЗНЕННОМ ЦИКЛЕ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ОТВЕТСТВЕННОГО НАЗНАЧЕНИЯ 

Михаил Юрьевич Михеев, доктор технических наук, профессор, заведующий кафедрой информационных технологий и систем, Пензенский государственный технологический университет (Россия, г. Пенза, проезд Байдукова/ ул. Гагарина, 1а/11), E-mail: mix1959@gmail.com
Олег Владимирович Прокофьев, кандидат технических наук, доцент, доцент кафедры информационных технологий и систем, Пензенский государственный технологический университет (Россия, г. Пенза, проезд Байдукова/ ул. Гагарина, 1а/11), E-mail: prokof_ow@mail.ru
Александр Евгеньевич Савочкин, кандидат технических наук, доцент кафедры прикладной информатики, Пензенский государственный технологический университет (Россия, г. Пенза, проезд Байдукова/ ул. Гагарина, 1а/11), E-mail: aebrat@mail.ru
Ирина Юриевна Семочкина, кандидат технических наук, доцент, доцент кафедры информационных технологий и систем, Пензенский государственный технологический университет (Россия, г. Пенза, проезд Байдукова/ ул. Гагарина, 1а/11), E-mail: ius1961@gmail.com 

Аннотация

Актуальность и цели. За последние несколько лет произошло резкое расширение возможностей систем искусственного интеллекта (ИИ), что одновременно привело к новым рискам и потенциальным преимуществам. Автономизация систем, позволяющая перейти от поддержки принятия решений к самостоятельной выработке решения, предоставляет противоречивые результаты в областях ответственного применения в таких чувствительных сферах применения, как здоровье человека, его экологическая среда проживания, экономический и социальный статус. В области вооружений обсуждаются средства создания автономных систем нового поколения и связанной с ними концепции будущей «гипервойны». Материалы и методы. Из-за растущего использования ИИ во всем мире в перечисленных чувствительных областях возникает запрос на надежность при использовании таких автономных систем. Необходимо сформулировать риски и преимущества этой технологии, включая соблюдение фундаментальных этических принципов. Применение критически важных решений должно контролироваться человеком, несущим ответственность. Меры по обеспечению надежности автономной системы с ИИ должны быть предусмотрены на всех этапах жизненного цикла и только таким образом можно контролировать риски и создавать объяснимый и управляемый ИИ. Результаты и выводы. Авторами изложена концепция понятия «надежного» ИИ и описана реализация отдельных ее положений на этапах жизненного цикла автономной системы ответственного назначения. 

Ключевые слова

надежность системы искусственного интеллекта, система ответственного назначения, принятие решений автономной системой 

 Скачать статью в формате PDF

Для цитирования:

Михеев М. Ю., Прокофьев О. В., Савочкин А. Е., Семочкина И. Ю. Обеспечение надежности в жизненном цикле систем искусственного интеллекта ответственного назначения // Надежность и качество сложных систем. 2023. № 3. С. 12–20. doi: 10.21685/2307-4205-2023-3-2