ГЕНЕЗИС РИСКОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
И ИХ РЕАЛИЗАЦИЯ В АВТОНОМНЫХ СИСТЕМАХ
ОТВЕТСТВЕННОГО НАЗНАЧЕНИЯ 

Олег Владимирович Прокофьев, кандидат технических наук, доцент, доцент кафедры информационных технологий и систем, Пензенский государственный технологический университет (Россия, г. Пенза, пр-д Байдукова/ул. Гагарина, 1а/11), E-mail: prokof_ow@mail.ru

Аннотация

Актуальность и цели. Многие исследования искусственного интеллекта с момента его со- здания посвящены изучению множества проблем и подходов для автономной работы в областях применения, связанных со здоровьем и жизнью человека. Представлено описание происхождения рисков, систематизации способов их проявления для построения систем ответственного назначения. Материалы и методы. Поскольку исследования в этой области пока не опираются на большой опыт внедрения, обсуждаемые источники рисков являются обобщением экспертных оценок авторитетных разработчиков и приведены на примере систем автономных вооружений. Результаты. Выявлены основные источники возникновения рисков, траектории их развития для различных вариантов причинно-следственной трансформации. Выводы. Сформулированы направления совершенствования процессов тестирования и отладки автономных систем ответственного назначения с точки зрения развития и формирования рисков применения.

Ключевые слова

риски искусственного интеллекта, генезис рисков, автономные системы, системы ответственного назначения

 Скачать статью в формате PDF

Для цитирования:

Прокофьев О. В. Генезис рисков искусственного интеллекта и их реализация в автономных системах ответственного назначения // Надежность и качество сложных систем. 2025. № 1. С. 20–27. doi: 10.21685/2307-4205-2025-1-3