Статья 2125
| Название статьи |
РИСКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ИСПОЛЬЗОВАНИИ |
| Авторы |
Михаил Юрьевич Михеев, доктор технических наук, профессор, заведующий кафедрой информационных технологий и систем, Пензенский государственный технологический университет (Россия, г. Пенза, пр-д Байдукова/ул. Гагарина, 1а/11), E-mail: mix1959@gmail.com |
|
Аннотация |
Актуальность и цели. Применение автономных устройств с искусственным интеллектом в социотехнических системах привело к появлению новых задач, решение которых значительно сложнее по сравнению с задачами предыдущего этапа совершенствования человекомашинного интерфейса. Авторами работы было проведено исследование по выявлению источников риска в социотехнических системах и способов их снижения на этапах жизненного цикла автономных устройств. Материалы и методы. В исследовании ис- пользованы данные открытых отчетов к статистическим опросам разработчиков и пользователей устройств ответственного назначения, отчетов об исследовании аварий автономного транспорта Uber AV. Результаты. Даны формулировки источников риска, возникающих при использовании автономных устройств с искусственным интеллектом в социотехнических системах. Представлен пример жизненного цикла устройства, предусматривающий контроль человека на этапах разработки и эксплуатации. Выводы. Управление рисками в случаях ответственного применения устройства возможно при соответствии реальных этапов жизненного цикла перечисленному в статье ряду критериев безопасности. |
|
Ключевые слова |
риски искусственного интеллекта, социотехнические системы, автономные устройства, устройство ответственного назначения |
 |
|
|
Для цитирования: |
Михеев М. Ю., Прокофьев О. В., Семочкина И. Ю. Риски искусственного интеллекта при использовании в социотехнических системах // Надежность и качество сложных систем. 2025. № 1. С. 12–19. doi: 10.21685/2307-4205-2025-1-2 |
Дата обновления: 24.04.2025 09:17